Zum Inhalt springen

KI im Unternehmen, ohne dass deine Daten bei fremden Servern landen.

ChatGPT ist praktisch, aber bei sensiblen Daten datenschutzrechtlich heikel. Es geht auch anders, mit einem Modell, das auf deinem eigenen Server läuft.

Das eigentliche Problem mit ChatGPT im Betrieb

Viele Unternehmen nutzen mittlerweile ChatGPT für Zusammenfassungen, E-Mail-Entwürfe oder erste Recherchen. Rechtlich wird es heikel, sobald personenbezogene Daten hineinfließen: eine Kundenanfrage mit Namen und Adresse, ein Mitarbeitergespräch, ein Vertragsentwurf mit sensiblen Details. Diese Daten verlassen dann den eigenen Einflussbereich und werden bei einem US-Anbieter verarbeitet.

Das bedeutet nicht automatisch einen Rechtsverstoß, DSGVO-konforme Nutzung ist mit den richtigen Verträgen grundsätzlich möglich. In der Praxis wird es aber selten sauber dokumentiert, und genau da entsteht das Risiko.

Die Alternative: eigene Modelle auf eigener Hardware

Mit Ollama lassen sich leistungsfähige Sprachmodelle lokal betreiben, auf einem eigenen Server oder sogar auf einem gut ausgestatteten Bürorechner. Die Anfragen und Dokumente verlassen dabei nie diesen Server. Es gibt keine Datenübertragung an einen externen Anbieter, weil es diesen Anbieter im Ablauf schlicht nicht gibt.

Ergänzt um eine Oberfläche wie OpenWebUI fühlt sich die Bedienung fast identisch zu ChatGPT an, nur eben komplett unter eigener Kontrolle.

Was so ein System in der Praxis leisten kann

AnwendungsfallWas passiert
Auskunft aus eigenen DokumentenDas Modell durchsucht deine Handbücher, Verträge oder Protokolle und antwortet auf Basis dieser Inhalte
E-Mail-VorsortierungEingehende Nachrichten werden automatisch kategorisiert oder zusammengefasst
Interne ZusammenfassungenLange Protokolle oder Berichte werden auf das Wesentliche verdichtet
Assistent für MitarbeitendeFragen zu internen Abläufen werden beantwortet, ohne jedes Mal jemanden zu fragen

Wo die Grenzen liegen

Ehrlich betrachtet: Ein selbst gehostetes Modell auf üblicher Hardware erreicht nicht die Bandbreite der größten kommerziellen Modelle bei sehr allgemeinem Weltwissen. Für klar umrissene betriebliche Aufgaben, bei denen es um deine eigenen Daten und Abläufe geht, reicht die Leistung in aller Regel völlig aus. Genau da schauen wir im Erstgespräch gemeinsam hin, manchmal lautet die ehrliche Antwort auch, dass KI an dieser Stelle nichts bringt.

Guter Einstieg: Eine Aufgabe, bei der ein Fehler nichts kostet. Interne Zusammenfassungen oder ein Assistent für die eigenen Unterlagen sind ein risikoarmer erster Schritt, bevor größere Entscheidungen anstehen.

Was der Einstieg kostet

Ein KI-Grundaufbau mit Ollama und Oberfläche liegt bei ab 1.200 Euro, eine Anbindung an eigene Dokumente bei ab 2.500 Euro. Details zu Technik und Umsetzung stehen auf der Seite KI-Beratung, alle Zahlen auf der Preisseite.

Häufige Fragen

Ist ChatGPT im Unternehmen grundsätzlich verboten?
Nicht grundsätzlich verboten, aber bei personenbezogenen oder vertraulichen Daten datenschutzrechtlich riskant, da die Verarbeitung bei einem US-Anbieter stattfindet. Für unkritische, allgemeine Anfragen ohne Personenbezug ist die Nutzung meist unproblematisch.
Was ist Ollama und wie unterscheidet es sich von ChatGPT?
Ollama ist eine Software, mit der sich Sprachmodelle lokal auf eigener Hardware betreiben lassen. Anders als bei ChatGPT verlassen die Eingaben und Dokumente dabei nie den eigenen Server.
Ist eine selbst gehostete KI genauso gut wie ChatGPT?
Bei sehr allgemeinem Wissen liegen die großen kommerziellen Modelle meist vorn. Für klar umrissene betriebliche Aufgaben wie Zusammenfassungen, Sortierung oder Auskunft aus eigenen Dokumenten reicht ein selbst gehostetes Modell in der Praxis oft völlig aus.

Erst schauen, dann bauen.

Im Erstgespräch klären wir, ob KI bei dir wirklich etwas bringt. Manchmal lautet die Antwort nein, und das sage ich dann auch.

Gespräch anfragen 0174 9014114