Das eigentliche Problem mit ChatGPT im Betrieb
Viele Unternehmen nutzen mittlerweile ChatGPT für Zusammenfassungen, E-Mail-Entwürfe oder erste Recherchen. Rechtlich wird es heikel, sobald personenbezogene Daten hineinfließen: eine Kundenanfrage mit Namen und Adresse, ein Mitarbeitergespräch, ein Vertragsentwurf mit sensiblen Details. Diese Daten verlassen dann den eigenen Einflussbereich und werden bei einem US-Anbieter verarbeitet.
Das bedeutet nicht automatisch einen Rechtsverstoß, DSGVO-konforme Nutzung ist mit den richtigen Verträgen grundsätzlich möglich. In der Praxis wird es aber selten sauber dokumentiert, und genau da entsteht das Risiko.
Die Alternative: eigene Modelle auf eigener Hardware
Mit Ollama lassen sich leistungsfähige Sprachmodelle lokal betreiben, auf einem eigenen Server oder sogar auf einem gut ausgestatteten Bürorechner. Die Anfragen und Dokumente verlassen dabei nie diesen Server. Es gibt keine Datenübertragung an einen externen Anbieter, weil es diesen Anbieter im Ablauf schlicht nicht gibt.
Ergänzt um eine Oberfläche wie OpenWebUI fühlt sich die Bedienung fast identisch zu ChatGPT an, nur eben komplett unter eigener Kontrolle.
Was so ein System in der Praxis leisten kann
| Anwendungsfall | Was passiert |
|---|---|
| Auskunft aus eigenen Dokumenten | Das Modell durchsucht deine Handbücher, Verträge oder Protokolle und antwortet auf Basis dieser Inhalte |
| E-Mail-Vorsortierung | Eingehende Nachrichten werden automatisch kategorisiert oder zusammengefasst |
| Interne Zusammenfassungen | Lange Protokolle oder Berichte werden auf das Wesentliche verdichtet |
| Assistent für Mitarbeitende | Fragen zu internen Abläufen werden beantwortet, ohne jedes Mal jemanden zu fragen |
Wo die Grenzen liegen
Ehrlich betrachtet: Ein selbst gehostetes Modell auf üblicher Hardware erreicht nicht die Bandbreite der größten kommerziellen Modelle bei sehr allgemeinem Weltwissen. Für klar umrissene betriebliche Aufgaben, bei denen es um deine eigenen Daten und Abläufe geht, reicht die Leistung in aller Regel völlig aus. Genau da schauen wir im Erstgespräch gemeinsam hin, manchmal lautet die ehrliche Antwort auch, dass KI an dieser Stelle nichts bringt.
Was der Einstieg kostet
Ein KI-Grundaufbau mit Ollama und Oberfläche liegt bei ab 1.200 Euro, eine Anbindung an eigene Dokumente bei ab 2.500 Euro. Details zu Technik und Umsetzung stehen auf der Seite KI-Beratung, alle Zahlen auf der Preisseite.