Diese Fragen beschäftigen viele Unternehmen. Schließlich steckt in Handbüchern, Prozessbeschreibungen und internen Dokumenten wertvolles Know-how. Ein KI-Chatbot soll dieses Wissen nutzbar machen und zugleich die Vertraulichkeit wahren.
Ein eigener Chatbot mit gezielt angebundener Wissensbasis kann dafür eine passende Lösung sein. Entscheidend sind die Auswahl der Inhalte, das Betriebsmodell und ein durchdachtes Sicherheitskonzept.
Was ist ein KI-Chatbot mit eigenem Firmenwissen?
Ein solcher Chatbot verbindet die Sprachfähigkeiten eines KI-Modells mit ausgewählten Informationen Ihres Unternehmens. Das technische Prinzip heißt Retrieval Augmented Generation, kurz RAG – sinngemäß: Antworten auf Basis gezielt gesuchter Dokumente.
Vereinfacht funktioniert das so: Freigegebene Dokumente werden aufbereitet und durchsuchbar gemacht. Stellt jemand eine Frage, sucht das System passende Textabschnitte heraus. Diese erhält das Sprachmodell – also das KI-Modell, das Texte erzeugt – zusammen mit der Frage, um daraus eine verständliche Antwort zu formulieren.
Für Ihr Unternehmen eröffnet das einen praktischen Zugang zu vorhandenem Wissen: Nutzer stellen ihre Frage in eigenen Worten, statt zunächst das richtige Dokument suchen zu müssen.
Kurz erklärt: Embeddings
In vielen RAG-Systemen helfen sogenannte Embeddings dabei, inhaltlich passende Stellen zu finden. Das sind numerische Darstellungen von Texten.
So kann beispielsweise eine Frage zur „Einarbeitung neuer Kollegen“ auch zu einer Unterlage mit der Überschrift „Onboarding“ passen.
Schritt 1: Dokumente aufbereiten
Freigegebene Unterlagen werden aufbereitet und durchsuchbar gemacht.
Schritt 2: Frage stellen
Nutzer formulieren ihre Frage in eigenen Worten.
Schritt 3: Passende Stellen finden
Das System sucht inhaltlich passende Textabschnitte heraus, häufig mithilfe von Embeddings.
Schritt 4: Antwort formulieren
Das Sprachmodell formuliert aus Frage und Textabschnitten eine verständliche Antwort.
Wo ein Chatbot mit Firmenwissen hilft
Intern: Wissen finden und Mitarbeitende entlasten
Im Arbeitsalltag sind Informationen häufig über verschiedene Dateien, Ordner und Zuständigkeiten verteilt. Wer eine Antwort braucht, fragt sich durch oder unterbricht erfahrene Kolleginnen und Kollegen.
Ein interner Wissensassistent kann hier unterstützen. Neue Mitarbeitende könnten etwa fragen:
„Wie läuft eine Reklamation bei uns ab?“
Der Vertrieb könnte nach freigegebenen Produktinformationen suchen, der Service nach einem dokumentierten Wartungsablauf.
Besonders interessant sind Themen, zu denen regelmäßig ähnliche Fragen entstehen. Voraussetzung sind aktuelle, verständliche Unterlagen und klar geregelte Zugriffsrechte. Erfahrungswissen, das bisher nur in den Köpfen einzelner Personen steckt, muss zunächst dokumentiert werden.
Auf der Website: Orientierung geben und Fragen beantworten
Ein Website-Chatbot richtet sich an Interessenten und Kunden. Er kann beispielsweise erklären, welche Leistungen Sie anbieten, welche Unterlagen für eine Anfrage hilfreich sind oder wo weiterführende Informationen stehen.
Für einen technischen Dienstleister wäre eine typische Frage:
„Übernehmen Sie auch die Wartung bestehender Anlagen?“
Ein Beratungsunternehmen könnte Fragen zum Ablauf eines Erstgesprächs beantworten lassen.
Dafür sollte der öffentliche Chatbot eine eigens freigegebene Wissensbasis erhalten. Interne Kalkulationen, Kundendaten oder vertrauliche Arbeitsanweisungen gehören nicht in diesen Bestand. Für individuelle Anliegen braucht es einen gut erreichbaren Kontakt zum Team. Zudem verlangt die europäische KI-Verordnung seit dem 2. August 2026, dass Nutzer erkennen können, dass sie mit einer KI kommunizieren – sofern das nicht ohnehin offensichtlich ist.
Der mögliche Nutzen: Besucher erhalten auch außerhalb Ihrer Geschäftszeiten Orientierung, während wiederkehrende Standardfragen weniger persönliche Bearbeitung erfordern.
Datenhoheit: Entscheidend ist der gesamte Datenfluss
Eine selbst betriebene Wissensdatenbank schafft Kontrolle über die dort gespeicherten Inhalte. Sie bedeutet jedoch nicht automatisch, dass alle Informationen innerhalb Ihres Unternehmens bleiben.
Wird ein externes Sprachmodell genutzt, werden die Nutzerfrage und die ausgewählten Textpassagen an diesen Anbieter übermittelt, gegebenenfalls auch Teile des bisherigen Gesprächs. Auch bei der Erstellung von Embeddings können Dokumentinhalte an einen externen Dienst gelangen. Deshalb müssen alle Verarbeitungsschritte betrachtet werden.
Je nach Schutzbedarf kommt ein vollständig eigener Betrieb oder eine Lösung mit sorgfältig ausgewählten Dienstleistern infrage. Bei einem vollständig eigenen Betrieb müssen auch die Modelle für Suche und Antworterstellung innerhalb der kontrollierten Infrastruktur laufen. Ebenso gehören Protokolle, Sicherungskopien und Wartungszugriffe in die Betrachtung.
Die zentrale Frage
Wer verarbeitet welche Daten, an welchem Ort und zu welchen Bedingungen?
Serverstandort allein reicht nicht
Nach dem US-amerikanischen CLOUD Act können Anbieter, die US-Recht unterliegen, unter bestimmten gesetzlichen Voraussetzungen zur Herausgabe von Daten in ihrem Besitz oder unter ihrer Kontrolle verpflichtet werden – auch bei Speicherung außerhalb der USA. Eine europäische Rechenzentrumsadresse allein schließt dieses Risiko daher nicht aus.
Werden Unternehmensdokumente zum KI-Training verwendet?
Bei der RAG-Abfrage
Bei der reinen RAG-Abfrage werden passende Informationen als Kontext bereitgestellt. Die Modellparameter – also das, was das Modell im Training gelernt hat – werden dadurch nicht verändert. Um neues Firmenwissen bereitzustellen, ist somit kein Nachtraining des Sprachmodells erforderlich.
Beim externen Anbieter
Davon zu unterscheiden ist die Frage, was ein externer Anbieter mit übermittelten Inhalten macht. Ein Ausschluss von Trainingsnutzung, die Speicherung von Anfragen und mögliche Aufbewahrungsfristen müssen anhand der konkreten Vertragsbedingungen und Einstellungen geprüft werden. RAG allein garantiert keine dieser Eigenschaften.
Für Unternehmen ist diese Unterscheidung wesentlich: „Kein Training“ bedeutet nicht automatisch „keine Verarbeitung oder Speicherung beim Anbieter“.
Zugriffsrechte müssen auch im Chat gelten
Ein interner Chatbot darf bestehende Berechtigungen nicht aushebeln. Wer ein vertrauliches Dokument nicht lesen darf, sollte dessen Inhalt auch nicht über eine Chatantwort erhalten.
Bei den Wissensquellen
Die Berechtigungsprüfung muss deshalb bereits bei der Auswahl der Wissensquellen greifen. Geschützte Inhalte dürfen für unberechtigte Nutzer gar nicht erst in den Kontext des Sprachmodells gelangen.
Bei den Gesprächsverläufen
Auch Gesprächsverläufe brauchen wirksame Zugriffskontrollen. Individuelle Sitzungskennungen (Session-IDs) helfen bei der Zuordnung, reichen allein aber nicht aus. Die Anwendung muss auf dem Server prüfen, welcher Nutzer beziehungsweise welche Sitzung auf welchen Verlauf zugreifen darf.
Datenschutz und Sicherheit gehören zum Betrieb
Ein eigener RAG-Chatbot kann datenschutzgerecht gestaltet werden. Self-Hosting, also der Betrieb auf eigenen oder selbst verwalteten Servern, ist jedoch kein automatischer Nachweis für DSGVO-Konformität.
Rechtliche Pflichten
Technischer Betrieb
KI-spezifische Angriffe
Gute Antworten brauchen gepflegte Quellen
RAG kann die Qualität und Nachvollziehbarkeit von Antworten verbessern. Fehler bleiben dennoch möglich: Ein Dokument kann veraltet sein, die Suche eine wichtige Passage übersehen oder das Modell eine Aussage falsch zusammenfassen.
Ein sinnvoll gestalteter Chatbot sollte deshalb verwendete Quellen zugänglich machen und bei fehlender Informationsgrundlage auf seine Grenzen hinweisen. Verbindliche Einzelfallentscheidungen gehören weiterhin in die Hände zuständiger Menschen.
Für die Einführung empfiehlt sich ein schrittweises Vorgehen:
Schritt 1: Wissensbereich wählen
Den Anfang bildet ein überschaubarer Wissensbereich mit typischen Fragen.
Schritt 2: Antworten prüfen
Anhand dieser Fragen wird geprüft, ob Antworten korrekt sind, Quellen passen und Berechtigungen funktionieren.
Schritt 3: Schrittweise erweitern
Erst danach wird der Umfang schrittweise erweitert.
Firmenwissen im Chat: Jetzt bei comvos ausprobieren
Wir haben einen eigenen KI-Chatbot entwickelt und auf unserer Website eingebunden. In unserer Live-Demo zum KI-Chatbot mit Firmenwissen können Sie ausprobieren, wie sich Unternehmensinformationen im Dialog erschließen lassen.
Fragen Sie beispielsweise:
„Welche Leistungen bietet comvos rund um WordPress?“
„Wie unterstützt comvos Unternehmen beim Thema GEO?“
GEO steht für Generative Engine Optimization, also die Optimierung von Websites dafür, in KI-Antworten genannt zu werden.
Sprechen Sie mit uns über Ihren KI-Chatbot
Sie möchten einen Wissensassistenten für Ihr Team oder einen Chatbot für Ihre Website einsetzen? Gemeinsam klären wir, welche Inhalte geeignet sind, welches Betriebsmodell zu Ihrem Schutzbedarf passt und wie ein erster Anwendungsfall aussehen kann.
Telefon: 0621 1789111
E-Mail: info@comvos.de
