Interner KI-Assistent im Mittelstand

Interner KI-Assistent im Mittelstand: Wissensdatenbank, Datenschutz und Betrieb strukturiert aufbauen

Ein interner KI-Assistent im Mittelstand soll Mitarbeitenden Antworten auf Fragen liefern, die sich aus dem vorhandenen Unternehmenswissen beantworten lassen: Wie lautet die Reisekostenregel, welche Prüfschritte gelten für eine Reklamation, wo steht die aktuelle Preisliste, wie wird ein bestimmter Vorgang im ERP gebucht? In vielen Betrieben liegen diese Informationen verstreut in Laufwerken, Handbüchern, E-Mails und den Köpfen einzelner Personen.

Der Reiz solcher Assistenten liegt darin, dass sie Informationen in natürlicher Sprache auffindbar machen und die Suche in Ordnerstrukturen ersetzen. Gleichzeitig entstehen neue Fragen: Welche Daten dürfen der KI zur Verfügung stehen? Wer darf was sehen? Wie wird verhindert, dass der Assistent falsche Auskünfte erfindet? Und wer trägt Verantwortung, wenn eine Antwort in eine Entscheidung einfließt?

Die Technik ist heute für viele Betriebe zugänglich, die eigentliche Arbeit liegt in Datenaufbereitung, Rechtekonzept und Betrieb. Wer diese Punkte vernachlässigt, erhält einen Assistenten, der anfangs beeindruckt und nach wenigen Wochen nicht mehr genutzt wird, weil die Antworten veraltet, unvollständig oder nicht nachvollziehbar sind.

Dieser Beitrag erläutert, wofür sich ein interner KI-Assistent eignet, wie die Architektur mit einer angebundenen Wissensdatenbank funktioniert, welche Vorarbeiten erforderlich sind und wie Datenschutz, Berechtigungen und laufender Betrieb geregelt werden. Er richtet sich an Geschäftsführer und Fachverantwortliche, die einen Pilotbetrieb planen.

Titelbild: Foto von Mohamed Nohassi auf Unsplash.

Wofür sich ein interner Assistent eignet und wofür nicht

Gut geeignet sind Aufgaben, bei denen Wissen aus vielen Dokumenten zusammengeführt und verständlich wiedergegeben werden soll. Dazu zählen Fragen zu internen Richtlinien, Arbeitsanweisungen, Produktdokumentationen, Angebotsbausteinen, Onboarding-Unterlagen und technischen Handbüchern. Der Nutzen ist am größten dort, wo dieselben Fragen regelmäßig an wenige Wissensträger gerichtet werden.

Weniger geeignet sind Aufgaben, bei denen exakte, rechtsverbindliche oder rechnerische Ergebnisse erforderlich sind. Sprachmodelle erzeugen plausibel klingende Texte, sie rechnen und zitieren nicht von sich aus zuverlässig. Entscheidungen über Preise, Vertragsinhalte oder Haftungsfragen gehören nicht in die ungeprüfte Antwort eines Assistenten.

  • Geeignet: Auffinden und Zusammenfassen interner Dokumente, Beantworten wiederkehrender Verfahrensfragen, Entwurf von Standardtexten, Unterstützung bei der Einarbeitung neuer Mitarbeitender
  • Bedingt geeignet: Vorbereitung von Angeboten und Protokollen, wenn ein Mensch prüft und freigibt
  • Ungeeignet: Automatische Entscheidungen mit rechtlicher Wirkung, Berechnungen ohne Gegenprüfung, Auskünfte zu Daten, die nicht im Bestand stehen

Wie ein Assistent mit Wissensdatenbank technisch funktioniert

Ein Sprachmodell allein kennt das Unternehmen nicht. Um unternehmensspezifische Fragen zu beantworten, wird es mit einer Wissensdatenbank verbunden. Das gängige Verfahren heißt Retrieval-Augmented Generation. Dabei werden die Dokumente in kleine Abschnitte zerlegt, in eine durchsuchbare Form gebracht und bei jeder Frage die passendsten Abschnitte herausgesucht. Diese Abschnitte werden zusammen mit der Frage an das Sprachmodell übergeben, das daraus eine Antwort formuliert.

Der Vorteil dieser Architektur besteht darin, dass das Wissen nicht in das Modell eingebaut wird. Wird ein Dokument aktualisiert, genügt es, die Wissensdatenbank neu einzulesen. Zudem lässt sich zu jeder Antwort angeben, aus welchen Dokumenten sie stammt. Diese Quellenangabe ist für Vertrauen und Kontrolle wesentlich.

  1. Quellen anbinden: Dateiablagen, Wiki, Ticketsystem oder Dokumentenmanagement werden als Datenquellen konfiguriert.
  2. Aufbereiten und indizieren: Texte werden extrahiert, in Abschnitte geteilt, mit Metadaten wie Dokumenttyp, Gültigkeit und Berechtigung versehen und in einen Suchindex überführt.
  3. Suchen und Auswählen: Zu jeder Frage werden die relevantesten Abschnitte gefunden, unter Beachtung der Rechte der fragenden Person.
  4. Antworten und belegen: Das Sprachmodell formuliert die Antwort ausschließlich auf Basis der gefundenen Abschnitte und nennt die Fundstellen.
  5. Protokollieren und verbessern: Fragen, Antworten und Rückmeldungen werden ausgewertet, um Lücken im Bestand zu schließen.

Betriebsmodelle: Cloud-Dienst, Hosting in der EU oder eigener Betrieb

Für die Bereitstellung stehen grundsätzlich drei Wege zur Verfügung. Die Wahl hängt von der Schutzbedürftigkeit der Daten, von den Ressourcen der IT und von den Anforderungen an Kontrolle und Nachvollziehbarkeit ab.

ModellVorteileEinschränkungenTypischer Einsatz
Cloud-Dienst eines AnbietersSchneller Start, geringer Aufwand, laufende ModellverbesserungDatenabfluss an Dritte, Vertragsprüfung, AbhängigkeitUnkritische Inhalte, Pilotphase
Hosting bei europäischem AnbieterDatenverarbeitung im EU-Raum, vertraglich regelbarHöhere Kosten, begrenzte ModellauswahlInterne Richtlinien, Kundenunterlagen
Eigener Betrieb auf eigener InfrastrukturVolle Datenkontrolle, keine externe WeitergabeHoher Betriebsaufwand, Hardware, FachwissenHochsensible Daten, Entwicklungsunterlagen

In der Praxis starten viele Unternehmen mit einem Cloud-Dienst im Pilotbetrieb und begrenzten, unkritischen Dokumenten. Erst wenn der Nutzen belegt ist, wird entschieden, ob Daten mit höherem Schutzbedarf einbezogen werden und ob ein anderes Betriebsmodell erforderlich ist. Diese Reihenfolge begrenzt das Risiko und schafft eine belastbare Entscheidungsgrundlage.

Datenschutz und Informationssicherheit

Sobald personenbezogene Daten in die Verarbeitung einfließen, gelten die Anforderungen der DSGVO. Das betrifft Mitarbeiterdaten in Personaldokumenten ebenso wie Kundendaten in Korrespondenz oder Tickets. Zu klären sind die Rechtsgrundlage nach Art. 6 DSGVO, die Information der Betroffenen nach Art. 13 und 14 sowie, bei externer Verarbeitung, ein Auftragsverarbeitungsvertrag nach Art. 28. Der Verordnungstext ist unter eur-lex.europa.eu abrufbar.

Darüber hinaus ist eine Datenschutz-Folgenabschätzung zu prüfen, wenn die Verarbeitung voraussichtlich ein hohes Risiko für die Rechte der Betroffenen mit sich bringt. Bei Assistenten, die auf Personaldaten zugreifen, ist das häufig der Fall. Auch die Beteiligung des Betriebsrats nach dem Betriebsverfassungsgesetz kann erforderlich sein, wenn die Nutzung Rückschlüsse auf Leistung oder Verhalten von Beschäftigten ermöglicht.

Aus Sicht der Informationssicherheit sind drei Punkte entscheidend: Die Eingaben dürfen nicht zum Training fremder Modelle verwendet werden, die Übertragung muss verschlüsselt erfolgen, und die Protokolle der Nutzung müssen so gestaltet sein, dass sie weder unnötig Inhalte speichern noch Personen überwachen. Diese Punkte gehören in die vertragliche Regelung mit dem Anbieter und in eine interne Nutzungsrichtlinie.

Anforderungen der KI-Verordnung

Ergänzend ist die europäische KI-Verordnung zu beachten. Sie verpflichtet Unternehmen, die KI-Systeme einsetzen, unter anderem zur Sicherstellung ausreichender KI-Kompetenz der Beschäftigten, die damit arbeiten. Für reine Wissensassistenten ohne Entscheidungswirkung sind die Pflichten überschaubar, sie sollten aber dokumentiert und mit einer Schulung hinterlegt werden.

Berechtigungen: Wer darf welche Antworten erhalten

Das größte praktische Risiko eines internen Assistenten besteht darin, dass er Informationen preisgibt, die der fragenden Person nicht zugänglich sein dürfen. Ein Assistent, der alle Dokumente des Unternehmens indexiert und jedem Nutzer beantwortet, macht jede versehentlich falsch abgelegte Datei sichtbar. Das Problem lag vorher schon vor, wird aber durch die Suche in natürlicher Sprache erheblich sichtbarer.

Die Lösung liegt in der Übernahme der bestehenden Zugriffsrechte. Jeder Abschnitt in der Wissensdatenbank trägt die Berechtigungen des Ursprungsdokuments, und bei jeder Frage werden nur Abschnitte berücksichtigt, die die fragende Person auch im Quellsystem öffnen dürfte. Zuvor sollten die Rechte im Quellsystem bereinigt werden, denn der Assistent macht Fehler in der Ablage lediglich sichtbarer.

  • Berechtigungen aus dem Quellsystem übernehmen und regelmäßig synchronisieren
  • Sensible Bereiche wie Personal, Geschäftsleitung und Entwicklung zunächst ausschließen
  • Rollenbasierte Sichten für Abteilungen definieren
  • Zugriffe und Fehlversuche protokollieren und stichprobenartig auswerten

Datenaufbereitung: Die eigentliche Hauptarbeit

Die Qualität der Antworten hängt weit stärker von den Quelldokumenten ab als vom gewählten Modell. Widersprüchliche Versionen, veraltete Anweisungen und unstrukturierte Scans führen unmittelbar zu falschen oder unklaren Antworten. Vor dem Start sollte daher ein überschaubarer Bestand bereinigt werden, der den Einsatzzweck des Piloten abdeckt.

Dazu gehört, für jedes Dokument eine verantwortliche Person und ein Gültigkeitsdatum festzulegen, ältere Fassungen auszusondern und Dokumente so zu gestalten, dass Überschriften, Tabellen und Verweise maschinell verarbeitbar sind. Bildbasierte PDF-Dateien müssen zuvor per Texterkennung aufbereitet werden. Dateien mit Passwortschutz oder Wasserzeichen verursachen häufig Probleme.

Wer bereits ein Wissensmanagement betreibt oder Arbeitsanweisungen standardisiert hat, startet mit einem deutlichen Vorteil. Der Assistent ersetzt die Pflege nicht, er verstärkt ihre Wirkung. Ein Betrieb ohne Dokumentationskultur wird mit der Einführung eines Assistenten zunächst erkennen, wie groß die Lücken sind.

Ein Assistent kann nur so zuverlässig antworten, wie die Dokumente verlässlich sind, auf denen er beruht.

Qualitätssicherung und Umgang mit Fehlantworten

Sprachmodelle erzeugen gelegentlich Aussagen, die nicht durch die Quellen gedeckt sind. Dieses Verhalten lässt sich nicht vollständig ausschließen, aber begrenzen. Wirksam sind klare Anweisungen an das Modell, ausschließlich aus den gefundenen Abschnitten zu antworten und bei fehlender Grundlage ausdrücklich zu erklären, dass keine Information vorliegt.

Für die Prüfung der Qualität empfiehlt sich ein Testkatalog aus 50 bis 100 realistischen Fragen, deren richtige Antworten fachlich bekannt sind. Dieser Katalog wird vor dem Start, nach jeder Änderung an Daten oder Konfiguration und in regelmäßigen Abständen erneut durchlaufen. Abweichungen werden dokumentiert und den Datenverantwortlichen zugewiesen.

Für Nutzer sollte eine einfache Rückmeldemöglichkeit bestehen, mit der Antworten als hilfreich oder fehlerhaft markiert werden können. Fehlerhafte Antworten sind in den meisten Fällen ein Hinweis auf ein Problem in den Quelldokumenten und nicht auf eine Schwäche des Modells.

Kosten und Wirtschaftlichkeit realistisch einschätzen

Die Kosten eines Assistenten setzen sich aus mehreren Bausteinen zusammen. Dazu zählen Lizenzen oder nutzungsabhängige Gebühren für das Sprachmodell, die Infrastruktur für Wissensdatenbank und Suchindex, die Einrichtung der Schnittstellen sowie der laufende Betrieb. Der größte Posten ist in vielen Projekten nicht die Technik, sondern die Arbeitszeit für Bereinigung und Pflege der Dokumente.

Für die Wirtschaftlichkeitsbetrachtung sollten Einsparungen vorsichtig angesetzt werden. Zeitgewinne bei der Suche sind real, aber nicht jede gewonnene Minute wird in produktive Arbeit umgesetzt. Sinnvoll ist es, neben der Zeitersparnis weitere Wirkungen zu betrachten, etwa kürzere Einarbeitungszeiten, weniger Rückfragen an einzelne Wissensträger und eine einheitlichere Antwortqualität im Kundenservice.

Wichtig ist eine Kostenobergrenze für die Pilotphase. Viele Anbieter rechnen nach verarbeiteten Textmengen ab, sodass eine unkontrollierte Nutzung die Rechnung schnell erhöht. Monatliche Budgets, Nutzungsberichte und die Begrenzung auf freigegebene Nutzergruppen verhindern unangenehme Überraschungen und liefern zugleich Daten für die spätere Skalierungsentscheidung.

Pilotprojekt in fünf Schritten

  1. Anwendungsfall eingrenzen: Eine Abteilung und eine Fragenklasse wählen, etwa Servicehandbuch oder interne Richtlinien, mit 10 bis 20 regelmäßigen Nutzern.
  2. Bestand bereinigen: Die relevanten Dokumente sichten, veraltete Fassungen entfernen, Verantwortliche und Gültigkeit festlegen.
  3. Rahmen klären: Datenschutz, Auftragsverarbeitung, Betriebsrat, Nutzungsrichtlinie und Schulung vor dem Start regeln.
  4. Technisch aufsetzen und testen: Quellen anbinden, Berechtigungen übernehmen, Testkatalog durchlaufen und Schwachstellen beseitigen.
  5. Betreiben und bewerten: Nutzung, Rückmeldungen und eingesparte Suchzeit über acht bis zwölf Wochen auswerten und auf dieser Basis über die Ausweitung entscheiden.

Für die Bewertung genügt ein einfacher Maßstab. Man ermittelt, wie viele Anfragen der Assistent beantwortet hat, wie viele davon ohne Nachfrage bei einem Kollegen auskamen und wie die Nutzer die Qualität einschätzen. Eine Beispielrechnung: Beantwortet der Assistent bei 15 Nutzern täglich zehn Fragen, für die sonst jeweils zehn Minuten Suchzeit anfallen, entspricht das rechnerisch mehreren Stunden Zeitgewinn pro Tag. Entscheidend ist, ob dieser Gewinn in der Praxis tatsächlich eintritt.

Typische Stolperfallen

  • Zu großer Start: Wer alle Dokumente auf einmal einbindet, verliert die Kontrolle über Qualität und Rechte.
  • Fehlende Verantwortung: Ohne benannte Verantwortliche für Dokumente und Betrieb veraltet der Bestand schnell.
  • Blindes Vertrauen: Antworten werden ohne Prüfung übernommen, obwohl Quellen und Gültigkeit nicht kontrolliert wurden.
  • Schatten-KI: Wenn kein freigegebenes Werkzeug zur Verfügung steht, nutzen Mitarbeitende private Dienste und geben Unternehmensdaten dorthin weiter.
  • Unklare Kosten: Nutzungsabhängige Preise können bei breiter Einführung stark ansteigen, wenn keine Obergrenzen gesetzt sind.

Checkliste vor dem Start

  • Ist der Anwendungsfall mit Nutzern, Dokumentbestand und Erfolgsmaß beschrieben?
  • Sind Datenschutz, Auftragsverarbeitung und gegebenenfalls Betriebsratsbeteiligung geklärt?
  • Übernimmt der Assistent die Zugriffsrechte der Quellsysteme?
  • Zeigt jede Antwort die verwendeten Quellen an?
  • Existiert ein Testkatalog mit bekannten Fragen und Soll-Antworten?
  • Sind Verantwortliche für Dokumente, Betrieb und Rückmeldungen benannt?
  • Gibt es eine Nutzungsrichtlinie und eine kurze Schulung für alle Nutzer?
  • Sind Kostenobergrenzen und ein Ausstiegsszenario festgelegt?

Wer diese Punkte abarbeitet, hat die organisatorischen Grundlagen geschaffen, auf denen ein Assistent dauerhaft zuverlässig arbeitet. Die Technik lässt sich in dieser Phase noch austauschen, die Qualität der Daten und die Verantwortlichkeiten dagegen nicht ohne erheblichen Mehraufwand nachträglich herstellen.

FAQ

Was ist ein interner KI-Assistent?
Ein interner KI-Assistent ist ein Sprachmodell, das mit Unternehmensdokumenten verbunden ist und Fragen der Beschäftigten auf Basis dieser Quellen beantwortet. Er ersetzt keine Fachperson, sondern erleichtert das Auffinden und Zusammenfassen vorhandenen Wissens.

Müssen die Daten für den Assistenten in das Sprachmodell eingebaut werden?
Nein. Bei der üblichen Architektur bleiben die Daten in einer separaten Wissensdatenbank. Das Modell erhält zu jeder Frage nur die passenden Abschnitte. Dadurch lassen sich Inhalte aktualisieren, ohne das Modell neu zu trainieren.

Ist der Einsatz mit der DSGVO vereinbar?
Grundsätzlich ja, wenn Rechtsgrundlage, Informationspflichten, Auftragsverarbeitung und technische Schutzmaßnahmen geklärt sind. Bei Personaldaten ist eine Datenschutz-Folgenabschätzung zu prüfen. Im Zweifel sollte der Datenschutzbeauftragte frühzeitig einbezogen werden.

Wie lässt sich verhindern, dass der Assistent Falsches behauptet?
Vollständig ausschließen lässt es sich nicht. Wirksam sind die Beschränkung auf gefundene Quellen, die Anzeige der Fundstellen, ein Testkatalog mit bekannten Fragen und ein einfaches Rückmeldeverfahren für fehlerhafte Antworten.

Wie viele Nutzer sollte ein Pilotprojekt umfassen?
Für einen Pilotbetrieb genügen meist zehn bis zwanzig regelmäßige Nutzer aus einer Abteilung. Die Gruppe ist groß genug für belastbare Rückmeldungen und klein genug, um Datenqualität und Rechte kontrollieren zu können.

Was kostet ein interner KI-Assistent?
Das hängt vom Betriebsmodell, vom Dokumentenumfang und von der Nutzung ab. Neben den laufenden Lizenz- oder Nutzungskosten fällt vor allem Aufwand für Datenaufbereitung und Betrieb an. Eine belastbare Aussage ist erst nach einer Pilotphase möglich.