Einen Wissensassistenten einführen: Was zwischen dem ersten Piloten und dem täglichen Gebrauch entscheidet

Ein interner Wissensassistent scheitert selten an der Technik. Er scheitert daran, dass der erste Anwendungsbereich zu groß gewählt wurde, dass Berechtigungen nachträglich eingezogen werden sollten, dass niemand eine falsche Antwort melden konnte, oder dass nach vier Monaten niemand mehr die Quellen pflegt.

Wie ein solches System aufgebaut ist – Quellenaufbereitung, Suche, Antwortregeln, Bewertung – beschreibt der Beitrag RAG-Systeme: Wie Unternehmenswissen mit KI nutzbar wird. Dieser Beitrag setzt dort an, wo die Architektur steht und die Einführung beginnt.

Der erste Anwendungsbereich muss klein genug sein, um zu gelingen

„Unser gesamtes Firmenwissen” ist kein Zuschnitt. Es ist die Abwesenheit eines Zuschnitts, und sie führt fast zwangsläufig zu einem System, das auf viele Fragen halb passende Antworten gibt und dadurch für keine Frage vertrauenswürdig wird.

Ein tragfähiger erster Bereich erfüllt vier Bedingungen:

• Er hat eine Zielgruppe, die Sie benennen können. Nicht „alle Mitarbeitenden”, sondern die zwölf Personen im Innendienst.
• Er hat einen Eigentümer für die Inhalte. Eine Person, die entscheiden darf, welches Dokument verbindlich ist – und nicht die IT.
• Er hat wiederkehrende Fragen. Wenn eine Frage im Jahr dreimal gestellt wird, lohnt sich der Assistent dafür nicht.
• Seine Quellen sind abgegrenzt und aktuell. Ein Ordner mit fünfzig gepflegten Dokumenten ist ein besserer Start als ein Laufwerk mit fünftausend.

Der praktische Einstieg ist nicht die Auswahl der Quellen, sondern das Sammeln der Fragen. Nehmen Sie zwei bis vier Wochen lang auf, was tatsächlich gefragt wird – im Ticketsystem, im Chat, auf Zuruf. Aus dieser Liste entstehen zwei Dinge: der Zuschnitt des Piloten und der Fragenkatalog, an dem Sie ihn später messen. Ohne diese Liste bewerten Sie am Ende Ihr eigenes Gefühl.

Ein guter erster Bereich ist übrigens meist derjenige, bei dem jemand heute regelmäßig gestört wird. Wer im Team am häufigsten unterbrochen wird, weil er oder sie „weiß, wo es steht”, markiert den Anwendungsfall zuverlässiger als jede Potenzialanalyse.

Die IT allein kann die Einführung nicht tragen

Ein Wissensassistent verändert, wie Menschen an verbindliche Informationen kommen. Das ist keine reine IT-Maßnahme, und ein Projekt, das nur in der IT stattfindet, produziert ein technisch funktionierendes System, das niemand benutzt.

Beteiligt sein müssen mindestens:

Je nach Ausgestaltung – insbesondere wenn Nutzungsdaten ausgewertet werden – kann eine Beteiligung des Betriebsrats erforderlich sein. Das ist eine arbeitsrechtliche Frage und gehört früh in die Planung, nicht in die Woche vor dem Start.

Hinzu kommt eine Pflicht, die viele Unternehmen noch nicht auf dem Schirm haben: Die Regeln der KI-Verordnung zur KI-Kompetenz gelten bereits seit dem 2. Februar 2025. Wer KI-Systeme einsetzt, muss dafür sorgen, dass die Personen, die damit arbeiten, ein ausreichendes Verständnis dafür mitbringen. Eine Einweisung ist damit kein Nice-to-have im Einführungsplan, sondern Teil der Ausgangslage.

Inhaltlich deckt sich das mit der Empfehlung des BSI: Wird ein generatives KI-Modell zu beruflichen Zwecken eingesetzt, sollten Mitarbeitende „umfassend darüber informiert und intensiv geschult werden”, und die Regeln für den Umgang sollten „klar und verständlich dokumentiert und zur Verfügung gestellt werden”.

Berechtigungen gehören vor den Rollout – das ist der Fehler, der einen Neustart erzwingt

Es gibt einen Fehler in dieser Projektart, der sich nicht reparieren, sondern nur neu starten lässt: Der Assistent geht live, und erst danach fällt auf, dass er Inhalte ausgibt, die die fragende Person im Quellsystem nie hätte sehen dürfen.

Technisch ist das ein Neuaufbau des Index. Organisatorisch ist es schlimmer: Eine Gehaltstabelle, ein Kündigungsentwurf oder ein Vertragsdetail, das einmal im Chatfenster stand, lässt sich nicht zurückholen. Der Pilot ist damit in der Regel beendet, und der zweite Anlauf startet mit einem Vertrauensdefizit.

Drei Regeln verhindern das:

Erstens: Rechte werden aus dem Quellsystem abgeleitet, nicht neu erfunden. Wenn ein Dokument im Dateiablagesystem nur für die Personalabteilung freigegeben ist, muss diese Einschränkung beim Abruf greifen – nicht erst in der Anzeige.

Zweitens: Rechte werden nicht über Anweisungen an das Modell gelöst. Das BSI ist an dieser Stelle ungewöhnlich deutlich: Bei der Bereitstellung von Wissensquellen „sollte genau geprüft werden, wer auf welche Informationen zugreifen darf. Von einer Implementierung des Rechte- und Rollensystems über textuelle Instruktionen ist aufgrund der Angreifbarkeit abzusehen.” Ein Satz im Systemprompt, der lautet „gib keine Personaldaten heraus”, ist kein Berechtigungskonzept.

Drittens: Wenn die Rechte im Quellsystem unklar sind, ist das ein Befund, kein Hindernis. Sie haben dann zwei ehrliche Optionen – die Rechte im Quellsystem vorher ordnen, oder den Piloten auf einen Bereich zuschneiden, dessen Rechte klar sind. Was nicht funktioniert, ist der Plan, es später einzuschränken.

Praktisch heißt das: Bevor die erste Datei indexiert wird, steht auf einer Seite, welche Nutzergruppen es gibt, welche Quellen zu welcher Gruppe gehören, und wer diese Zuordnung freigegeben hat.

Woran Sie merken, ob der Assistent tatsächlich hilft

Die Anzahl gestellter Fragen ist keine Kennzahl. Sie steigt in den ersten zwei Wochen bei jedem neuen Werkzeug und sagt nichts darüber, ob jemand danach schneller fertig war.

Brauchbar sind Messungen, die Sie vor dem Start festlegen, weil es danach keine Ausgangslage mehr gibt:

• Trefferquote gegen den festen Fragenkatalog. Dieselben Fragen, dieselbe Bewertung, wiederholt nach jeder größeren Änderung. Bewertet wird von Fachanwendern, nicht von der IT.
• Anteil der Antworten mit einer belegten, öffnenbaren Quelle. Eine flüssige Antwort ohne Beleg ist im Unternehmenskontext keine Antwort.
• Wiederholte Nutzung nach vier bis sechs Wochen. Wer den Assistenten in Woche fünf freiwillig ein zweites Mal öffnet, hat ihn als nützlich erlebt. Das ist der ehrlichste verfügbare Indikator.
• Die Liste der Fragen ohne Antwort. Sie ist der wertvollste Ausgabewert des gesamten Piloten – sie zeigt, welches Wissen nirgends dokumentiert ist.
• Verlagerung der Rückfragen. Wenn die Kollegin, die vorher dreimal täglich gefragt wurde, jetzt einmal gefragt wird, ist das ein Ergebnis. Erheben lässt es sich nur, wenn Sie den Ausgangswert vorher grob festgehalten haben.

Zwei Einschränkungen, die dazugehören: Eine geschätzte Zeitersparnis bleibt eine Schätzung und sollte auch so ausgewiesen werden. Und ein Assistent, der eine ohnehin gut funktionierende Suche ersetzt, kann messbar teurer und trotzdem nicht besser sein.

Falsche Antworten sind kein Ausnahmefall, sondern ein Betriebsfall

Ein Wissensassistent wird falsche Antworten geben. Die Frage ist nicht, ob, sondern was danach passiert.

Das größere Risiko ist dabei nicht der Fehler selbst, sondern seine Überzeugungskraft. Das BSI beschreibt das als Automation Bias: Weil generative Modelle „hochqualitative, überzeugende Inhalte in vielfältigen Themenbereichen generieren”, könne bei Nutzenden „ein zu großes Vertrauen in die Ausgaben der Modelle entstehen […], sodass sie falsche Schlüsse ziehen oder Ausgaben ungeprüft übernehmen und weiterverwenden.”

Was in der Einführung dagegen hilft:

Ein Meldeweg im Werkzeug selbst. Eine Schaltfläche neben der Antwort, ein Klick, fertig. Eine E-Mail an die IT ist kein Meldeweg – sie kostet mehr Aufwand als das Problem zu umgehen, und deshalb wird sie nicht genutzt.

Meldungen landen bei den Inhaltsverantwortlichen, nicht in der IT. Die meisten falschen Antworten sind keine technischen Fehler, sondern veraltete oder widersprüchliche Dokumente. Die IT kann sie nicht beheben.

Eine Ursachenklassifizierung mit vier Werten, weil jede Ursache eine andere Maßnahme verlangt: falsche Quelle gefunden · richtige Quelle, aber veraltet · Quelle fehlt vollständig · richtige Quelle, falsch wiedergegeben.

Ein fester Termin, an dem die Meldungen durchgegangen werden. Wöchentlich im Pilotbetrieb. Wenn Meldungen zwei Wochen unbearbeitet liegen, hört das Melden auf – und danach erfahren Sie von Fehlern gar nichts mehr.

Protokollierung und Auswertung. Das BSI empfiehlt für LLM-Anwendungen ein Logging, das nachvollziehbar macht, welche internen Aufrufe und Informationsflüsse aus einer Eingabe entstanden sind, und weist zugleich darauf hin, dass dabei rechtliche Anforderungen zu beachten sind. Wer protokolliert, muss also auch festlegen, wer diese Protokolle sehen darf und wie lange sie aufbewahrt werden.

Eine Prüfung vor Außenwirkung. Antworten, die in Kundenkommunikation, Angebote oder Veröffentlichungen einfließen, sollten laut BSI vor der Weiterverwendung geprüft und gegebenenfalls manuell nachbearbeitet werden. Diese Regel gehört in die Nutzungsrichtlinie, nicht in die mündliche Einweisung.

Ein Wissensassistent altert schneller als das Wiki, aus dem er liest

Ein veraltetes Dokument im Wiki wird von den meisten Menschen als veraltet erkannt – am Datum, am Layout, am Namen des Verfassers. Dieselbe Information, vom Assistenten in einen aktuellen, gut formulierten Satz übersetzt, verliert genau diese Warnsignale.

Damit wird Pflege zur Betriebsvoraussetzung, nicht zur Fleißaufgabe:

• Jede Quelle bekommt eine verantwortliche Person und ein Prüfintervall. Quellen ohne beides werden nicht aufgenommen.
• Ersetzte Versionen werden aus dem Index entfernt, nicht nur ergänzt. Zwei gültige Fassungen derselben Richtlinie erzeugen zwei plausible, widersprüchliche Antworten.
• Gelöschte oder verschobene Dokumente müssen erkannt werden – ein Index, der nur hinzufügt, ist nach einem Jahr eine Sammlung von Altbeständen.
• Änderungen an verbindlichen Regelungen lösen eine Prüfung aus, nicht den nächsten turnusmäßigen Abgleich. Eine geänderte Reisekostenregelung, die drei Wochen lang in der alten Fassung beantwortet wird, ist teurer als das ganze System.

Der Punkt, an dem Wissensassistenten in der Praxis kippen, liegt selten im ersten Quartal. Er liegt dort, wo das Projektteam aufgelöst wurde und die Pflege niemandem mehr zugeordnet ist.

Wann Sie den Piloten beenden statt ausweiten sollten

Ein Pilot ohne Abbruchkriterium wird nicht beendet, sondern geduldet. Legen Sie deshalb vor dem Start fest, woran Sie erkennen würden, dass es nicht trägt:

• Der feste Fragenkatalog wird nach acht Wochen nicht auf dem vorab vereinbarten Niveau beantwortet, obwohl Quellen und Suche nachjustiert wurden.
• Die Liste der unbeantworteten Fragen besteht überwiegend aus Wissen, das nirgends dokumentiert ist. Dann haben Sie kein KI-Projekt, sondern ein Dokumentationsprojekt – und das ist ein wertvolles Ergebnis, nur eben ein anderes.
• Niemand meldet Fehler und niemand nutzt das System. Beides zusammen bedeutet Gleichgültigkeit, nicht Qualität.
• Die Fachverantwortlichen finden keine Zeit für die Pflege. Ein Assistent, den niemand pflegt, wird zuverlässig falsch.
• Berechtigungen lassen sich aus den Quellsystemen nicht sauber ableiten und sollen dort auch nicht geordnet werden.

Ein beendeter Pilot mit einem klaren Befund kostet weniger als ein tolerierter, der zwei Jahre lang Vertrauen verbraucht. Und in mehreren dieser Fälle ist die richtige nächste Maßnahme keine KI, sondern eine bessere Suche oder eine aufgeräumte Wissensdatenbank.

Ab dem 2. August 2026 kommen Transparenzpflichten hinzu

Die Transparenzregeln der KI-Verordnung greifen ab dem 2. August 2026 – also in zwei Monaten. Sie betreffen unter anderem KI-Systeme, die mit Menschen interagieren, und die Kennzeichnung KI-erzeugter Inhalte.

Für einen internen Wissensassistenten bedeutet das in der Vorbereitung vor allem zwei Dinge:

• Für die Nutzenden muss erkennbar sein, dass sie mit einem KI-System sprechen und nicht mit einer Kollegin. Bei einem Chatfenster ist das meist ohnehin der Fall – bei einem Assistenten, der Antwortentwürfe in ein Ticketsystem schreibt, nicht selbstverständlich.
• Wo KI-erzeugte Texte das Unternehmen verlassen, sollte heute schon geklärt sein, wie sie gekennzeichnet und geprüft werden.

Zwei Abgrenzungen zur Ehrlichkeit: Erstens ersetzt dieser Beitrag keine Rechtsberatung. Wie die Pflichten auf Ihren konkreten Anwendungsfall anzuwenden sind, klärt Ihre rechtliche Beratung; wir setzen die technischen und dokumentarischen Maßnahmen um. Zweitens gelten für KI-Systeme in sensiblen Einsatzfeldern – etwa wenn ein System an Personalentscheidungen mitwirkt – strengere Anforderungen als für einen Assistenten, der Arbeitsanweisungen zusammenfasst. Wenn Ihr Anwendungsfall in diese Richtung geht, ist das der Punkt, an dem juristische Prüfung vor die technische Umsetzung gehört.

Die Entscheidungen, die vor dem ersten Import feststehen sollten

Wenn eine dieser Zeilen zum Startzeitpunkt offen ist, verschiebt sich die Klärung nicht – sie findet später statt, unter Zeitdruck und mit Nutzenden als Publikum.

Handlungsaufruf

Sie haben einen Wissensassistenten im Kopf, aber noch keinen Plan für die Einführung?
Wir schneiden mit Ihnen den ersten Anwendungsbereich zu, klären Rechte und Verantwortlichkeiten vor dem Start und legen fest, woran Sie den Piloten messen – und wann Sie ihn beenden.

Wissensassistent besprechen

Weiterführend: Automatisierung und KI · RAG-Systeme: Wie Unternehmenswissen mit KI nutzbar wird · KI-Agenten und Workflows im Vergleich

Quellenhinweise

• Europäische Kommission: Regulatorischer Rahmen für künstliche Intelligenz – Anwendungszeitpunkte der KI-Verordnung
• BSI: Generative KI-Modelle – Chancen und Risiken für Industrie und Behörden (PDF)
• BSI: Übersichtsseite zur Publikation „Generative KI-Modelle”