Blog · RAG im Mittelstand

Wenn Wissen in Rente geht: das Kopfwissen ausscheidender Mitarbeiter mit KI sichern

von · 10. August 2026 · 9 Min Lesezeit
Wissensfluss aus Interviews eines langjährigen Mitarbeiters über Transkription und Strukturierung in eine abfragbare Wissensdatenbank

Worum es geht: die Kurzfassung

Der Abgang steht im Kalender – der Wissensverlust nicht

Der Einkaufsleiter, der seit 28 Jahren „seine” Lieferanten kennt. Die Innendienstlerin, die am Tonfall einer Mail erkennt, ob ein Kunde kurz vor dem Absprung steht. Der Servicetechniker, der die Anlage in Halle 3 am Geräusch diagnostiziert. Jedes mittelständische Unternehmen hat diese Menschen. Und bei vielen von ihnen steht der Renteneintritt bereits im Kalender.

Die Dimension ist keine gefühlte. Nach Erstergebnissen des Mikrozensus 2025 werden bis 2040 rund 13,3 Millionen Erwerbspersonen das gesetzliche Rentenalter von 67 Jahren überschritten haben – 30,0 % aller Erwerbspersonen, meldete das Statistische Bundesamt im Juni 2026. Die geburtenstarken Jahrgänge, die jetzt gehen, sind überdurchschnittlich oft genau die Mitarbeiter mit 20 oder 30 Jahren Betriebszugehörigkeit.

In Familienunternehmen kommt ein zweiter Abgang dazu: der der Inhabergeneration selbst. Wer das Unternehmen aufgebaut hat, trägt Wissen, das nirgends dokumentiert ist – über Kunden, Konditionen, alte Zusagen, stille Konflikte.

Was verloren geht, merkt man erst hinterher. An der Reklamation, die eskaliert, weil niemand mehr wusste, dass dieser Kunde immer zuerst einen Anruf erwartet. An der Jahresverhandlung, in die der Nachfolger ohne die Preishistorie der letzten zehn Jahre geht.

Welches Wissen geht wirklich verloren?

Verloren geht vor allem implizites Erfahrungswissen: Entscheidungsregeln, Ausnahmen, Beziehungshistorie und Warnzeichen, die nie dokumentiert wurden. Preislisten, Prozesse und Stammdaten stehen im ERP und bleiben. Kritisch ist das Wissen darüber, wann die dokumentierte Regel nicht gilt – und warum.

Konkret, aus dem Alltag eines Großhändlers:

All das hat eine gemeinsame Eigenschaft: Es liegt nicht als Dokument vor, sondern ist nur durch Fragen abrufbar. „Frag den Müller” ist die am weitesten verbreitete Wissensdatenbank des Mittelstands – und die am wenigsten robuste.

Warum die klassische Übergabe scheitert

Auf den absehbaren Abgang gibt es drei Standardantworten, und alle drei enttäuschen regelmäßig.

Das Übergabedokument. In den letzten Wochen vor dem Austritt entsteht ein 30-Seiten-Dokument. Es beschreibt, was der Autor für wichtig hält – nicht, was der Nachfolger in zwei Jahren fragen wird. Gelesen wird es einmal, danach veraltet es im Dateiablage-Nirwana.

Das Wiki. Es verlangt vom Wissensträger die unangenehmste aller Tätigkeiten: neben dem Tagesgeschäft strukturiert aufzuschreiben, was er für selbstverständlich hält. Selbstverständlichkeiten schreibt niemand auf. Genau sie fehlen später.

Die Einarbeitung. Vier Wochen Doppelbesetzung übertragen einen Bruchteil von 28 Jahren – nämlich die Fälle, die zufällig in diesen vier Wochen auf den Tisch kommen.

Der gemeinsame Konstruktionsfehler: Alle drei Ansätze setzen voraus, dass der Wissensträger selbst vorhersieht, was künftig gebraucht wird, und es schriftlich festhält. Beides ist unrealistisch, und deshalb ist das Scheitern kein Disziplinproblem, sondern ein Methodenproblem.

Wie sichert man Kopfwissen mit KI?

Der Wissensträger redet, die KI schreibt: In strukturierten Interviews wird Erfahrungswissen aufgezeichnet, transkribiert und in geprüfte Wissensbausteine zerlegt. Ein RAG-System macht diese Bausteine anschließend abfragbar, mit Quellenangabe pro Antwort. Der Aufwand des Mitarbeiters reduziert sich auf Gesprächszeit – Strukturieren, Verschlagworten und Archivieren übernimmt das System.

Ein solches Projekt strukturieren wir in vier Phasen:

Phase 1: Kartieren (Woche 1–2). Bevor jemand interviewt wird, wertet die KI aus, was bereits vorliegt: Mail-Postfach (mit Einwilligung), Tickets, Auftrags- und Reklamationshistorie, Altdokumente. Daraus entsteht eine Themenlandkarte mit priorisiertem Interviewleitfaden. Die Leitfrage: Wo trifft dieser Mensch Entscheidungen, die kein System erklärt?

Phase 2: Befragen (Woche 3–6). Zwei Gespräche pro Woche à eine Stunde, aufgezeichnet und automatisch transkribiert. Interviewen kann ein externer Moderator – oder der Nachfolger selbst, der dabei die Zusammenhänge gleich aus erster Hand kennenlernt. Die KI liest mit und schlägt Anschlussfragen vor: „Sie sagten, bei Lieferant X bestellen Sie nie unter Palettengröße – warum?” Der Wissensträger bereitet nichts vor und schreibt nichts.

Phase 3: Strukturieren (parallel ab Woche 3). Aus den Transkripten extrahiert die KI Wissensbausteine: Entscheidungsregeln, Kontakthistorien, Warnhinweise, Begründungen – jeder Baustein mit Quelle und Datum. Der wichtigste Schritt ist menschlich: Der Wissensträger prüft die Bausteine und korrigiert, etwa eine Stunde pro Woche. Ungeprüfte Extraktion wäre nur eine weitere Texthalde.

Phase 4: Abfragbar machen (Woche 7–8). Die geprüften Bausteine wandern in ein RAG-System – wie diese Architektur grundsätzlich funktioniert, haben wir hier beschrieben. Der Nachfolger stellt Fragen in normaler Sprache und bekommt Antworten mit Verweis auf das Interview oder Dokument, aus dem sie stammen. Zugriffsrechte regeln, wer welche Bausteine sehen darf.

Was das Unternehmen danach hat

Der Nachfolger im Einkauf fragt vor der Jahresverhandlung: „Was muss ich über Lieferant Berger wissen?” Die Antwort fasst die Beziehungshistorie zusammen, nennt die Konditionsentwicklung und den Hinweis aus Interview 7, dass Berger auf Mengenbündelung besser reagiert als auf Preisdruck – mit Quellenangabe, nachlesbar im Original.

Der Nutzen reicht dabei über den einen Renteneintritt hinaus. Neue Mitarbeiter arbeiten sich am Archiv schneller ein, weil sie Fragen stellen können, die sie einem Kollegen nicht dreimal stellen würden. Und das Risiko ungeplanter Abgänge sinkt: Kündigung und Langzeitkrankheit kündigen sich nicht per Kalender an.

Die einmalige Sicherung vor dem Austritt ist allerdings die Notfalloperation. Dauerhaft wirksamer ist, Wissen laufend dort einzusammeln, wo es entsteht – wie das im Vertrieb aussieht, zeigt unser Artikel über Memory-Agenten im B2B-Vertrieb. Für Serviceorganisationen ist der verwandte Weg ein Service-RAG für Techniker im Außendienst.

Wo KI nicht hilft

Drei Dinge lassen sich nicht extrahieren, und wer Ihnen verspricht, einen Mitarbeiter „digital zu klonen”, verkauft Ihnen etwas.

Beziehungen sind nicht übertragbar: Der Lieferant, der dem alten Einkaufsleiter seit 20 Jahren vertraut, gibt dem Nachfolger nicht automatisch dieselben Konditionen. Können ist nicht Wissen: Das Archiv erklärt, worauf es in der Verhandlung ankommt – verhandeln muss der Nachfolger selbst. Und für Situationen, die es noch nie gab, hilft keine Historie.

Ein Wissensarchiv ersetzt deshalb keinen guten Nachfolger. Es verkürzt dessen Weg zur Handlungsfähigkeit – von Jahren auf Monate.

DSGVO, Betriebsrat, Mitwirkung

Interviews und Mail-Auswertungen enthalten Personenbezug: Kollegen, Kundenkontakte, Bewertungen von Geschäftspartnern. Das Projekt braucht deshalb eine informierte Einwilligung des Wissensträgers, ein Löschkonzept pro Datenkategorie und ein Berechtigungskonzept für das Archiv. Die Aufzeichnung von Gesprächen ist mitbestimmungsrelevant – binden Sie den Betriebsrat ein, bevor das erste Interview stattfindet, nicht danach.

Freiwilligkeit ist dabei Bedingung, nicht Kür. Ein Wissensträger, der das Projekt als Kontrolle oder als Vorbereitung seiner Ersetzbarkeit erlebt, liefert wertloses Material. Erfahrungsgemäß hilft die ehrliche Rahmung: Es geht darum, dass 28 Jahre Arbeit nicht mit der Abschiedsfeier enden. Was regulatorisch für KI-Systeme insgesamt gilt, haben wir im Überblick zu EU AI Act und DSGVO für KI-Agenten zusammengefasst.

Anfangen, solange man noch fragen kann

Der beste Zeitpunkt für die Wissenssicherung liegt sechs bis zwölf Monate vor dem Austritt. Der zweitbeste ist jetzt: Eine Liste der fünf kritischsten Wissensträger mit ihren voraussichtlichen Austrittsdaten kostet eine halbe Stunde Geschäftsführungszeit und macht das Risiko erstmals sichtbar.

Ein Pilot mit einer Person ist in etwa acht Wochen durchführbar, parallel zum Tagesgeschäft. Wie sich ein solches Vorhaben in eine Gesamtstrategie einordnet, zeigt unser Überblick zu KI-Agenten im Mittelstand 2026.

Wenn Sie klären möchten, welcher Wissensträger in Ihrem Haus zuerst dran wäre, sprechen Sie uns an.

Häufige Fragen

Wie lange vor dem Austritt sollte die Wissenssicherung starten?

Ideal sind sechs bis zwölf Monate, dann bleibt Zeit für Rückfragen und eine zweite Interviewrunde. Machbar ist ein belastbares Erstarchiv aber auch in acht Wochen – etwa wenn eine Kündigung den Zeitplan diktiert. Je näher der Austritt, desto stärker priorisiert man auf die Themen mit dem größten Schadenspotenzial.

Was ist, wenn der Mitarbeiter nicht mitwirken will?

Ohne Mitwirkung geht es nur eingeschränkt: Dann bleibt die Auswertung vorhandener Artefakte wie Mails, Tickets und Auftragshistorie. In der Praxis ist die Hürde aber selten der Wille, sondern die Form. Interviews werden von den meisten langjährigen Mitarbeitern als Wertschätzung erlebt – reden fällt leichter als dokumentieren. Freiwilligkeit und eine ehrliche Erklärung des Zwecks sind Bedingung.

Reicht nicht ein gutes Übergabedokument?

Ein Übergabedokument beschreibt, was der Autor für wichtig hält – nicht, was der Nachfolger in zwei Jahren fragen wird. Es ist statisch, wird selten vollständig gelesen und veraltet ab dem ersten Tag. Ein abfragbares Wissensarchiv beantwortet dagegen die konkrete Frage im konkreten Moment, mit Quellenangabe.

Welche Rolle spielen DSGVO und Betriebsrat?

Interviews und Mail-Auswertungen enthalten Personenbezug, deshalb braucht das Projekt eine Einwilligung des Wissensträgers, ein Löschkonzept pro Datenkategorie und saubere Zugriffsrechte auf das Archiv. Die Aufzeichnung von Gesprächen ist mitbestimmungsrelevant – den Betriebsrat früh einzubinden erspart Konflikte, die das Projekt sonst später stoppen.

Was kostet ein solches Projekt?

Die technische Basis entspricht einem RAG-Pilotprojekt, für das wir typischerweise 25.000 bis 60.000 Euro ansetzen; dazu kommt der laufende Betrieb des Archivs mit 5.000 bis 15.000 Euro pro Jahr für Hosting, Inferenz und Wartung. Intern kommt der Aufwand des Wissensträgers von zwei bis drei Stunden pro Woche über etwa acht Wochen dazu. Ob sich das rechnet, hängt an der Gegenfrage: Was kostet eine einzige Fehlentscheidung des Nachfolgers, der die Historie nicht kannte?

Recherche KI-gestützt, fachlich geprüft und faktengecheckt von Tobias Egner, Stand August 2026.

Nächster Schritt

Lassen Sie uns konkret werden.

30 Minuten, kostenfrei, ergebnisoffen. Wir hören zu, stellen die richtigen Fragen und sagen ehrlich, was sich lohnt und was nicht.

Beratungsgespräch anfragen