Blog · Recht & Compliance

Schatten-KI im Mittelstand: warum ChatGPT-Verbote scheitern und was der EU AI Act seit August 2026 verlangt

von · 13. August 2026 · 10 Min Lesezeit

Worum es geht: die Kurzfassung

Was Schatten-KI ist – und warum sie 2026 zum Rechtsthema wird

Schatten-KI bezeichnet KI-Werkzeuge, die Mitarbeitende für Arbeitsaufgaben nutzen, ohne dass IT oder Geschäftsführung davon wissen. Der Begriff folgt der „Schatten-IT” der 2010er-Jahre: damals Dropbox und private USB-Sticks, heute ChatGPT, Gemini, DeepL Write und Dutzende Browser-Erweiterungen mit KI-Funktion.

Im Großhandel sieht das konkret so aus: Der Vertriebsinnendienst formuliert die Antwort auf eine Reklamation mit dem privaten ChatGPT-Account vor – inklusive Kundenname und Auftragshistorie. Der Einkauf schiebt einen englischen Liefervertrag durch ein kostenloses Übersetzungstool. Die Disposition lässt sich eine Excel-Formel für die Bestellmengenrechnung generieren und lädt dafür die halbe Artikeltabelle hoch.

Keiner dieser Fälle ist böswillig. Alle drei sind aus Sicht der Beschäftigten rational: Die Arbeit geht schneller, das Ergebnis ist besser, und ein freigegebenes Werkzeug, das dasselbe kann, gibt es im Haus nicht.

Rechtlich ändert die fehlende Freigabe wenig. Betreiber im Sinne des AI Act (Art. 3 Nr. 4) ist, wer ein KI-System „in eigener Verantwortung” beruflich verwendet – ausgenommen ist nur die persönliche, nicht-berufliche Nutzung. Arbeitet Ihr Personal mit KI an Firmenaufgaben, landen die Pflichten bei Ihnen als Unternehmen. Ob die IT das Tool kannte, fragt die Verordnung nicht.

Wie verbreitet ist Schatten-KI?

Verbreiteter, als die meisten IT-Leitungen schätzen. Drei Erhebungen aus den Jahren 2024 und 2025 zeichnen ein einheitliches Bild:

Die Zahlen sind international erhoben, aber es gibt keinen Grund zur Entwarnung für den deutschen Mittelstand. Im Gegenteil: Wo kein freigegebenes KI-Werkzeug existiert, ist der Anteil der Eigeninitiative naturgemäß am höchsten. Ein Haus ohne offizielles KI-Angebot hat keine geringere KI-Nutzung – nur eine unsichtbare.

Was der EU AI Act daraus macht

Seit dem 2. August 2026 sind die zentralen Pflichten des AI Act vollständig anwendbar. Für das Thema Schatten-KI sind drei Bausteine relevant, und keiner davon setzt voraus, dass ein Tool offiziell eingeführt wurde:

Die Einstufung in Risikoklassen, die AVV-Frage und das EU-Hosting haben wir in einem eigenen Beitrag ausführlich behandelt: EU AI Act und DSGVO für KI-Agenten im Mittelstand. Hier geht es um den Punkt davor: Diese Pflichten lassen sich nur für Systeme erfüllen, von denen Sie wissen. Schatten-KI ist deshalb kein Disziplinproblem einzelner Mitarbeiter, sondern eine Lücke in der Compliance-Grundlage.

Die vier Risiken konkret

1. DSGVO: personenbezogene Daten ohne Rechtsgrundlage. Kundenname, Ansprechpartner, Reklamationstext im privaten KI-Account – das ist eine Übermittlung an einen Drittanbieter ohne Auftragsverarbeitungsvertrag, meist in die USA. Kostenlose Consumer-Versionen verwenden Eingaben in der Standardeinstellung zudem für das Modelltraining. Für keinen dieser Punkte existiert im Schatten-Szenario eine Rechtsgrundlage oder auch nur eine Dokumentation.

2. Geschäftsgeheimnisse: der Schutz erlischt leise. Das Geschäftsgeheimnisgesetz schützt Kalkulationen, Lieferantenkonditionen und Konstruktionsdaten nur, solange der Inhaber „angemessene Geheimhaltungsmaßnahmen” trifft (§ 2 GeschGehG). Wer duldet, dass solche Daten in öffentliche KI-Tools fließen, riskiert im Streitfall den Geheimnisschutz insgesamt. Wie real das Szenario ist, zeigte Samsung im Mai 2023: Ingenieure hatten internen Quellcode in ChatGPT eingegeben, der Konzern verbot daraufhin generative KI auf Firmengeräten.

3. AI Act: Pflichten, die niemand erfüllen kann. Schulungsnachweis, Transparenzkennzeichnung, menschliche Aufsicht – jede dieser Pflichten setzt Kenntnis des Systems voraus. Ein KI-Verzeichnis, das die Hälfte der tatsächlichen Nutzung nicht enthält, dokumentiert bei einer Behördenanfrage vor allem eines: dass die Organisation ihre eigene Lage nicht kennt.

4. Qualität: Halluzinationen mit Firmenbriefkopf. Der ungeprüfte KI-Text geht als Angebot, Zolltarifauskunft oder technische Antwort an den Kunden – ohne dass ein zweites Augenpaar wusste, dass hier eine KI formuliert hat. Die Fehlerquote ist kein Rechtsproblem, aber ein Haftungs- und Reputationsproblem.

Warum ein Komplettverbot das Problem vergrößert

Die Verbotslösung liegt nahe und scheitert regelmäßig. Eine Firewall-Sperre erfasst das Firmennetz, nicht das private Smartphone daneben. Die Arbeit wandert vom überwachbaren Firmen-Browser in die unüberwachbare private Umgebung – die Datenlage wird schlechter, nicht besser.

Die KPMG-Zahl von oben ist hier der Kernbefund: Wenn 57 % der Beschäftigten ihre Nutzung schon heute verbergen, erhöht ein Verbot vor allem den Anreiz, es weiter zu tun. Selbst Samsung kündigte parallel zum Verbot eigene, interne KI-Dienste an – der Konzern hatte verstanden, dass das Bedürfnis bleibt, wenn das Tool verschwindet.

Der Bedarf ist der eigentliche Befund. Mitarbeitende greifen zu ChatGPT, weil es ihnen messbar Arbeit abnimmt. Ein Verbot beantwortet diese Nachfrage nicht, es ignoriert sie.

In drei Stufen aus dem Schatten

Das Vorgehen, das wir Unternehmen empfehlen, hat drei Stufen. Jede ist einzeln nützlich; die Reihenfolge ist bewusst gewählt.

Stufe 1: Inventur mit Amnestie-Fenster

Sie brauchen zuerst ein ehrliches Bild der Lage. Drei Quellen zusammen liefern es: eine anonyme Befragung der Belegschaft („Welche KI-Tools nutzen Sie wofür?”), die SSO- und DNS-Logs der IT und die Spesen- und Kreditkartenabrechnungen der Fachabteilungen auf Tool-Abos. Entscheidend ist ein ausdrücklich zugesichertes Amnestie-Fenster: Wer jetzt angibt, was er nutzt, hat keine Konsequenzen zu befürchten. Ohne diese Zusicherung bekommen Sie die Logs – aber nicht die privaten Accounts, die das eigentliche Risiko tragen.

Stufe 2: Ampel-Regeln nach Datenklassen

Eine brauchbare KI-Richtlinie regelt nicht Tools, sondern Daten. Ein Ampel-Modell auf einer Seite reicht:

Der Vorteil gegenüber einer Tool-Liste: Die Regel veraltet nicht mit jedem neuen Dienst, und Mitarbeitende können sie ohne Rückfrage auf den Einzelfall anwenden. Die Richtlinie ist zugleich der natürliche Ort für den Schulungsnachweis nach Art. 4 – ein dokumentierter 90-Minuten-Workshop zur Einführung deckt den Anfang ab.

Stufe 3: eine Alternative, die den Bedarf wirklich deckt

Die Regeln halten nur, wenn es einen legalen Weg gibt, der genauso bequem ist. Dafür gibt es zwei bewährte Pfade, oft in Kombination: ein Unternehmensvertrag für ein kommerzielles Tool mit AVV und EU-Datenresidenz für die allgemeine Text- und Rechercheaufgabe – und für Fragen an das eigene Firmenwissen ein RAG-System auf den eigenen Daten, bei dem Dokumente das Haus nicht verlassen. Wie Sie die Zuständigkeiten, Freigaben und das KI-Verzeichnis dauerhaft organisieren, beschreibt unser Beitrag zur KI-Governance im Mittelstand.

Erst wenn Stufe 3 steht, ist ein Verbot der verbleibenden Grau-Nutzung durchsetzbar und fair. Vorher verbietet man Menschen ein Werkzeug, für das man keinen Ersatz anbietet.

Checkliste: die KI-Richtlinie auf einer Seite

Häufige Fragen

Ist es verboten, wenn Mitarbeiter ChatGPT ohne Freigabe nutzen? Kein Gesetz verbietet die Nutzung als solche. Die Pflichten treffen aber das Unternehmen: DSGVO-Rechtsgrundlage und AVV, sobald personenbezogene Daten eingegeben werden, und die Schulungspflicht nach Art. 4 AI Act. Beides gilt unabhängig davon, ob das Tool offiziell freigegeben wurde. Intern regeln Sie die Nutzung über das arbeitsrechtliche Weisungsrecht, am besten in einer schriftlichen KI-Richtlinie.

Gilt die Schulungspflicht nach Art. 4 AI Act auch für bloß geduldete Tools? Ja. Art. 4 knüpft an den Einsatz von KI-Systemen durch Ihr Personal an, nicht an eine offizielle Einführung. Wer weiß oder wissen muss, dass Mitarbeitende mit KI arbeiten, muss für ausreichende KI-Kompetenz sorgen. Die Pflicht gilt seit dem 2. Februar 2025.

Reicht es, ChatGPT per Firewall zu sperren? Nein. Die Sperre erfasst das Firmennetz, nicht das private Smartphone daneben. Laut der KPMG-Studie mit der Universität Melbourne (2025) verbergen 57 % der Beschäftigten ihre KI-Nutzung ohnehin. Eine Sperre ohne Alternative macht die Nutzung unsichtbar, statt sie zu beenden.

Woher wissen wir, welche KI-Tools im Haus tatsächlich laufen? Drei Quellen zusammen ergeben ein belastbares Bild: eine anonyme Mitarbeiterbefragung mit zugesichertem Amnestie-Fenster, die SSO- und DNS-Logs der IT sowie die Abrechnungen der Fachabteilungen auf Tool-Abos. Die Befragung liefert erfahrungsgemäß die Treffer, die in keinem Log auftauchen: private Accounts auf privaten Geräten.

Haftet die Geschäftsführung, wenn heimliche KI-Nutzung zu einem Datenvorfall führt? Verantwortlich gegenüber Behörden und Betroffenen ist das Unternehmen als DSGVO-Verantwortlicher und AI-Act-Betreiber. Die Geschäftsführung trifft die Organisationspflicht, angemessene Regeln und Kontrollen einzurichten. Wer nachweislich Richtlinie, Schulung und eine zumutbare Alternative etabliert hat, steht in einer Prüfung erheblich besser da als ein Haus ohne jede Regelung.

Wo Sie ansetzen, wenn Sie diese Woche starten möchten

  1. Inventur anstoßen. Anonyme Befragung mit Amnestie-Fenster aufsetzen, parallel IT-Logs und Abo-Abrechnungen sichten. Zwei Wochen reichen für ein erstes Lagebild.
  2. Ampel-Richtlinie auf eine Seite bringen und mit einem dokumentierten Workshop einführen – damit ist zugleich die Art.-4-Pflicht abgedeckt, die seit Februar 2025 gilt.
  3. Die Alternative entscheiden. Unternehmensvertrag mit EU-Datenresidenz für die Breite, eigenes RAG-System für das Firmenwissen. Welche Anwendungsfälle sich dafür im Handel bewährt haben, zeigt unsere Übersicht der KI-Agenten-Anwendungsfälle für Handel und Fertigung.

Wenn Sie nicht sicher sind, wie viel Schatten-KI in Ihrem Haus läuft oder welche Alternative zu Ihren Datenklassen passt, vereinbaren Sie ein Beratungsgespräch. In 30 Minuten klären wir Lagebild, Richtlinie und den sinnvollsten ersten Schritt.

Methodik: Recherche KI-gestützt, fachlich geprüft und faktengecheckt von Tobias Egner – mit Hintergrund aus Handel und KI-Engineering. Die Verbreitungszahlen stammen aus dem Work Trend Index von Microsoft und LinkedIn (Mai 2024), der Studie von KPMG und der Universität Melbourne (April 2025) und dem IBM Cost of a Data Breach Report 2025; die rechtlichen Angaben aus der EU-KI-Verordnung (Art. 3, 4, 50, 99), der DSGVO und § 2 GeschGehG. Ampel-Modell, Amnestie-Inventur und Checkliste sind Dagentic-Arbeitswerkzeuge. Stand: 13. August 2026. Der Beitrag ersetzt keine Rechtsberatung.

← Alle Artikel
Nächster Schritt

Lassen Sie uns konkret werden.

30 Minuten, kostenfrei, ergebnisoffen. Wir hören zu, stellen die richtigen Fragen und sagen ehrlich, was sich lohnt und was nicht.

Beratungsgespräch anfragen