EU AI Act und DSGVO für KI-Agenten im Mittelstand 2026: was Sie tatsächlich tun müssen

Worum es geht: die Kurzfassung

• Der EU AI Act ist seit 1. August 2024 in Kraft. Die ersten Pflichten gelten seit 2. Februar 2025 (verbotene Praktiken, AI Literacy), die GPAI-Regeln seit 2. August 2025, die High-Risk-Regeln werden ab 2. August 2026 vollständig durchgesetzt.
• Für typische Mittelstands-Agenten (Auftrags-, Reklamations-, Lead-, Wissens-Agenten) gilt „limited risk”. Die wesentliche Pflicht ist Transparenz: Der Mensch muss wissen, dass er mit einer KI interagiert.
• „High risk” wird relevant bei automatischer Personalauswahl, Bonitätsbewertung, kritischer Infrastruktur und ein paar weiteren scharf umrissenen Anwendungen. Lösung: den Agenten als Vorschlagsmaschine bauen, finale Entscheidung beim Menschen lassen.
• DSGVO bleibt die operativ stärkere Hürde. Rechtsgrundlage prüfen (Art. 6), Transparenzpflichten erfüllen (Art. 13/14), AVV mit LLM-Provider abschließen (Art. 28), DPIA durchführen wenn nötig (Art. 35).
• EU-Inferenz oder On-Premise nimmt 80 % der Diskussion vorweg. Azure OpenAI EU, Mistral La Plateforme, AWS Bedrock EU oder lokal Llama 3.3 / Qwen 2.5.
• Bußgeldrahmen ernsthaft: AI Act bis 35 Mio. € oder 7 % Konzernumsatz; DSGVO bis 20 Mio. € oder 4 % Konzernumsatz. Für den klassischen Mittelständler tatsächlich relevant.

Der EU AI Act 2026: was wann gilt

Der AI Act (Verordnung (EU) 2024/1689) wurde im August 2024 im EU-Amtsblatt veröffentlicht. Die Inkraftsetzung erfolgt gestaffelt:

• 2. Februar 2025: Kapitel I (Allgemeines), Kapitel II (verbotene Praktiken), Art. 4 (AI Literacy, Schulungspflicht für Personal, das KI einsetzt). Diese Pflichten gelten heute schon.
• 2. August 2025: Pflichten für Anbieter von General-Purpose-AI-Modellen, Sanktionsbestimmungen, Notifizierungsstellen.
• 2. August 2026: Pflichten für High-Risk-Systeme nach Anhang III (Beschäftigung, Bildung, Bonität, Strafverfolgung), Transparenzpflichten nach Art. 50, Großteil des Governance-Frameworks.
• 2. August 2027: Spätfrist für High-Risk-Systeme nach Anhang I (Sicherheitskomponenten in regulierten Produkten: Maschinen, Medizinprodukte, Spielzeug).

Für die meisten Mittelständler ist 2026 der heiße Termin. Wer heute einen Agenten baut, sollte das so tun, dass er ab August 2026 sauber im Rahmen bleibt, nicht erst dann mit der Anpassung beginnen.

Risikoklassen: was Ihr Agent tatsächlich ist

Der AI Act kennt vier Risikostufen. Für Mittelstands-Agenten ist die Einstufung meistens klar; die Grenzfälle sind die Ausnahme, nicht die Regel.

Verboten (Art. 5)

Social Scoring durch Behörden oder Unternehmen, manipulative Beeinflussung, biometrische Echtzeit-Identifikation im öffentlichen Raum, ungerichtetes Scraping von Gesichtsbildern. Für klassische B2B-Mittelstandsanwendungen nicht relevant. Sie laufen hier nicht zufällig hinein.

Hochrisiko (Art. 6 + Anhang III)

• Einsatz in kritischer Infrastruktur (Energie, Verkehr, Wasser).
• Bildung und Berufsausbildung (Bewertung, Zugang).
• Beschäftigung: Personalauswahl, automatische Bewertung von Bewerbungen, Beförderungs- und Kündigungsentscheidungen, Aufgabenverteilung mit erheblichen Auswirkungen auf Arbeitsbedingungen.
• Zugang zu wesentlichen Dienstleistungen: Bonitätsbewertung, Risiko-Einstufung in Versicherungen.
• Strafverfolgung, Migration, Justiz.

Konkret für den Mittelstand: Schichtplanung mit automatischer finaler Entscheidung kann unter „Beschäftigung” fallen, wenn sie maßgebliche Auswirkung auf Arbeitsbedingungen hat. Eine automatische Bonitätsprüfung von B2B-Kunden ist High-Risk, wenn die Entscheidung direkt zur Belieferung oder Kreditgewährung führt. Eine Vorschlagsmaschine, bei der ein Mensch die finale Entscheidung trifft, ist es in den meisten Fällen nicht.

Limited risk: Transparenzpflicht (Art. 50)

• Chatbots und Conversational Agents: Der Nutzer muss erkennen, dass er mit einer KI interagiert.
• Generierung von synthetischen Inhalten: Output muss als KI-generiert kennzeichenbar sein (maschinenlesbar, z. B. C2PA).
• Emotionserkennung / biometrische Kategorisierung: Information der betroffenen Person.
• Deepfakes: Kennzeichnungspflicht.

Konkret: Wenn Ihr Auftrags-Agent eine Auftragsbestätigung an einen Kunden schickt, muss in der Mail ersichtlich sein, dass die Bearbeitung KI-unterstützt erfolgt ist. Ein Satz im Footer reicht, eine markante Stelle in der Signatur ist sauberer.

Minimal risk

Alles, was nicht in eine der drei höheren Klassen fällt. Hier gilt der AI Act allgemein nicht, abgesehen von Art. 4 (AI Literacy, Schulungspflicht).

Schätzwerkzeug für Ihren Use Case

Zwei Fragen reichen meistens:

1. Trifft der Agent eine Entscheidung mit erheblichen Auswirkungen auf eine natürliche Person, ohne dass ein Mensch sie überprüfen kann? Wenn ja, prüfen Sie Anhang III sehr genau.
2. Interagiert die Person direkt mit dem Agenten, oder bekommt sie Output, der KI-generiert ist? Wenn ja, gilt mindestens Art. 50 (Transparenz).

Im Zweifel: schriftliche Einschätzung Ihres Datenschutzbeauftragten plus Fachanwalt. Für viele Mittelständler ist es die billigste Stunde, die sie 2026 ausgeben.

DSGVO bleibt die operative Hürde

Der AI Act ist neu. Die DSGVO ist seit Mai 2018 in Kraft und das tägliche Brot. Sie ist für KI-Agenten weiterhin maßgeblich, wo personenbezogene Daten verarbeitet werden, und das tun fast alle B2B-Agenten, weil sie Namen, E-Mail-Adressen, Telefonnummern aus Bestellungen, Anfragen und Reklamationen verarbeiten.

Rechtsgrundlage (Art. 6)

• Art. 6 (1) b: Vertragserfüllung, typisch für Auftrags- und Reklamations-Agenten. Der Kunde hat einen Vertrag, der Agent verarbeitet seine Daten zur Erfüllung.
• Art. 6 (1) f: Berechtigte Interessen, typisch für Lead-Qualifizierung. Hier ist eine sorgfältige Interessenabwägung Pflicht und sollte schriftlich vorliegen.
• Art. 6 (1) a: Einwilligung, selten nötig im B2B, häufig im B2C bei Newsletter-Personalisierung.

Transparenzpflicht (Art. 13/14)

Die Datenschutzerklärung muss aktualisiert werden, sobald Sie einen Agenten produktiv schalten. Mindestangaben:

• Welche personenbezogenen Daten verarbeitet der Agent?
• Welche Zwecke (Auftragserfassung, Reklamation, etc.)?
• Welche Empfänger (insbesondere LLM-Provider außerhalb des EWR)?
• Welche Drittlandstransfers (USA, Schweiz)?
• Welche Speicherdauer?
• Welche Betroffenenrechte?
• Liegt eine automatisierte Entscheidung im Sinne Art. 22 vor?

Die meisten Datenschutzerklärungen im Mittelstand sind hier 2026 nicht auf Stand. Eine Aktualisierung ist Pflicht-Vorarbeit vor dem Go-Live.

AVV (Art. 28) mit dem LLM-Provider

Ein Auftragsverarbeitungsvertrag muss mit jedem Provider geschlossen werden, der in Ihrem Auftrag personenbezogene Daten verarbeitet. Für gängige Anbieter sind Muster verfügbar:

• Microsoft Azure OpenAI Service: AVV Teil des Online Services DPA. Datenresidenz in der EU bei Buchung der EU-Region (z. B. Sweden Central, France Central).
• Anthropic Claude über AWS Bedrock: AWS GDPR DPA + EU-Region. Direkt-Anthropic-API ist USA-basiert. Für DSGVO-strikte Setups meist nur über Bedrock EU sinnvoll.
• OpenAI direkt: Zero-Data-Retention-Add-on möglich, Datenresidenz USA. Für sensible Daten meist nicht der erste Vorschlag.
• Mistral La Plateforme: Französischer Anbieter, AVV verfügbar, Hosting in der EU.
• AWS Bedrock: AVV + EU-Region (Frankfurt, Dublin, Mailand).

Prüfen Sie im AVV explizit: Subunternehmer-Liste, Drittlandstransfer-Klauseln (Standardvertragsklauseln plus zusätzliche Schutzmaßnahmen), Lösch- und Rückgabepflichten, Auditrechte.

DPIA (Art. 35): wann nötig

Eine Datenschutz-Folgenabschätzung ist Pflicht, wenn die Verarbeitung „voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen” hat. Die deutschen Aufsichtsbehörden haben eine Black-List veröffentlicht. Bei Mittelstands-KI-Agenten typisch relevant:

• Automatisierte Bewertung mit erheblichen Folgen (z. B. Lead-Scoring mit direkter Vertriebs-Konsequenz, Bonitätsprüfung).
• Umfangreiche Verarbeitung besonderer Datenkategorien (Gesundheits-, Mitarbeiter-, biometrische Daten).
• Systematische Überwachung (auch im B2B-Kontext bei Customer-Journey-Tracking).

Für einen reinen Auftrags-Agenten, der nur Vertragsdaten verarbeitet, ist meist keine DPIA nötig. Im Zweifel: DPIA durchführen. Sie ist kein Aufwand für die Schublade, sondern hilft, die eigenen Risiken zu kennen.

Art. 22: automatisierte Entscheidung

Eine Entscheidung allein auf automatisierter Verarbeitung ist nach Art. 22 grundsätzlich unzulässig, wenn sie rechtliche Wirkung entfaltet oder die Person erheblich beeinträchtigt. Ausnahmen: vertraglich erforderlich, gesetzlich zugelassen oder mit ausdrücklicher Einwilligung. Praktisch heißt das: Ein Agent, der eigenständig Verträge schließt oder ablehnt, braucht entweder eine harte Rechtsgrundlage oder einen Menschen im Loop.

EU-Inferenz oder On-Premise: die pragmatische Entscheidung

Die Wahl der Inferenz-Plattform ist 2026 weniger ideologisch geworden, als sie 2023 noch war. Drei Pfade sind heute Standard:

• EU-gehostete kommerzielle Modelle. Azure OpenAI in der EU-Region, AWS Bedrock in der EU-Region, Mistral La Plateforme. Klare AVVs, EU-Datenresidenz, professioneller Support, gute Modellqualität. Sinnvoll für 80 % der Mittelstands-Use-Cases.
• Self-Hosted Open-Weights. Llama 3.3 70B, Qwen 2.5 72B, Mistral Large 2: alle laufen auf eigener Hardware (1–4 H100-GPUs für Produktivlasten). Vorteile: Keine Daten verlassen das Haus, vollständige Kontrolle, keine API-Kosten pro Token. Nachteile: Hardware-Investment 80.000–250.000 €, eigene MLOps-Kompetenz nötig, Modelle leicht hinter dem State of the Art.
• Hybrid. EU-gehostetes Modell für unkritische Daten, lokale Inferenz für sensible Vorgänge (z. B. Mitarbeiter-Daten, technische Konstruktions-Daten). In unseren Projekten der häufigste Setup.

Was Sie nicht tun sollten: Direkt die USA-API von OpenAI oder Anthropic für personenbezogene Daten nutzen, ohne sauberen AVV und ohne explizite Risikoabwägung. Selbst mit Zero-Data-Retention-Add-on ist die Drittlandstransfer-Diskussion 2026 noch nicht abschließend geklärt. Vermeiden Sie sie, wenn EU-Alternativen den Use Case decken.

Drei Checklisten für Ihren Go-Live

Daten-Checkliste

• Rechtsgrundlage pro Verarbeitungszweck dokumentiert (Art. 6).
• Verzeichnis der Verarbeitungstätigkeiten ergänzt (Art. 30).
• Datenschutzerklärung auf Stand (Art. 13/14).
• DPIA durchgeführt, wenn nötig (Art. 35).
• Lösch- und Aufbewahrungsfristen pro Datentyp definiert (Art. 5).
• Betroffenenrechte-Prozess steht (Auskunft, Löschung, Berichtigung).

Modell-Checkliste

• AVV mit dem LLM-Provider abgeschlossen (Art. 28).
• EU-Datenresidenz schriftlich bestätigt oder lokale Inferenz.
• Drittlandstransfer-Mechanismen geprüft (Standardvertragsklauseln plus Zusatzgarantien).
• Subunternehmer-Liste eingesehen.
• Modell-Output stichprobenweise auf Halluzinationen geprüft.
• Confidence-Schwellen und Eskalationspfade dokumentiert.

Prozess-Checkliste

• AI-Act-Risikoklasse schriftlich festgehalten (Art. 6, 50).
• AI-Literacy-Schulung für Mitarbeiter dokumentiert (Art. 4).
• Transparenz-Hinweis im Footer / in der Signatur (Art. 50).
• Menschliche Aufsicht bei jeder relevanten Entscheidung gesichert (Art. 22 DSGVO, Art. 14 AI Act).
• Audit-Log eingerichtet (Anfrage, Entscheidung, Confidence, Tool-Calls).
• Incident-Response definiert für Halluzinationen mit Außenwirkung.

Wenn alle drei Listen abgehakt sind, sind Sie nicht garantiert sicher, aber Sie haben die Diskussion mit der Aufsichtsbehörde dokumentiert und können sie führen.

Häufige Fragen

Müssen wir wirklich eine DPIA durchführen, wenn wir nur einen Auftragseingang-Agenten bauen? In den meisten Fällen nein. Auftragsdaten sind übliche Vertragsdaten, das Risiko ist gering. Eine DPIA wird Pflicht, sobald Bonitätsprüfung, Lead-Scoring mit direkter Vertriebsfolge oder die Verarbeitung von Mitarbeiter-Daten dazukommt. Im Zweifel: schriftliche Risikoeinschätzung Ihres Datenschutzbeauftragten.

Wir nutzen ChatGPT-Plus interaktiv für Recherche. Brauchen wir dafür einen AVV? Im Zweifel ja, sobald Mitarbeiter dort personenbezogene Daten reinkippen (etwa Kunden-Mails zur Stil-Verbesserung). Mit OpenAI Teams / Enterprise lassen sich Datenresidenz und AVV regeln; im normalen ChatGPT-Plus haben Sie das nicht. Eine interne Richtlinie „keine personenbezogenen Daten in nicht-DSGVO-konforme Tools” ist Pflicht-Baustein der AI Literacy nach Art. 4.

Reicht ein Footer-Hinweis „Diese E-Mail wurde KI-unterstützt erstellt”? Für die Art.-50-Transparenzpflicht typisch ja. Sauberer ist ein expliziter Hinweis: „Bearbeitung dieses Vorgangs durch unser KI-System; Antwort vor Versand durch [Name] geprüft.” Damit dokumentieren Sie zugleich die menschliche Aufsicht.

Kann ich den AI Act umgehen, indem ich den Agenten als „Vorschlagsmaschine” baue? Im Grundsatz ja. Das ist auch der pragmatische Weg, um aus High-Risk-Bereichen rauszubleiben. Wichtig: Die menschliche Überprüfung muss substanziell sein, nicht nur formal. Ein Mitarbeiter, der pauschal alle Vorschläge mit einem Klick freigibt, ist keine menschliche Aufsicht im Sinne des Gesetzes.

Was kostet der gesamte Compliance-Aufwand vor Go-Live? Für einen einzelnen Use Case typisch 8.000–25.000 € extern (Datenschutz-Beratung, Vertragsprüfung, ggf. DPIA-Workshop) plus 5–15 Personentage intern. Bei Komplexvorgängen (High-Risk-Bewertung, AI-Act-Konformität für mehrere Use Cases gemeinsam) entsprechend mehr.

Wir arbeiten mit einem KI-Dienstleister. Wer haftet, wenn etwas schiefgeht? Sie als „Betreiber” im Sinne des AI Act und als „Verantwortlicher” im Sinne der DSGVO. Der Dienstleister ist Auftragsverarbeiter / Anbieter. Er muss Ihre Vorgaben erfüllen, aber die rechtliche Verantwortung gegenüber Behörden und Betroffenen liegt bei Ihnen. Pflichten und Haftungsgrenzen im Vertrag mit dem Dienstleister entsprechend sauber regeln.

Wo Sie ansetzen, wenn Sie heute starten möchten

Drei Schritte, mit denen Sie 2026 sauber unterwegs sind und mit denen Sie bei einer Behörden-Anfrage in zehn Minuten Auskunft geben können:

1. AI-Literacy-Schulung dokumentieren. Mindestens für die Mitarbeitenden, die KI produktiv einsetzen. Ein 90-Minuten-Workshop mit Teilnahmebestätigung reicht für den Anfang. Pflicht seit Februar 2025, oft noch nicht umgesetzt.
2. Risikoklasse pro Use Case schriftlich festhalten. Ein einseitiges Dokument pro produktiven Agenten: Was tut er, welche Daten verarbeitet er, welche Risikoklasse, welche menschliche Aufsicht, welche Transparenz. Diese Seite ist Ihr erstes Pflicht-Dokument bei einer Aufsichts-Anfrage.
3. AVVs prüfen. Listen Sie alle KI-Tools und Provider auf, mit denen Ihr Haus heute schon arbeitet (oft mehr, als IT weiß: Marketing-Tools, Übersetzungs-Plug-ins). Pro Provider: Liegt ein AVV vor? Ist EU-Hosting vereinbart? Was steht zu Drittlandstransfer? Das ist meistens der größte stille Compliance-Punkt.

Eine zweite Lektüre dazu: Unsere Übersicht der neun KI-Agenten-Anwendungsfälle für Handel und Fertigung zeigt, welche Use Cases im AI-Act-Sinn typisch limited-risk sind und welche genauer geprüft werden müssen.

Wenn Sie nicht sicher sind, in welcher Risikoklasse Ihr geplanter Agent landet, oder ob Ihre bestehenden AVVs für KI-Nutzung sauber sind, vereinbaren Sie ein Beratungsgespräch. In 30 Minuten klären wir die wichtigsten zwei oder drei Punkte, die vor dem Pilot stehen müssen.