DSGVO-konforme KI-Chatbots für den Mittelstand

DSGVO-konforme KI-Chatbots für den Mittelstand — die Checkliste 2026

Ein Chatbot auf der Website oder im internen Support ist schnell angebunden — rechtlich sauber aufgesetzt ist er das selten. Was du vor dem Start prüfen musst: Rechtsgrundlage, Hosting, Auftragsverarbeitung und die neue Transparenzpflicht aus dem EU AI Act.

28. Juli 20265 min Lesezeit

FlowKI RedaktionKI-unterstützt

Dieser Beitrag wurde mit KI-Unterstützung aus der angegebenen Quelle erstellt und vor der Veröffentlichung automatisch gegen sie abgeglichen. Nicht jeder Beitrag wird zusätzlich von Hand gelesen — wir prüfen stichprobenweise nach und kennzeichnen Korrekturen. Beruht ein Artikel auf einem selbst durchgeführten Test, weisen wir das ausdrücklich aus.

Disclaimer vorneweg

Dieser Artikel ist keine Rechtsberatung. Er fasst die aktuelle Rechtslage nach unserem Verständnis zusammen — auf Basis der DSGVO, des EU AI Act und öffentlich verfügbarer Leitlinien der Datenschutzaufsichtsbehörden. Für den konkreten Fall in deinem Unternehmen brauchst du einen eigenen rechtlichen Check, im Zweifel mit deinem Datenschutzbeauftragten oder einer spezialisierten Kanzlei.

Worum es geht

Ein KI-Chatbot ist in einer Nachmittag-Session eingerichtet — API-Key rein, Widget auf die Website, fertig. Rechtlich ist das der einfachste Teil. Sobald der Bot mit echten Nutzerdaten arbeitet (Namen, Anliegen, IP-Adressen, ggf. Bestelldaten), greift die volle DSGVO. Und seit 2025 kommt mit dem EU AI Act eine zweite, unabhängige Pflichtenschicht dazu, die speziell auf Chatbots zielt: die Transparenzpflicht gegenüber dem Nutzer.

Die gute Nachricht: Beides ist mit einer sauberen Checkliste gut planbar. Die schlechte: Die meisten KMU-Chatbot-Einführungen, die wir gesehen haben, überspringen mindestens zwei der folgenden Punkte.

Teil 1 — Rechtsgrundlage klären, bevor du irgendwas baust

Jede Verarbeitung personenbezogener Daten braucht eine Rechtsgrundlage nach Art. 6 DSGVO. Für Chatbots sind praktisch drei relevant:

Vertragserfüllung (Art. 6 Abs. 1 lit. b) — wenn der Bot Teil eines Bestell- oder Support-Prozesses ist, den der Nutzer aktiv angestoßen hat.
Berechtigtes Interesse (Art. 6 Abs. 1 lit. f) — für allgemeine Website-Hilfe, mit Interessenabwägung und der Pflicht, dem Nutzer eine Widerspruchsmöglichkeit zu geben.
Einwilligung (Art. 6 Abs. 1 lit. a) — nötig, sobald der Bot mehr macht als reine Anfragebeantwortung, z. B. Profiling für Marketing-Zwecke oder Weitergabe an Dritte.

Praxis-Fehler Nr. 1: Firmen aktivieren den Bot und klären die Rechtsgrundlage erst, wenn die Aufsichtsbehörde nachfragt. Das Dokument (kurz: welche Rechtsgrundlage, warum) gehört VOR dem Launch geschrieben, nicht danach.

Teil 2 — Auftragsverarbeitung und Hosting

Der Chatbot läuft fast nie auf deinem eigenen Server. Er läuft auf der Infrastruktur von OpenAI, Anthropic, Google oder einem spezialisierten Anbieter. Das macht diesen Anbieter zum Auftragsverarbeiter — mit allen Pflichten aus Art. 28 DSGVO.

Checkliste Vertrag & Hosting:

[ ] Auftragsverarbeitungsvertrag (AVV) mit dem Anbieter unterschrieben (Pflicht, kein „nice to have")
[ ] Geklärt, wo die Daten verarbeitet werden — EU/EWR, oder Drittland (USA, UK außerhalb Adequacy-Rahmen)?
[ ] Bei Drittland-Transfer: Standardvertragsklauseln (SCC) vorhanden und aktuell
[ ] Geprüft, ob der Anbieter die Daten fürs eigene Modelltraining nutzt (bei vielen Consumer-Tarifen Standard, bei Business-/Enterprise-Tarifen meist abschaltbar oder vertraglich ausgeschlossen — explizit nachlesen, nicht annehmen)
[ ] Sub-Auftragsverarbeiter-Liste des Anbieters eingesehen (wer verarbeitet die Daten noch mit?)

Die Faustregel, die sich in der Praxis bewährt hat: EU-gehostete Optionen (z. B. über Azure OpenAI mit EU-Datacenter-Option, AWS Bedrock EU-Regionen, oder dedizierte deutsche/europäische Anbieter) machen den zweiten Punkt der Liste trivial. US-Anbieter direkt (OpenAI API Standard-Endpoint, Anthropic Direct API ohne EU-Routing) brauchen den vollen SCC-Nachweis und eine dokumentierte Transfer-Impact-Assessment — mehr Aufwand, nicht per se unzulässig.

Teil 3 — Die neue Pflicht: Transparenz nach EU AI Act

Das ist der Teil, den die meisten noch nicht auf dem Schirm haben. Der EU AI Act verlangt für Systeme, die mit Menschen interagieren, dass der Nutzer erkennen kann, dass er mit einer KI spricht — es sei denn, das ist ohnehin offensichtlich (z. B. bei klar als „Bot" gekennzeichneten technischen Systemen).

Praktisch heißt das:

[ ] Der Bot stellt sich beim ersten Kontakt erkennbar als KI vor (kein „Anna aus dem Support" ohne Hinweis)
[ ] Es gibt einen leicht erreichbaren Weg zu einem menschlichen Ansprechpartner, wenn der Nutzer das will
[ ] Die Kennzeichnung ist auch für Screenreader/barrierefrei zugänglich, nicht nur ein kleines Icon
[ ] Interne Dokumentation, WARUM und WIE die Kennzeichnung umgesetzt wurde (Nachweispflicht)

Das betrifft nicht nur klassische Text-Chatbots. Voice-Bots am Telefon, KI-gestützte E-Mail-Antworten, die wie persönlich verfasst wirken — überall dort, wo ein Mensch glauben könnte, mit einem Menschen zu kommunizieren, greift dieselbe Logik.

Teil 4 — Betrieb: Logging, Löschfristen, Monitoring

Nach dem Launch hört die Arbeit nicht auf.

[ ] Löschkonzept für Chat-Verläufe definiert (wie lange werden Konversationen gespeichert, wer hat Zugriff)
[ ] Auskunftsrecht (Art. 15 DSGVO) technisch umsetzbar — kannst du einem Nutzer in vertretbarer Zeit zeigen, was der Bot über ihn gespeichert hat?
[ ] Löschrecht (Art. 17 DSGVO) technisch umsetzbar — nicht nur „theoretisch möglich", sondern ein Prozess mit definiertem Ablauf
[ ] Monitoring auf Fehlverhalten (Prompt-Injection-Versuche, der Bot gibt falsche Zusagen wie Rabatte oder Vertragsbedingungen, die nicht gelten)
[ ] Verantwortlichkeit intern geklärt: Wer reagiert, wenn der Bot etwas Falsches oder Problematisches sagt?

Der letzte Punkt ist unterschätzt. Ein Chatbot, der einem Kunden verbindlich klingende, aber falsche Zusagen macht (Lieferzeiten, Preise, Garantiebedingungen), kann vertragsrechtlich bindend werden — das ist kein reines Datenschutzthema mehr, sondern reicht ins Zivilrecht.

Wenn der Bot intern genutzt wird: Betriebsrat nicht vergessen

Anders als der kundenseitige Chatbot betrifft ein interner KI-Assistent (z. B. für den Support-Bereich der eigenen Mitarbeitenden) mitbestimmungspflichtige Fragen, sobald er geeignet ist, Leistung oder Verhalten von Mitarbeitenden zu überwachen (§ 87 Abs. 1 Nr. 6 BetrVG). Auch wenn das nicht die Absicht ist — die bloße technische Eignung reicht für die Mitbestimmungspflicht. Bei vorhandenem Betriebsrat: früh einbinden, nicht nachträglich informieren.

Die Kompakt-Checkliste zum Abhaken

Rechtsgrundlage dokumentiert, bevor der Bot live geht
AVV mit dem Anbieter unterschrieben
Hosting-Standort geklärt, SCC bei Drittland-Transfer vorhanden
Nutzung der Daten fürs Modelltraining explizit geprüft und dokumentiert
KI-Kennzeichnung sichtbar und barrierefrei umgesetzt
Weg zu menschlichem Ansprechpartner vorhanden
Lösch- und Auskunftsprozess technisch funktionsfähig, nicht nur auf Papier
Monitoring gegen Fehlverhalten des Bots aktiv
Bei interner Nutzung: Betriebsrat eingebunden

Neun Punkte, die sich in ein bis zwei Arbeitstagen durchgehen lassen — deutlich günstiger als eine Nachbesserung, nachdem die Aufsichtsbehörde oder ein Kunde nachgefragt hat.

Häufige Fragen

Was muss ein KI-Chatbot nach DSGVO erfüllen?

Der Artikel fasst neun Punkte zusammen: Rechtsgrundlage vor dem Launch dokumentieren, AVV mit dem Anbieter unterschreiben, Hosting-Standort klären und bei Drittland-Transfer Standardvertragsklauseln vorhalten, Nutzung der Daten fürs Modelltraining prüfen, KI-Kennzeichnung sichtbar umsetzen, Weg zu einem Menschen anbieten, Lösch- und Auskunftsprozess technisch funktionsfähig machen, Fehlverhalten überwachen und bei interner Nutzung den Betriebsrat einbinden. Das ersetzt keine Rechtsberatung.

Welche Rechtsgrundlage braucht ein KI-Chatbot?

Praktisch kommen drei aus Art. 6 DSGVO infrage. Vertragserfüllung nach lit. b, wenn der Bot Teil eines Bestell- oder Support-Prozesses ist, den der Nutzer selbst angestoßen hat. Berechtigtes Interesse nach lit. f für allgemeine Website-Hilfe, mit Interessenabwägung und Widerspruchsmöglichkeit. Einwilligung nach lit. a, sobald der Bot mehr tut als Anfragen beantworten, etwa Profiling für Marketing. Für deinen konkreten Fall brauchst du einen eigenen rechtlichen Check.

Muss ein Chatbot kennzeichnen, dass er eine KI ist?

Ja. Der EU AI Act verlangt für Systeme, die mit Menschen interagieren, dass der Nutzer erkennen kann, dass er mit einer KI spricht, außer es ist ohnehin offensichtlich. Praktisch heißt das: Der Bot stellt sich beim ersten Kontakt als KI vor, kein 'Anna aus dem Support' ohne Hinweis. Die Kennzeichnung muss auch für Screenreader zugänglich sein, und du dokumentierst intern, wie und warum du sie umgesetzt hast.

Brauche ich einen AVV, wenn der Chatbot über OpenAI oder Anthropic läuft?

Ja. Sobald der Bot auf fremder Infrastruktur läuft, wird der Anbieter zum Auftragsverarbeiter mit allen Pflichten aus Art. 28 DSGVO. Der AVV ist Pflicht, kein Nice-to-have. Dazu gehört zu klären, wo verarbeitet wird, ob Standardvertragsklauseln für einen Drittland-Transfer vorliegen, ob der Anbieter die Daten fürs Modelltraining nutzt und welche Sub-Auftragsverarbeiter mitlesen.

Muss der Betriebsrat bei einem internen KI-Assistenten eingebunden werden?

Sobald der Assistent geeignet ist, Leistung oder Verhalten von Mitarbeitenden zu überwachen, greift die Mitbestimmung nach § 87 Abs. 1 Nr. 6 BetrVG. Die bloße technische Eignung reicht dafür aus, auch wenn Überwachung nicht beabsichtigt ist. Bei vorhandenem Betriebsrat heißt das: früh einbinden statt nachträglich informieren.

Was passiert, wenn der Chatbot falsche Zusagen macht?

Das wird schnell mehr als ein Datenschutzthema. Ein Bot, der verbindlich klingende, aber falsche Angaben zu Lieferzeiten, Preisen oder Garantiebedingungen macht, kann vertragsrechtlich binden und reicht damit ins Zivilrecht. Deshalb gehören Monitoring auf Fehlverhalten inklusive Prompt-Injection-Versuchen und eine intern geklärte Verantwortlichkeit dazu: Wer reagiert, wenn der Bot etwas Falsches sagt?