DSGVO-konforme KI-Chatbots für den Mittelstand — die Checkliste 2026

Disclaimer vorneweg

Dieser Artikel ist keine Rechtsberatung. Er fasst die aktuelle Rechtslage nach unserem Verständnis zusammen — auf Basis der DSGVO, des EU AI Act und öffentlich verfügbarer Leitlinien der Datenschutzaufsichtsbehörden. Für den konkreten Fall in deinem Unternehmen brauchst du einen eigenen rechtlichen Check, im Zweifel mit deinem Datenschutzbeauftragten oder einer spezialisierten Kanzlei.

Worum es geht

Ein KI-Chatbot ist in einer Nachmittag-Session eingerichtet — API-Key rein, Widget auf die Website, fertig. Rechtlich ist das der einfachste Teil. Sobald der Bot mit echten Nutzerdaten arbeitet (Namen, Anliegen, IP-Adressen, ggf. Bestelldaten), greift die volle DSGVO. Und seit 2025 kommt mit dem EU AI Act eine zweite, unabhängige Pflichtenschicht dazu, die speziell auf Chatbots zielt: die Transparenzpflicht gegenüber dem Nutzer.

Die gute Nachricht: Beides ist mit einer sauberen Checkliste gut planbar. Die schlechte: Die meisten KMU-Chatbot-Einführungen, die wir gesehen haben, überspringen mindestens zwei der folgenden Punkte.

Teil 1 — Rechtsgrundlage klären, bevor du irgendwas baust

Jede Verarbeitung personenbezogener Daten braucht eine Rechtsgrundlage nach Art. 6 DSGVO. Für Chatbots sind praktisch drei relevant:

Vertragserfüllung (Art. 6 Abs. 1 lit. b) — wenn der Bot Teil eines Bestell- oder Support-Prozesses ist, den der Nutzer aktiv angestoßen hat.
Berechtigtes Interesse (Art. 6 Abs. 1 lit. f) — für allgemeine Website-Hilfe, mit Interessenabwägung und der Pflicht, dem Nutzer eine Widerspruchsmöglichkeit zu geben.
Einwilligung (Art. 6 Abs. 1 lit. a) — nötig, sobald der Bot mehr macht als reine Anfragebeantwortung, z. B. Profiling für Marketing-Zwecke oder Weitergabe an Dritte.

Praxis-Fehler Nr. 1: Firmen aktivieren den Bot und klären die Rechtsgrundlage erst, wenn die Aufsichtsbehörde nachfragt. Das Dokument (kurz: welche Rechtsgrundlage, warum) gehört VOR dem Launch geschrieben, nicht danach.

Teil 2 — Auftragsverarbeitung und Hosting

Der Chatbot läuft fast nie auf deinem eigenen Server. Er läuft auf der Infrastruktur von OpenAI, Anthropic, Google oder einem spezialisierten Anbieter. Das macht diesen Anbieter zum Auftragsverarbeiter — mit allen Pflichten aus Art. 28 DSGVO.

Checkliste Vertrag & Hosting:

[ ] Auftragsverarbeitungsvertrag (AVV) mit dem Anbieter unterschrieben (Pflicht, kein „nice to have")
[ ] Geklärt, wo die Daten verarbeitet werden — EU/EWR, oder Drittland (USA, UK außerhalb Adequacy-Rahmen)?
[ ] Bei Drittland-Transfer: Standardvertragsklauseln (SCC) vorhanden und aktuell
[ ] Geprüft, ob der Anbieter die Daten fürs eigene Modelltraining nutzt (bei vielen Consumer-Tarifen Standard, bei Business-/Enterprise-Tarifen meist abschaltbar oder vertraglich ausgeschlossen — explizit nachlesen, nicht annehmen)
[ ] Sub-Auftragsverarbeiter-Liste des Anbieters eingesehen (wer verarbeitet die Daten noch mit?)

Die Faustregel, die sich in der Praxis bewährt hat: EU-gehostete Optionen (z. B. über Azure OpenAI mit EU-Datacenter-Option, AWS Bedrock EU-Regionen, oder dedizierte deutsche/europäische Anbieter) machen den zweiten Punkt der Liste trivial. US-Anbieter direkt (OpenAI API Standard-Endpoint, Anthropic Direct API ohne EU-Routing) brauchen den vollen SCC-Nachweis und eine dokumentierte Transfer-Impact-Assessment — mehr Aufwand, nicht per se unzulässig.

Teil 3 — Die neue Pflicht: Transparenz nach EU AI Act

Das ist der Teil, den die meisten noch nicht auf dem Schirm haben. Der EU AI Act verlangt für Systeme, die mit Menschen interagieren, dass der Nutzer erkennen kann, dass er mit einer KI spricht — es sei denn, das ist ohnehin offensichtlich (z. B. bei klar als „Bot" gekennzeichneten technischen Systemen).

Praktisch heißt das:

[ ] Der Bot stellt sich beim ersten Kontakt erkennbar als KI vor (kein „Anna aus dem Support" ohne Hinweis)
[ ] Es gibt einen leicht erreichbaren Weg zu einem menschlichen Ansprechpartner, wenn der Nutzer das will
[ ] Die Kennzeichnung ist auch für Screenreader/barrierefrei zugänglich, nicht nur ein kleines Icon
[ ] Interne Dokumentation, WARUM und WIE die Kennzeichnung umgesetzt wurde (Nachweispflicht)

Das betrifft nicht nur klassische Text-Chatbots. Voice-Bots am Telefon, KI-gestützte E-Mail-Antworten, die wie persönlich verfasst wirken — überall dort, wo ein Mensch glauben könnte, mit einem Menschen zu kommunizieren, greift dieselbe Logik.

Teil 4 — Betrieb: Logging, Löschfristen, Monitoring

Nach dem Launch hört die Arbeit nicht auf.

[ ] Löschkonzept für Chat-Verläufe definiert (wie lange werden Konversationen gespeichert, wer hat Zugriff)
[ ] Auskunftsrecht (Art. 15 DSGVO) technisch umsetzbar — kannst du einem Nutzer in vertretbarer Zeit zeigen, was der Bot über ihn gespeichert hat?
[ ] Löschrecht (Art. 17 DSGVO) technisch umsetzbar — nicht nur „theoretisch möglich", sondern ein Prozess mit definiertem Ablauf
[ ] Monitoring auf Fehlverhalten (Prompt-Injection-Versuche, der Bot gibt falsche Zusagen wie Rabatte oder Vertragsbedingungen, die nicht gelten)
[ ] Verantwortlichkeit intern geklärt: Wer reagiert, wenn der Bot etwas Falsches oder Problematisches sagt?

Der letzte Punkt ist unterschätzt. Ein Chatbot, der einem Kunden verbindlich klingende, aber falsche Zusagen macht (Lieferzeiten, Preise, Garantiebedingungen), kann vertragsrechtlich bindend werden — das ist kein reines Datenschutzthema mehr, sondern reicht ins Zivilrecht.

Wenn der Bot intern genutzt wird: Betriebsrat nicht vergessen

Anders als der kundenseitige Chatbot betrifft ein interner KI-Assistent (z. B. für den Support-Bereich der eigenen Mitarbeitenden) mitbestimmungspflichtige Fragen, sobald er geeignet ist, Leistung oder Verhalten von Mitarbeitenden zu überwachen (§ 87 Abs. 1 Nr. 6 BetrVG). Auch wenn das nicht die Absicht ist — die bloße technische Eignung reicht für die Mitbestimmungspflicht. Bei vorhandenem Betriebsrat: früh einbinden, nicht nachträglich informieren.

Die Kompakt-Checkliste zum Abhaken

Rechtsgrundlage dokumentiert, bevor der Bot live geht
AVV mit dem Anbieter unterschrieben
Hosting-Standort geklärt, SCC bei Drittland-Transfer vorhanden
Nutzung der Daten fürs Modelltraining explizit geprüft und dokumentiert
KI-Kennzeichnung sichtbar und barrierefrei umgesetzt
Weg zu menschlichem Ansprechpartner vorhanden
Lösch- und Auskunftsprozess technisch funktionsfähig, nicht nur auf Papier
Monitoring gegen Fehlverhalten des Bots aktiv
Bei interner Nutzung: Betriebsrat eingebunden

Neun Punkte, die sich in ein bis zwei Arbeitstagen durchgehen lassen — deutlich günstiger als eine Nachbesserung, nachdem die Aufsichtsbehörde oder ein Kunde nachgefragt hat.