Deutsches Gericht macht Google für KI-Halluzinationen haftbar
Das Landgericht München I hat Google in einer Einstweiligen Verfügung zur Rechenschaft gezogen: Der Konzern haftet direkt für fehlerhafte Inhalte in seinen AI Overviews, nicht als bloßer Plattform-Betreiber. Laut Search Engine Land zielten die umstrittenen KI-generierten Zusammenfassungen auf zwei Verlage ab und warfen ihnen Betrügereien vor — ohne dass die verlinkten Seiten diese Vorwürfe stützten. Das Gericht untersagte Google, diese Inhalte weiter auszuspielen.
Das Urteil bricht mit der bisherigen rechtlichen Praxis. Suchmaschinen genießen in Deutschland bislang Störerhaftungs-Privilegien: Sie haften nicht für jeden Index-Eintrag, den Nutzer finden. Wie Golem.de berichtet, gilt dieser Schutz bei KI-Übersichten nicht mehr. Google wird hier als direkter Inhalts-Produzent behandelt, nicht als neutrale Indexierungsmaschine. Die Begründung: AI Overviews sind keine bloße Linksammlung, sondern eigenständig generierte Texte — und damit redaktionelle Verantwortung. Das Gericht berücksichtigte dabei die Halluzinations-Anfälligkeit dieser Systeme: Wenn eine KI falsche Fakten erfinden kann, muss der Betreiber dafür einstehen.
Für den deutschsprachigen Raum hat diese Entscheidung Signalwirkung. Während die USA noch debattieren, ob und wie AI-generierten Content zu regulieren ist, setzt die deutsche Rechtsprechung klare Grenzen — gestützt auf bestehendes Haftungsrecht. Unternehmen, die KI-Zusammenfassungen anbieten, müssen nun mit direkter Verantwortung rechnen, nicht mit dem früheren Content-Moderation-Rahmen. Das betrifft nicht nur Google, sondern perspektivisch alle Anbieter generativer KI-Features in der EU.
Entscheidend für den deutschen Mittelstand: Falls KI-Systeme über die eigene Firma falsche Aussagen treffen (Stichwort: Reputationsschaden), gibt es jetzt einen precedent für direkte Haftung. Gleichzeitig müssen KI-Anbieter ihre Halluzinations-Kontrollmechanismen dokumentieren — ein Thema, das eng mit der laufenden KI-Pentesting-Praxis verwoben ist. Wer KI-Features betreibt, sollte regelmäßig prüfen, ob Output-Validierung ausreicht. Die DSGVO-Meldepflicht nach LLM-Datenlecks greift hier zwar nicht direkt, aber die grundsätzliche Sorgfaltspflicht ist vergleichbar.
Das Urteil ist noch nicht rechtskräftig — eine Berufung steht an. Doch die Richtung ist eindeutig: KI-generierte Inhalte sind keine unkontrollierten Zonen mehr.