Die EU hat neue Regelungen zur Kennzeichnung von KI-generierten Inhalten eingeführt. Was konkret dahintersteckt, für wen es gilt und welche praktischen Konsequenzen sich daraus ergeben, werden viele Content-Creator und Unternehmen erst noch herausfinden müssen. Hier ein Überblick über die wichtigsten Punkte.
Was genau muss gekennzeichnet werden?
Die Regelung betrifft generierte Texte, Bilder, Videos, Audio und andere Inhalte, die mithilfe von KI-Systemen erstellt wurden. Der zentrale Gedanke: Nutzer sollen wissen, ob sie mit echtem menschlichen Content oder mit KI-generierten Inhalten konfrontiert werden.
Die Kennzeichnungspflicht greift allerdings nicht pauschal für alle generierten Inhalte. Sie tritt in Kraft, wenn zwei Bedingungen erfüllt sind:
- Der Inhalt wird öffentlich verbreitet – also auf Plattformen, in Medien oder über andere Kanäle, die eine größere Audience erreichen.
- Es besteht ein realistisches Risiko, dass Menschen den Inhalt als menschlich-generiert wahrnehmen könnten – oder anders ausgedrückt: Er könnte täuschen.
Diese Formulierung ist bewusst offen gehalten. Sie erlaubt den Behörden Interpretationsspielraum und könnte in der Praxis zu unterschiedlichen Auslegungen führen.
Welche Ausnahmen gibt es?
Nicht alles, was mit KI entsteht, muss gekennzeichnet werden. Die Verordnung definiert mehrere Ausnahmefälle:
Künstlerische und kreative Werke: Wenn ein KI-generiertes Werk klar als Kunstwerk erkennbar ist – etwa eine surreale digitale Illustration – fällt es nicht unter die Kennzeichnungspflicht. Der künstlerische Kontext ist entscheidend.
Kleine und private Anwendungen: Private Nutzer, die KI für persönliche Zwecke verwenden, müssen ihre Inhalte nicht kennzeichnen. Auch kleinere Unternehmen mit geringem Umfang können von gewissen Erleichterungen profitieren – wobei "klein" hier ebenfalls interpretationsbedürftig bleibt.
Bereits bekannte Quellen: Wenn die Herkunft und der KI-Ursprung bereits offensichtlich sind – beispielsweise bei Bildern, die mit einem bekannten KI-Tool wie DALL-E oder Midjourney erstellt wurden – kann eine explizite Kennzeichnung entfallen.
Unschädliche Kontexte: Inhalte, bei denen eine KI-Täuschung praktisch unmöglich ist, brauchen nicht gekennzeichnet zu werden – etwa stark verarbeitete oder gefilterte Inhalte, deren künstliche Natur offensichtlich ist.
Wie sollte die Kennzeichnung aussehen?
Die Verordnung schreibt kein einheitliches Format vor. Ein einfacher Hinweis wie "Mit KI generiert" oder "KI-generiert" ist rechtlich ausreichend. Viele Plattformen implementieren eigene Standards – etwa kleine Badges, Metadaten oder Tooltips, die beim Hover sichtbar werden.
Wichtig: Der Hinweis muss leicht auffindbar und verständlich sein. Er kann nicht in den Metadaten versteckt werden, wenn der Inhalt selbst präsent ist.
Was passiert bei Verstößen?
Bei Nichtbeachtung der Kennzeichnungspflicht drohen Verwaltungsbußgelder. Die genaue Höhe variiert je nach Mitgliedstaat und Schweregrad des Verstoßes. Muster legen nahe, dass Strafen zwischen einigen hundert und mehreren tausend Euro liegen können – besonders bei wiederholten Verstößen oder bei Inhalten, die bewusst zu Täuschungszwecken verbreitet wurden.
Besonders kritisch wird es bei Desinformation: KI-generierte Inhalte, die gezielt zur Verbreitung von Falschinformationen eingesetzt werden – etwa täuschend echte deepfake-Videos politischer Figuren – können zu deutlich höheren Bußgeldern und rechtlichen Konsequenzen führen.
Was bedeutet das praktisch?
Für Content-Creator und Social-Media-Manager bedeutet dies: Wer regelmäßig KI-Tools nutzt, sollte eine klare Strategie zur Kennzeichnung entwickeln. Ein einfacher, konsistenter Hinweis in der Bildunterschrift oder als Standard-Tag kann ausreichen.
Für Medienunternehmen verschärft sich die Verantwortung. KI-generierte Stockfotos oder teilweise automatisiert erstellte Artikel müssen deutlich gekennzeichnet sein.
Für KI-Plattformen selbst werden die Anforderungen steigen. Viele Dienste werden vermutlich automatische Kennzeichnungssysteme implementieren müssen – ähnlich wie TikTok oder Instagram bereits bei Creator-Tools vorgehen.
Das Ziel der Regelung
Die EU-Verordnung zielt darauf ab, Transparenz zu schaffen und Vertrauen zu bewahren. In einer Zeit, in der KI-generierte Inhalte immer schwerer vom Original zu unterscheiden sind, soll eine klare Kennzeichnung Orientierung bieten.
Es ist allerdings kein Verbot – KI-generierte Inhalte sind weiterhin vollkommen legal. Es geht um Transparenz, nicht um Restriktionen.
Wer die Kennzeichnungspflicht umsetzt, verhält sich nicht nur rechtlich korrekt, sondern signalisiert seinen Nutzern auch Seriosität und Transparenz. Langfristig könnte das zum Standard werden – ähnlich wie heute die Kennzeichnung von Werbung.