Was passiert
Anthropics hat in einem Bericht vor einer organisierten Missbrauchswelle durch sogenannte Generative Threat Groups (GTGs) gewarnt. Zwischen Dezember 2025 und August 2026 dokumentierte das Unternehmen systematische Versuche, Claude für Cyberangriffe, Waffenentwicklung, Propaganda und Massenüberwachung einzusetzen.
Die identifizierten Akteure teilen sich in mehrere Kategorien auf: state-sponsored Groups mit staatlicher Finanzierung und Ziel, financially motivated Criminals, die auf Gewinn ausgerichtet sind, und Commercial Threat Actors mit wirtschaftlichen Motiven. Jede Gruppe nutzt Claude dabei unterschiedlich, folgt aber einem ähnlichen Muster.
Den dokumentierten Fällen nach konzentrieren sich die Angriffe auf mehrere Vektoren. Cyberkriminelle nutzen Claude zur Automatisierung von Exploitation Frameworks – das heißt, sie lassen das Modell Schwachstellen ausnutzen, Payloads generieren und Angriffe skalieren. Bei Datendiebstahl half Claude dabei, Exfiltrationsskripte zu schreiben und Nachricht zu verschleiern. State-sponsored Groups nutzten Claude für Kampagnen-Design, Psyops-Material und zur Generierung von Propaganda in verschiedenen Sprachen. Massenüberwachung wurde durch Claude-gestützte Automatisierung von Daten-Harvesting und Profiling beschleunigt.
Anthropics Sicherheitsteam konnte diese Aktivitäten durch mehrere Indikatoren nachverfolgbar machen: ungewöhnliche API-Nutzungsmuster, technische Signaturen in generierten Inhalten und direkte Admissions von Threat Actors in Untergrund-Foren. Das Unternehmen sperrte die identifizierten Accounts und meldete die Erkenntnisse an relevante law enforcement Behörden und Cybersecurity-Agenturen.
Besonders bemerkenswert ist die Professionalität und Skalierung der Operationen. Es handelt sich nicht um gelegentliche Missbrauchsfälle, sondern um koordinierte, teilweise state-backed Kampagnen mit Monats-Budgets im sechsstelligen Bereich. Die GTGs entwickelten dabei auch Techniken, um Anthropics Safety-Maßnahmen zu umgehen – etwa durch Prompt Injection, rollenbasierte Jailbreaks oder Multi-Turn-Conversations, die die Sicherheitsgarantien graduell erodieren.
Einordnung
Dieser Bericht zeigt ein strukturelles Problem, das über Claude hinausgeht: Large Language Models werden zunehmend von threat actors als Infrastructure-Tool behandelt – ähnlich wie früher Botnets oder Bulletproof Hosting. Der Unterschied liegt in der Qualität und Skalierbarkeit. Ein LLM kann in Sekunden Code generieren, der vorher Stunden manueller Entwicklung brauchte. Das macht Automatisierung von Angriffsabläufen exponentiell attraktiver.
Anthropics Position war bislang, dass Claude ein «sicheres» Modell ist – mit strikteren Verwendungsbeschränkungen als Konkurrenten. Die GTG-Dokumentation relativiert diese Aussage erheblich. Es zeigt sich, dass selbst gut implementierte Sicherheitsmaßnahmen durch determined Adversaries überwunden werden können. Das ist auch deshalb problematisch, weil Anthropics Ansatz defensiv ist: Guardrails, Content Filtering, Usage Policies. Gegen coordinated, sophisticated Actors reichen diese Maßnahmen nicht aus.
In der Branche ist dies ein bekanntes Dilemma. OpenAI dokumentierte ähnliche Fälle mit GPT-Modellen. Google, Meta und andere Anbieter verzeichnen ebenfalls missbrauch. Aber Anthropics explizite Veröffentlichung dieser GTG-Kampagnen unterscheidet sich von der üblichen Vorgehensweise – normalerweise werden solche Fälle diskret behandelt oder nur bei direkter Anfrage offengelegt.
Das impliziert zwei Interpretationen: Entweder hat Anthropic ernst zu nehmende Sicherheitsincidents entdeckt und will proaktiv kommunizieren, oder das Unternehmen nutzt den Bericht, um zu zeigen, dass es Missbrauch aktiv monitort und gegensteuert – ein Vertrauenssignal an Regulatoren und Kunden. Wahrscheinlich trifft beides zu.
Betroffen sind vor allem Organisationen, die auf Claude APIs angewiesen sind: Entwickler, Unternehmen, die Claude embedded nutzen, und indirekt auch Nutzer von Claude Plus und Claude Web. Wenn Threat Actors systematisch das Modell missbrauchen, führt das zu höheren Abuse-Raten, was wiederum zu schärferen Beschränkungen führen könnte – eine Art Tragedy of the Commons.
Was das bedeutet
Dieses Ereignis ist ein Testfall dafür, wie KI-Anbieter auf industrial-scale Missbrauch reagieren. Die Antwort zeigt: Anthropic hat ein Incident Response Team, kann GTGs identifizieren und kann agieren. Das ist besser als bei manchen Konkurrenten. Aber es bedeutet auch, dass die Vorstellung eines «sicheren» LLM illusorisch ist. Sicherheit ist hier nicht ein Feature, das man einmal implementiert – es ist ein kontinuierliches Wettrüsten.
Für Entwickler und Unternehmen folgt daraus eine praktische Konsequenz: Claude (wie alle LLMs) sollten nicht als Black Box behandelt werden. Input-Validation, Output-Monitoring und Rate Limiting gehören zum Standard, nicht zur Zusatzoption. Wer Claude in production nutzt, muss davon ausgehen, dass Adversaries das Modell genauso kennen wie der Legitimate-User – und entsprechend architektieren.
Die längerfristige Implikation ist politisch: Wenn state-sponsored Actors systematisch Commercial AI Models für Cyberwar und Surveillance nutzen, werden Regulierung und Export Controls folgen. Das ist bereits im Gespräch bei der EU, den USA und anderen Ländern. Anthropics Transparenz könnte diesen Prozess beschleunigen.
