FLOWKI · NEWSROOM
Claude-Diebstahl im industriellen Maßstab: Chinesische Labs und russische Hacker
ki-pentesting

Claude-Diebstahl im industriellen Maßstab: Chinesische Labs und russische Hacker

ki-pentesting6 unabhängige QuellenFlowKI Newsroom

Was passiert

Anthropics Threat-Intelligence-Team hat am Donnerstag einen umfassenden Bericht veröffentlicht, der organisierte, industrielle Angriffe auf Claude durch sieben chinesische KI-Labore dokumentiert, darunter Alibaba, Moonshot AI, DeepSeek und Z.ai. Wie The Hacker News meldet, setzten diese Unternehmen systematische Distillation-Techniken ein: Sie leiteten massenhaft Kundenanfragen und proprietäre Trainingsdaten an Claude weiter, lernten aus den Antworten und trainierten damit ihre eigenen Modelle. TechCrunch bestätigt, dass diese Kampagnen "in den letzten Monaten eskaliert" sind und mit "intensiviertem Wettbewerb" im chinesischen KI-Markt korrelieren.

Das Ausmaß ist dokumentiert beträchtlich: Laut dem Decoder-Bericht reichten die Anwendungsfälle von technischen Anfragen bis zu sensiblen Inhalten wie Aufnahmen von Militärstandorten, Zugangsdaten des russischen Verteidigungsministeriums und Drohnen-Schwarm-Architekturen. Die chinesischen Labs nutzten Claude de facto als geheimen Zulieferer für proprietäre Trainings-Daten und als Benchmark für ihre eigenen Modelle. Gleichzeitig berichtet Anthropic von russischen State-Sponsored-Akteuren, die Claude für Malware-Evasion missbrauchten: Sie entwickelten einen AI-assistierten Workflow, der automatisch erkannte Malware-Signaturen umgeht und damit die klassische Detect-and-Iterate-Schleife von Antivirus-Systemen bricht.

Zeitlich erstrecken sich die dokumentierten Angriffe über acht Monate. Anthropic bestätigt, dass es die Kampagnen unterbrochen, die betroffenen Konten eingefroren und die Betreiber benachrichtigt hat. SecurityWeek ergänzt, dass Angreifer auch Anthropics eigene Infrastruktur angegriffen haben, um Pre-Release-Versionen von Claude zu stehlen.

Warum für DACH relevant

Der Vorfall berührt mehrere regulatorische und wirtschaftliche Realitäten Deutschlands und Europas. Erstens: Die EU-KI-Verordnung und die DSGVO verlangen von Model-Providern wie Anthropic Transparenz über Datenmissbrauch und Sicherheitsmaßnahmen. Deutsche und österreichische Unternehmen, die Claude nutzen, müssen wissen, dass ihre Prompts und Trainings-Daten potenziell abgegriffen wurden. Das ist ein dokumentierbares Datenschutz-Risiko, das in der Datenschutz-Folgenabschätzung (DSFA) berücksichtigt werden muss.

Zweitens: Der Mittelstand im DACH-Raum verwendet zunehmend Claude für Geschäftsprozesse, Kundenservices und interne Automatisierung. Wenn chinesische Konkurrenten durch Distillation Zugang zu den technischen Patterns dieser Anwendungen erhalten, erodiert das Wettbewerbsvorteil. Industrieunternehmen, die claudebasierte Prozesse für Konstruktion, Supply-Chain oder Qualitätskontrolle einsetzen, müssen damit rechnen, dass Varianten dieser Logik in chinesischen KI-Tools erscheinen — nicht wegen technischer Überlegenheit, sondern wegen direkter Abschöpfung.

Drittens: Die deutsche Cyber-Sicherheits-Community und Pentesting-Labs (wie das BSI-Lab oder kommerzielle Provider) müssen diese Angriffsmuster in ihre Modell-Evaluierung integrieren. KI-Pentesting ist bisher primär auf Jailbreaks und Prompt-Injection fokussiert; Distillation und organisierte Model-Extraction sind unter-bewertet. Der deutsche Standard "Sicherheit von Großsprachmodellen" muss explizit vorsehen, dass Anbieter regelmäßig auf Distillations-Versuche monitoren und Anomalien rapportieren. Das ist nicht optional — es ist eine Folgerung aus der NIS-2-Direktive, die ab 2025 Reporting-Pflichten für kritische Infrastruktur verstärkt.

Viertens berührt dies die KI-Exportkontrolle: Wenn deutsche Unternehmen Claude zur Entwicklung von EU-regulierten KI-Systemen (etwa im Rüstungsbereich oder kritischen Infrastrukturen) einsetzen, muss dokumentiert werden, dass der Provider ausreichend gegen Staatsakteure gehärtet ist. Anthropics Bericht ist hier ein Transparenzsignal, das Vertrauen in die Kontrolle aufbaut — zeigt aber auch, dass das Risiko real ist.

Was du jetzt tun/wissen solltest

Die zentrale Erkenntnis ist nicht, dass Distillation existiert (das ist alte Methode), sondern dass sie industriell organisiert ist und es Anthropic trotz Sicherheitsmaßnahmen nicht vollständig verhindern kann. Das bedeutet: Claude-Nutzer im DACH-Raum sollten systematisch reviewen, welche Daten sie in die API schreiben. Personenmerkmale, Verträge, Produktionsplans, Quelltexte — all das trainiert potenziell fremde Modelle. Das ist nicht ein Problem von Claude allein; es ist ein strukturelles Problem aller kommerziellen APIs. Die Antwort ist nicht Verzicht, sondern Unterscheidung: Für sensible Use-Cases (F&E, Kundendaten, strategisch) sollten Unternehmen erwägen, Self-Hosted oder dedizierten Fine-Tuning zu nutzen. Für Standardaufgaben ist das ökonomisch ineffizient, aber die Risiko-Quantifizierung muss transparent erfolgen. Zusätzlich: Pentesting-Labs sollten "Modell-Extraction unter kontinuierlichem Monitoring" als neuen Test-Vektor in ihre KI-Security-Benchmarks aufnehmen. Das ist der Kern von zuverlässiger KI-Sicherheitsevaluation — nicht nur einzelne Angriffe testen, sondern systematische Missbrauchsmuster über Zeit erfassen.

Quellen