Anthropic unter Druck: Fable 5 und Mythos 5 vom Markt genommen
Anthropics neueste Modelle Fable 5 und Mythos 5 sind kaum drei Tage nach ihrer Veröffentlichung am 9. Juni wieder offline. Das Weiße Haus ordnete am 12. Juni an, den Zugriff auf beide Modelle für internationale Nutzer zu blockieren. Anthropic reagierte drastischer: Das Unternehmen sperrte die Models komplett für alle Nutzer.
Was ist passiert?
Laut Berichten führte Amazon Security Research zum Handeln der Regierung. Forscher sollen Wege gefunden haben, Fable 5 dazu zu bringen, Informationen preiszugeben, die für Cyber-Attacken genutzt werden könnten. Das Sicherheitsrisiko war offenbar schwerwiegend genug, um eine schnelle Regierungsintervention auszulösen.
Anthropic hatte Fable 5 selbstbewusst angekündigt: "Fable 5s Fähigkeiten übertreffen die aller bisherigen allgemein verfügbaren Modelle." Mythos 5 nutze das gleiche Basis-Modell, habe aber in einigen Bereichen "abgeschwächte Safeguards".
Die Position von Anthropic
Das kalifornische Unternehmen folgt der behördlichen Anordnung und entfernt den Zugriff. Allerdings zeigt sich Anthropic kritisch: "Wir sind uns nicht einig, dass das Finden einer engen potenziellen Jailbreak-Möglichkeit Grund sein sollte, um ein kommerzielles Modell zurückzurufen, das bereits bei hunderten Millionen Menschen einsetzt."
Diese Aussage deutet auf einen grundlegenden Konflikt: Wo verläuft die Grenze zwischen legitimer Sicherheitsmaßnahme und übertriebener Regulierung? Ein Jailbreak ist in der KI-Sicherheit ein bekanntes Phänomen – die Frage ist, wie kritisch das spezifische Risiko tatsächlich war.
Größere Kontexte
Dieser Vorfall ist nicht isoliert. Anthropic kämpfte bereits mit dem Pentagon um andere Dispute. Die neue Auseinandersetzung mit dem Weiße Haus zeigt, wie intensiv die politische Kontrolle über führende KI-Modelle wird – insbesondere unter Druck aus den USA, Technologie-Vorsprünge zu sichern.
Hinzu kommen Berichte, dass China möglicherweise Zugriff auf Mythos hatte. Das erhöht den Druck noch weiter.
Die Sperrung unterstreicht ein strukturelles Problem: Sind großflächige Rückrufe aufgrund enger Sicherheitslücken das richtige Mittel? Oder führt extrem restriktive Regulierung dazu, dass Innovation verstärkt außerhalb der USA stattfindet?