Erste KI-gestützte Zero-Day-Exploit von Google gestoppt
Google hat nach eigenen Angaben erstmals einen Zero-Day-Exploit entdeckt und gestoppt, der mit künstlicher Intelligenz entwickelt wurde. Das Google Threat Intelligence Group (GTIG) beschreibt die Angreifer als "prominente Cyberkriminelle", die eine "Massenausnutzung" planten.
Ziel des Exploits war ein ungenanntes Open-Source-Webadministrationstool. Die Schwachstelle hätte es Angreifern ermöglicht, Two-Factor-Authentication zu umgehen – ein ernstzunehmendes Sicherheitsrisiko, das kritische Systeme gefährdet hätte.
KI-Fingerabdrücke im Code
Besonders interessant ist, wie Google die KI-Beteiligung identifizierte. Die Forscher fanden deutliche Spuren in dem Python-Script des Exploits:
- Halluzinierte CVSS-Scores: Der Code enthielt erfundene Schweregrad-Bewertungen, wie sie typischerweise von LLMs generiert werden
- Textbuch-artige Formatierung: Die Struktur und Dokumentation entsprachen den charakteristischen Mustern von LLM-Trainingsdaten
- Anomalien in der Logik: Ungewöhnliche Formulierungen und Strukturen deuteten auf automatisierte Codegenerierung hin
Die Erkenntnisse zeigen, dass Cyberkriminelle zunehmend Large Language Models zur Entwicklung von Exploits einsetzen – nicht immer mit perfekten Ergebnissen. Die "Halluzinationen" des Modells bei technischen Scores hätten den Code möglicherweise weniger zuverlässig gemacht, aber die Grundkonzepte waren funktional.
Sicherheitsimplikationen
Dieser Fall illustriert ein wachsendes Dilemma in der Cybersecurity: KI-Tools demokratisieren Hacking, indem sie technische Barrieren senken. Gleichzeitig hinterlassen LLM-generierte Exploits messbare Spuren, die für Sicherheitsforschung wertvoll sind.
Google informierte die betroffenen Entwickler rechtzeitig und konnte die geplante Kampagne verhindern. Das Unternehmen betont, dass Patch-Management und zeitnahe Updates weiterhin essentiell sind – KI-Exploits folgen denselben Grundprinzipien wie klassische Hacks.
Die Entdeckung unterstreicht die Notwendigkeit verstärkter Threat Intelligence und die Bedeutung kontinuierlicher Sicherheitsbewertungen, insbesondere für Open-Source-Tools im administrativen Umfeld.