Agentic AI in Production: Google warnt vor ersten KI-generierten Zero-Day-Exploits

Google Threat Intelligence Group (GTIG) hat Anfang Mai die erste dokumentierte Zero-Day-Schwachstelle identifiziert, die mit künstlicher Intelligenz entwickelt wurde. Laut The Hacker News nutzten Cyberkriminelle ein KI-System, um einen Exploit zu generieren, der 2FA-Systeme umgeht und für Massenexploitation gedacht ist. SecurityWeek bestätigt, dass die Sicherheitslücke ein populäres Open-Source-Web-Admin-Tool betrifft und von einer prominenten Cybercrime-Gruppe stammt. Dies markiert einen Wendepunkt: KI beschleunigt nicht nur die Exploit-Entwicklung, sondern automatisiert sie.

Parallel zur Bedrohung acceleriert die Industrie ihre Agenten-Deployments. The Hacker News warnt, dass Agentic AI bereits in Produktionsumgebungen über Organisationen hinweg läuft — Aufgaben ausführt, Daten verbraucht, Aktionen trifft, meist ohne substantielles manuelles Oversight. SailPoint führt mit Agentic Fabric eine neue Plattform ein, um autonome KI-Agenten und Non-Human-Identities zu sichern. Gleichzeitig präsentiert Alation AI Governance als "System of Record" für AI-Compliance, weil Unternehmen KI-Modelle, Agenten und Tools schneller deployen als sie kontrollieren können.

Für den deutschsprachigen Mittelstand und Enterprise-Umgebungen bedeutet das konkrete Risiken: Autonome Agenten können Prozesse automatisieren, ohne dass IAM-Policies (Identity & Access Management) vollständig durchdrungen sind. Ein kompromittierter Agent — sei es durch Prompt-Injection, unsaubere Daten oder unzureichende Authentifizierung — wird zur Lateral-Movement-Waffe mit maschineller Geschwindigkeit. Die EU-AI-Act und DSGVO verlangen dokumentierte Risiko-Assessments; hier klafft eine Governance-Lücke.

Die sofortige Konsequenz: Wer heute Agenten deployt, braucht ein explizites Pentesting-Programm für diese Systeme — nicht als nachträgliche Härtung, sondern vor Production-Release. Das KI-Pentesting-Framework muss Agent-spezifische Angriffsszenarien (Privilege Escalation via Task-Chaining, Daten-Exfiltration durch Output-Fuzzing) abdecken. Parallel sollten Identity-Governance-Systeme Agent-Identities mit minimalen Permissions starten und Anomalien (ungewöhnliche API-Calls, Daten-Volumen) flaggen. Wer das ignoriert, sitzt auf einer Sicherheitslücke, die nicht mehr von Hand zu schließen ist.

Quellen

• The Hacker News: Why Agentic AI Is Security's Next Blind Spot
• Help Net Security: Alation AI Governance creates a system of record for AI oversight
• Dark Reading: Hackers Use AI for Exploit Development, Attack Automation
• SecurityWeek: Google Detects First AI-Generated Zero-Day Exploit
• Bleeping Computer: Google: Hackers used AI to develop zero-day exploit for web admin tool
• Help Net Security: SailPoint Agentic Fabric expands identity governance to autonomous AI agents
• Help Net Security: Google researchers uncover criminal zero-day exploit likely built with AI
• The Verge: Google stopped a zero-day hack that it says was developed with AI
• The Hacker News: Hackers Used AI to Develop First Known Zero-Day 2FA Bypass for Mass Exploitation
• Decrypt: Hackers Used AI to Build a Zero-Day Exploit That Bypasses Two-Factor Authentication
• Decrypt: OpenAI Launches Daybreak as AI Firms Expand Into Cybersecurity
• Search Engine Land: The legal consequences of using AI — and the safest way to do it
• Search Engine Land: Why PPC AI agents fail without business data