LLM-Agenten: Nur 11% bestehen Credential-Sicherheit
Produktive KI-Agenten mit Zugriff auf sensible Credentials sind massiv untergeschützt. Laut einer neuen unabhängigen Bewertung bestehen nur 11 Prozent der in Unternehmen eingesetzten Agenten grundlegende Sicherheitschecks, wie Help Net Security berichtet. Diese Agenten schreiben Code, steuern Browser, bearbeiten Kundenanrufe und verwalten Cloud-Infrastruktur — häufig mit hinterlegten Anmeldedaten.
Das zentrale Problem: Agenten platzieren sensible Credentials oft im gleichen Context-Window wie unsicheren, abgerufenen Inhalt. Das schafft einen direkten Angriffsvektor für indirekte Prompt-Injection-Angriffe. Neue arXiv-Forschung (2606.04141) widmet sich explizit dieser Credential-Exfiltration und entwickelt Pre-Output- sowie Multi-Turn-Detection-Methoden. Die Herausforderung ist dabei fundamental: Während ein Agent eine legitime Datenbankabfrage durchführt, kann ein böswilliger Prompt im Kontext die Credentials in der Antwort an einen externen Server exfiltrieren — alles im gleichen Durchlauf.
Microsoft hat auf diese Erkenntnisse reagiert und führt neue Sicherheitstools für Code-, KI-Agenten und Modelle ein. Das Unternehmen fokussiert dabei auf Multi-Agent-Vulnerability-Discovery-Systeme. Parallel veröffentlicht arXiv-Forschung (2606.04037) ein Framework für Pre-Deployment-Verifikation: Ontology-Grounded Simulation mit Trust-Zertifizierung soll Enterprise-AI-Agenten vor Produktivstart validieren.
Für deutschsprachige Unternehmen ist dies im Kontext von DSGVO und EU-AI-Act relevant. Ein Datenleak durch Credential-Exfiltration triggert sofort die 72-Stunden-Meldepflicht. Besonders kritisch: Viele Mittelstandsfirmen setzen Agenten mit produktiven Datenbankzugriffen ein, ohne dass intern ein Pentesting-Lab oder Threat-Simulation etabliert ist. Die fehlenden 89 Prozent nicht bestandener Agenten deuten darauf hin, dass grundlegende Schutzmaßnahmen wie Credential-Rotation, Rate-Limiting auf sensible Operationen und Output-Validierung vielfach fehlen.
Nächste Schritte: Unternehmen sollten bestehende KI-Agenten sofort auf Credential-Handling prüfen. Das bedeutet: Wo landen API-Keys im Context? Welche Daten fließen in den Retrieval-Mechanismus? Ein strukturierter Red-Team-Ansatz mit Multi-Turn-Injection-Tests ist notwendig — bevor Agenten auf Produktion skalieren.
Quellen
- arXiv cs.CR 2606.04141: Caught in the Act(ivation)
- arXiv cs.AI 2606.04037: Toward Pre-Deployment Assurance for Enterprise AI Agents
- Help Net Security: Only 11% of production agents pass the AI agent security bar
- Help Net Security: Microsoft responds to security challenges facing code, AI agents, and models