KI-Agenten als Angriffsvektoren: Ransomware, Prompt-Injection und Evasion
Sicherheitsforscher haben mehrere Kampagnen dokumentiert, in denen KI-Agenten als Werkzeug für automatisierte Cyberangriffe eingesetzt werden. Die Bedrohung reicht von eigenständigen Ransomware-Operationen bis zu Prompt-Injection-Attacken, die Zahlungen auslösen.
Laut t3n haben Forscher die Ransomware Jadepuffer identifiziert, die von KI-Agenten ausgeführt wird und sich während des Angriffs in Echtzeit anpasst. Das System kann automatisch auf Erkennungsversuche reagieren und Strategien ändern, ohne menschliches Zutun. Parallel dokumentiert The Hacker News eine neue Technik namens SkillCloak, mit der Angreifer bösartige "Skills" für KI-Coding-Agenten mit selbstextrahierendem Packaging versehen — statische Scanner erkennen die Malware nicht, der Code funktioniert aber weiterhin. SecurityWeek berichtet zudem von Kampagnen, die Prompt-Injections in bösartigen Websites einbetten, um Web-browsende KI-Agenten zu manipulieren: Ziel sind Kryptowährungstransaktionen.
Die Kombination dieser Techniken markiert eine Eskalation. KI-Agenten bieten Angreifern drei Vorteile: Automatisierung großer Kampagnen ohne manuellen Aufwand, kontinuierliche Adaption an Verteidigungen und Plausible-Deniability durch "autonome" Entscheidungen. Besonders kritisch: Scanner und Sandbox-Lösungen, die auf statische Signaturen vertrauen, werden zu Kategorien erkannt und gezielt umgangen.
Für DACH-Organisationen ist das relevant, weil viele deutsche Mittelstandsfirmen noch auf traditionelle Endpoint-Protection setzen. Prompt-Injection-Attacken gefährden auch intern eingesetzte KI-Tools — ein Chatbot, der auf kritische Systeme zugreift, kann über versteckte Instruktionen manipuliert werden. Im Kontext des EU-AI-Acts verschärft sich die Haftung: Unternehmen, die KI-Agenten einsetzen, müssen nachweisen, dass sie potenzielle Missbrauchsvektoren getestet haben. KI-Pentesting wird zur Compliance-Anforderung.
Der konkrete Schritt: Organisationen sollten jetzt KI-Agenten, die über das Netz agieren oder auf Systeme zugreifen, in ihren KI-Pentesting-Prozess integrieren — inklusive Prompt-Injection-Szenarien. Eine strukturierte Red-Team-Checkliste für LLM-Apps bietet einen Einstiegspunkt, um interne Agenten proaktiv zu testen, bevor Angreifer es tun.