LLM-Malware und Agent-Exploits: Neue Angriffsvektoren in der KI-Supply-Chain

Generative AI wird zunehmend als Werkzeug für Cyberangriffe eingesetzt. Laut einer neuen Studie auf arXiv (cs.CR, 2606.30819) können LLMs automatisiert PowerShell-Malware generieren — mit einem experimentellen Framework und einem dokumentierten Dataset. Die Forscher zeigen, dass die Hürden für Angreifer sinken: Statt Malware selbst zu schreiben, nutzen sie Sprachmodelle, um varianten-reiche, funktionierende Exploits zu erzeugen.

Parallel dazu entstehen neue Angriffsmuster auf KI-Agenten selbst. Wie Dark Reading meldet, können "AI-Generated Workflows" zur "Silent Security Disaster" werden — Automation funktioniert, aber niemand versteht wirklich, was sie tut. Noch kritischer: Sicherheitsforscher haben gezeigt, dass jahrzehntealte Bash-Tricks ausreichen, um KI-Coding-Agenten zu kompromittieren und sie als Supply-Chain-Angriffsvektor zu missbrauchen. Microsoft warnte zudem vor "Agentjacking" — Angreifer manipulieren Tool-Beschreibungen in Agent-Umgebungen, um die KI zum Datenleck zu bewegen, ohne dass sie der Anwender bemerkt.

Warum das für DACH relevant ist

Deutsche und österreichische Unternehmen setzen zunehmend auf interne KI-Agenten und LLM-basierte Code-Automation. Gleichzeitig werden KI-Sicherheitsaudits oft als reine Prompt-Injection-Tests verstanden — der Fokus liegt auf "böse Prompts", nicht auf "böse Umgebungen". Unter DSGVO und NIS2 trägt der Betreiber eine LLM-Anwendung Verantwortung für Datenlecks, die durch Agenten-Exploits entstehen. Agentjacking und Tool-Poisoning sind schwer zu erkennen, weil sie keinen klassischen Code-Injection brauchen.

Was du jetzt tun solltest

Wenn deine Firma KI-Agenten intern nutzt (ob GitHub Copilot, Claude mit MCP-Tools oder eigene Systeme): Inventarisiere die Schnittstellen. Welche Tools/APIs können deine Agenten aufrufen? Wer kann diese Tool-Definitionen ändern? Starte ein strukturiertes Red-Teaming auf Agent-Ebene — nicht nur Prompts, sondern manipulierte Tool-Beschreibungen, gefälschte Bug-Reports und Supply-Chain-Szenarien. Das ist der blinde Fleck der meisten KI-Sicherheitskonzepte.

Tiefere Strategien findest du in unserer 50-Punkte-Red-Team-Checkliste für LLM-Apps und im Überblick KI-Pentesting.

Quellen

• AI-Generated PowerShell Malware: An Experimental Framework and Dataset
• AI-Generated Workflows Are a Silent Security Disaster (Dark Reading)
• Decades-Old Bash Tricks Expose AI Coding Agents to Supply Chain Attacks (SecurityWeek)
• Microsoft Warns Poisoned MCP Tool Descriptions Can Make AI Agents Leak Data (The Hacker News)
• Fake Bug Report Hijacks AI Coding Agents at Scale (Dark Reading)
• Attackers Hijack Exposed AI Endpoints to Power Offensive Ops (Dark Reading)