FLOWKI · NEWSROOM
KI-Agenten: Sicherheitslücken gefährden Unternehmensnetze
business-mit-ki

KI-Agenten: Sicherheitslücken gefährden Unternehmensnetze

business-mit-ki4 unabhängige QuellenFlowKI Newsroom

Hunderte autonome KI-Agenten laufen unkontrolliert — ohne Sicherheitsaufsicht

Das Problem hat Namen wie Agent Sprawl: Laut t3n werden in deutschen und europäischen Unternehmen bereits dutzende KI-Agenten autonom ausgeführt — doch mehr als die Hälfte davon unterliegt keiner systematischen Überwachung oder Kontrolle. Was als schnelle, abteilungsspezifische Lösung beginnt, wächst zu einer technischen Altlast heran, die unter den Anforderungen des EU AI Acts massiv ins Geld gehen kann.

Gleichzeitig offenbaren sich kritische Sicherheitslücken in populären Agentur-Frameworks. The Hacker News berichtet von einer kritischen Schwachstellenkette in LangGraph, die Remote Code Execution ermöglicht — ein direkter Zugriff auf Server, auf denen Self-Hosted KI-Agenten laufen. Parallel dazu haben Cybersicherheitsforscher eine neue Angriffsmethode namens "Agentjacking" dokumentiert, die KI-Coding-Agenten dazu manipuliert, willkürlichen Code auf Entwickler-Maschinen auszuführen. Beide Vektoren umgehen klassische Sicherheitskontrollen.

Prompt Injection bleibt ungelöst — Agenten besonders anfällig

Eine weitere Studie (Decrypt) zeigt: KI-Agenten können nach wie vor nicht zuverlässig gegen Prompt-Injection-Angriffe verteidigt werden. Das ist besonders kritisch, weil Agenten mit ihren automatisierten Entscheidungsprozessen — anders als ChatGPT-ähnliche Interfaces — direkt auf Datenbanken, APIs und unternehmensweite Systeme zugreifen können. Eine erfolgreiche Injection könnte also nicht nur Daten exfiltrieren, sondern Geschäftsprozesse unterbrechen oder manipulieren.

Für DACH-Unternehmen verschärft sich die Lage durch den EU AI Act: Wer KI-Agenten ohne dokumentierte Risikoanalyse und Kontrollmechanismen deployed, riskiert Bußgelder und Haftungsfragen. Besonders im Mittelstand, wo oft mehrere Teams parallel Agenten-Lösungen experimentieren, entsteht schnell ein unkontrolliertes Netzwerk von Automatisierungen.

Inventarisierung und zentrale Governance sind jetzt Pflicht

Das Kernproblem: Viele Organisationen wissen gar nicht, wie viele KI-Agenten wo laufen und welche Zugriffe sie haben. Der erste Schritt ist eine ehrliche Inventarisierung aller produktiven KI-Agenten samt Zugriffsmapping. Danach braucht es zentrale Governance-Richtlinien — wer darf neue Agenten deployen, wer überwacht Outputs, wie wird Prompt Injection detektiert? Für Teams, die bereits Agenten in Produktion haben, ist eine Sicherheitsaudits nach OWASP Top 10 for LLMs der praktischste Anfang.

Wer n8n plus KI-Workflows nutzt, sollte auch dort Audit-Trails und Rate-Limiting einrichten. Das erspart später Schreckensszenarien und Compliance-Verletzungen.

Quellen