KI-Agenten in Unternehmen: Sicherheit zwischen Automatisierung und Kontrollverlust

SAP treibt mit neuen Joule-Assistenten und -Agenten das Konzept des "Autonomous Enterprise" voran — Systeme, die eigenständig komplexe Geschäftsprozesse ausführen, ohne menschliche Intervention für jeden Schritt zu benötigen. Laut Computerwoche hat SAP auf der SAP Connect in Las Vegas diese neuen KI-Agenten präsentiert, die tiefer in Enterprise-Workflows integriert sind. Gleichzeitig zeigt OpenAI in Zusammenarbeit mit dem Vertragsmanagement-Unternehmen Ironclad, wie KI-Agenten auf komplexe berufliche Aufgaben trainiert werden — konkret auf Vertragsabwicklungs-Workflows, die bisher von Spezialisten manuell bearbeitet wurden.

Doch mit der wachsenden Autonomie dieser Systeme entstehen gravierende Sicherheitsherausforderungen. Wie The Hacker News berichtet, hat Anthropic sein Cyber Verification Program (CVP) erweitert, das geprüften Cybersecurity-Profis Zugriff auf fortgeschrittene Claude-Fähigkeiten mit reduzierten Sicherheitsblockierungen gibt — etwa für Malware-Analyse und Penetration-Testing. Die Initiative zeigt, dass KI-Modelle selbst zum Werkzeug für Sicherheitstests werden, benötigen aber enge Kontrollen, um Missbrauch auszuschließen. Anthropic hat dazu drei Zugriffsstufen eingeführt, um mehr Sicherheitsfachleuten einen kontrollierten Zugang zu gewähren. Dies liegt daran, dass Sicherheitsforscherin Glasswing 129.000 Sicherheitslücken identifiziert hat — ein Beleg für die Ernsthaftigkeit der Bedrohung.

Ein neues Marktsegment entwickelt sich parallel: spezialisierte Lösungen für die Sicherheitsvalidierung von KI-Agenten selbst. Edgescan kündigte Edgescan Atomic an, ein automatisiertes Penetration-Testing-Tool auf Basis von agentic AI, das eigenständig Angriffsszenarien durchläuft. SecurityWeek meldet, dass Hadrian 40 Millionen Dollar Kapital aufgebracht hat, um seine autonome offensive Sicherheitsplattform auszubauen — eine Lösung, die es Verteidigern erlaubt, mit der Geschwindigkeit von Angreifern zu operieren. Vijil hat zudem Diamond Adaptive Red Teaming für Agents (DART) vorgestellt, ein automatisiertes Testsystem, das Sicherheitslücken und Richtlinienverletzungen in unternehmenseigenen KI-Agenten findet.

Warum für DACH relevant

Der deutschsprachige Raum wird diese Entwicklung unmittelbar treffen, weil das deutsche und österreichische Mittelstandsmanagement oft die vorsichtige Variante wählt — doch neue KI-Agenten-Funktionen von SAP, Microsoft und Anthropic schaffen Druck, schnell nachzuziehen. Computerwoches Analyse zum Zero-Trust-Ansatz verdeutlicht ein strukturelles Problem: Zero-Trust-Sicherheit fordert kontinuierliche Verifizierung jedes Zugriffs. KI-Agenten, die selbst Entscheidungen treffen und Daten abrufen, untergraben dieses Prinzip, wenn sie nicht explizit integriert sind. Ein Agent, der eigenständig Dateien verschiebt oder API-Aufrufe macht, ist schwer zu überwachen und kann schnell Grenzen überschreiten.

Für DACH-Unternehmen greift zusätzlich die DSGVO mit voller Kraft: Agenten, die personenbezogene Daten verarbeiten, brauchen explizite Datenschutz-Governance. Der EU AI Act, der 2025 schrittweise in Kraft tritt, definiert High-Risk-Systeme, die unter Hochrisiko-KI fallen — autonome Systeme in Personalwesen, Vertragsprüfung oder Sicherheit könnten dazugehören. Das bedeutet konkret: Audit-Trails, Transparenzpflichten und Human-in-the-Loop-Anforderungen müssen von Anfang an eingeplant werden.

Mittelständische Unternehmen in der DACH-Region, die SAP oder andere Enterprise-Systeme nutzen, werden sich schnell fragen: Sollen wir diese neuen Agenten aktivieren? Die Antwort hängt davon ab, ob die technische Überwachungs- und Governance-Infrastruktur bereits besteht. Ohne sie wird die operative Automatisierung zum regulatorischen Risiko.

Was du jetzt tun solltest

Der konkrete Take-Away: KI-Agenten sind keine plug-and-play-Technologie, sondern Compliance-Projekte, die mit einer Sicherheitsvalidierung beginnen müssen. Bevor ein Unternehmen einen Agenten in Produktion setzt — ob für Vertragsmanagement wie Ironclads Ansatz oder für SAP-Prozessautomation — sollte eine Sicherheitsbewertung erfolgen, die nicht nur externe Angriffe, sondern auch Fehlverhalten des Agenten selbst prüft. Tools wie Vijils DART oder Edgescan Atomic sind genau dafür gebaut. Im DACH-Kontext bedeutet das: Frühe Planung mit Datenschutz- und Compliance-Teams ist nicht optional, sondern architektonische Notwendigkeit. Unternehmen, die jetzt investieren in Validierungs-Frameworks und interne Pentesting-Kapazitäten für Agenten, haben später deutlich geringere Risiken und schnellere Deployment-Zyklen.

Verwandte Tiefenanalyse: KI-Agenten zwischen Nutzen und Kontrollverlust und Business mit KI.

Quellen

• Computerwoche: SAP treibt das Autonomous Enterprise mit weiteren Joule-Assistenten und -Agenten voran
• OpenAI: Advancing computer use with Ironclad
• The Hacker News: Anthropic Expands Claude Access for Vetted Cyber Teams as Glasswing Finds 129,000 Flaws
• Heise Security: Anthropic bündelt Cyberprogramme und führt drei Zugriffsstufen ein
• Help Net Security: Anthropic loosens Claude's cyber restrictions for verified defenders
• Help Net Security: Edgescan Atomic validates attack paths with controlled AI testing
• SecurityWeek: Hadrian Raises $40 Million to Expand Autonomous Offensive Security Platform
• The Hacker News: What Is Agentic Pentesting? What It Proves, and Where It Stops
• Help Net Security: Vijil DART tests AI agents for security flaws and policy violations
• Computerwoche: Zero Trust bekommt ein (dickes) KI-Agenten-Problem
• AI Business: The context factor for AI agents