KI-Agenten ohne Kontrolle: Governance-Krise in Unternehmen

Die Kontrolle über künstliche Intelligenz in Unternehmen gerät zunehmend aus den Fugen. KI-Agenten werden dezentral und oft unkontrolliert in Organisationen eingeführt, während zentrale Governance-Strukturen nicht nachkommen. Laut einer aktuellen Umfrage von Help Net Security haben 70 % der IT- und Security-Entscheidungsträger KI-Agenten bereits Aufgaben übertragen, die früher menschliche Genehmigung erforderten — ohne ausreichende Sicherheitsmechanismen zu etablieren. Gleichzeitig berichten 62 % der IT- und Engineering-Profis, dass sie KI-Agenten regelmäßig nutzen, um Systemausfälle zu analysieren, aber mehr als die Hälfte verfügt über keine Methode, um die Qualität dieser Analysen zu überprüfen.

Das Kern-Problem: Dezentraler Wildwuchs statt zentraler Strategie. Laut Computerwoche entsteht in vielen Unternehmen ein „Agenten-Wildwuchs", bei dem jede Abteilung unabhängig die für sie geeignete Plattform wählt und eigene KI-Assistenten für ihre Aufgaben entwickelt. Marketing setzt auf ein Tool, Finance auf ein anderes, IT auf ein drittes — ohne dass eine unternehmensweite Governance-Struktur existiert. Das Ergebnis ist ein Flickenteppich aus Systemen, bei dem niemand weiß, welche Agenten wo operieren, welche Daten sie verarbeiten und welche Entscheidungen sie treffen. Hinzu kommt: Diese Agenten speichern häufig API-Keys und Datenbankpasswörter und erhalten Zugriff auf interne Systeme, ohne dass eine zentrale Überwachung stattfindet. Wie The Hacker News warnt, läuft „wahrscheinlich irgendwo auf einem Laptop im Netzwerk ein KI-Agent, den niemand besitzt".

Die Kombination aus fehlender Observability und erweiterten Berechtigungen verschärft die Sicherheitslage erheblich. Help Net Security stellt fest, dass KI-Agenten zwar halluzinieren und fehlerhafte Informationen liefern können, Unternehmen aber keine Mittel haben, um diese Fehler in Echtzeit zu erkennen. Wenn ein KI-Agent eine kritische Geschäftsentscheidung trifft oder auf sensitive Daten zugreift, und zugleich keine Kontrollmechanismen vorhanden sind, entsteht eine erhebliche Compliance- und Sicherheitslücke. Das Problem wird durch die Geschwindigkeit verschärft, mit der KI-Agenten heute bereitgestellt werden: Wie HubSpot dokumentiert, können Marketer mittlerweile mit wenigen Schritten einen KI-Agenten aufbauen — indem sie die Aufgabe definieren, genehmigte Daten und Tools verbinden und Limits für Aktionen setzen. Der Prozess ist technisch simpel geworden, ohne dass die organisatorische und sicherheitstechnische Infrastruktur mitgewachsen ist.

Warum für DACH relevant

Im deutschsprachigen Raum verschärft sich das Governance-Problem durch regulatorische Anforderungen. Die DSGVO verpflichtet Unternehmen zu dokumentieren, wie personenbezogene Daten verarbeitet werden und welche automatisierten Entscheidungen getroffen werden. Ein unkontrollierter KI-Agent, der ohne explizite Genehmigung auf Kundendaten zugreift oder automatisierte Entscheidungen trifft, verstößt gegen diese Anforderungen. Der EU AI Act verschärft diese Pflichten zusätzlich: Hochrisiko-KI-Systeme — und dazu gehören KI-Agenten, die geschäftskritische Entscheidungen treffen — müssen Transparenzanforderungen erfüllen, ein Audit-Log führen und bei Bedarf erklärbar sein. Ein „Agenten-Wildwuchs", bei dem zentrale Governance fehlt, ist im DACH-Raum nicht nur ein IT-Problem, sondern ein Compliance-Risiko.

Besonders für Mittelständler ist die Lage kritisch. Viele verfügen nicht über spezialisierte Security- und Compliance-Teams, die dezentrale KI-Agenten überblicken und kontrollieren könnten. Ein Marketing-Manager, der einen KI-Agenten für Lead-Scoring einsetzt, mag dessen Fähigkeiten schätzen — ob dieser Agent aber DSGVO-konform arbeitet, API-Keys sicher speichert und fehlerhafte Empfehlungen erkennt, ist oft nicht überprüft. In größeren Unternehmen entstehen ähnliche Blindflecken, nur auf andere Weise: Dezentralisierte Entwicklung führt zu fehlender Sichtbarkeit über die Sicherheitsinfrastruktur hinweg. Die Datenschutzbehörden in Deutschland, Österreich und der Schweiz haben KI-Governance in den letzten Monaten verstärkt als Inspektionsschwerpunkt identifiziert — Unternehmen ohne klare Kontrollstrukturen können mit Bußgeldern rechnen.

Was du jetzt tun solltest

Der zentrale Take-Away liegt nicht darin, KI-Agenten zu verdammen, sondern Governance vor der breiten Dezentralisierung zu etablieren. Das bedeutet konkret: Definiere eine unternehmensweite Policy für KI-Agent-Einsätze, bevor weitere Agenten entstehen. Diese Policy sollte festlegen, welche Abteilungen KI-Agenten einführen dürfen, welche Genehmigungsprozesse greifen müssen (vor allem bei Zugriff auf sensitive Daten oder automatisierten Entscheidungen), und welche Monitoring- und Audit-Standards gelten. Zweiter Schritt: Etabliere ein zentrales Verzeichnis aller operierenden KI-Agenten — wer betreibt sie, welche Daten greifen sie an, welche Aktionen führen sie aus. Drittes Element: Koppele die Berechtigung von KI-Agenten an Compliance-Anforderungen. Ein Agent, der auf Kundendaten zugreift, benötigt explizite Datenschutz-Überprüfung. Ein Agent, der geschäftskritische Entscheidungen trifft, braucht Audit-Trails und Fehler-Erkennungsmechanismen. Das ist nicht neu — es sind Standard-Governanceelemente — aber sie müssen auf KI-Agenten übertragen werden, bevor der Wildwuchs unkontrollierbar wird. Unternehmen, die jetzt handeln, gewinnen einen Compliance-Vorteil und reduzieren Sicherheitsrisiken deutlich.

Mehr zum Thema im Ressort Kategorie Business mit KI.

Quellen

• Computerwoche: Agenten-Wildwuchs: Wer behält den Überblick über KI-Agenten?
• HubSpot Marketing: How to build an AI agent: from goal to live deployment
• Help Net Security: AI agent observability is struggling to keep up with hallucinations
• Help Net Security: AI agent permissions are outrunning security
• The Hacker News: The AI Agent Nobody Owns: Watch Expert Webinar On Your Newest Insider Threat