ki-pentesting

Agent-Harness-Revolution: Wie Unternehmen KI-Agenten kontrollierbar machen

ki-pentesting15.09.2026, 05:246 unabhängige QuellenFlowKI Newsroom

Was passiert: Drei Schichten für sichere KI-Agenten

Die Industrie konsolidiert sich um eine neue Architektur-Logik für die Kontrolle autonomer KI-Agenten. Wie MarkTechPost dokumentiert, entsteht eine klare Aufteilung zwischen drei technischen Schichten: Agent Harness (unterste Schicht mit Zugriffskontrolle), Agent Framework (mittlere Ebene für Koordination) und MCP – Model Context Protocol (oberste Schicht für Datenfluss). Diese Drei-Schichten-Logik adressiert ein fundamentales Problem, das CISOs derzeit beschäftigt: Wie lassen sich KI-Agenten produktiv einsetzen, ohne dass sie durch Überprivilegierung unkontrollierbare Risiken schaffen?

Konkret zeigt sich das in neuen Produkten. Airrived hat sein Agentic OS um ein Observability-Modul erweitert, das Organisationen Echtzeit-Einsicht in Agent-Verhalten bietet – von der Datennutzung bis zu Tool-Aufrufen. Parallel hat Agent-net Webagent als Open-Source-Go-Harness veröffentlicht, ein Framework, das beliebige Websites in guardrailed Business-Agenten umwandelt. SecurityWeek berichtet, dass Sicherheitsteams derzeit "modernen Cyber-Hygiene-Standards nachrennen und über-privilegierte Agenten bremsen müssen, ohne ihre operative Effizienz zu zerstören" – ein typisches Dilemma zwischen Schutz und Nutzen.

Dazu kommt eine akademische Komponente: Forscher an arXiv haben mit SkillAtlas eine Attack-Trace-Library für Agent-Skills veröffentlicht, die systematisch dokumentiert, wie einzelne Agent-Fähigkeiten ausgenutzt werden können – je nach LLM-Entscheidung, Nutzer-Kontext, Tool-Aufrufen und Ausführungs-Feedback. Das ist der Versuch, Sicherheit nicht retrospektiv (nach Angriffen) zu evaluieren, sondern präventiv auf Skill-Ebene zu designen.

Warum für DACH relevant: DSGVO-Compliance und Mittelstand-Readiness

Für Deutschland, Österreich und die Schweiz greift hier eine verschärfte Compliance-Realität: Der EU AI Act und die DSGVO verlangen bereits heute, dass Unternehmen Transparenz über automatisierte Entscheidungen bieten und nachweisen können, dass Systeme nicht diskriminierend wirken. Ein KI-Agent, der eigenmächtig auf Kundendaten, Finanzsysteme oder HR-Tools zugreift, schafft sofort eine Haftungskette, die ohne explizite Kontrollmechanismen kaum zu rechtfertigen ist.

Die Agentic Observability, die Airrived und andere etablieren, wird daher nicht optional – sie ist dokumentationspflichtig. Unternehmen im DACH-Raum müssen nachweisen können, welche Daten ein Agent verarbeitet hat, welche Entscheidungen es traf und warum. Das ist besonders für Mittelständler relevant: Sie haben oft flachere IT-Strukturen und weniger Ressourcen, um Custom-Security-Lösungen zu bauen. Ein standardisiertes Agent-Harness-Framework wird dadurch zur Compliance-Rückversicherung.

Zudem adressiert die Harness-Logik ein Problem, das deutsche und schweizer Betriebe mit Legacy-Systemen häufig haben: Nicht alle kritischen Tools und APIs lassen sich neu schreiben. Der Open-Source-Ansatz von Webagent erlaubt es, bestehende Websites und Systeme graduell zu "guardrailen", ohne Komplettmigrationen zu erzwingen. Das reduziert Implementierungsrisiko und senkt Einstiegshürden für KMUs, die sonst KI-Automation als zu teuer oder zu riskant betrachten würden.

Die Drei-Schichten-Architektur (Harness, Framework, MCP) bricht auch ein europäisches Governance-Problem auf: Verantwortlichkeit. Wer trägt die Last, wenn ein Agent fehlgeht – der LLM-Provider, der Software-Anbieter oder der Betreiber? Eine klare Schichtung mit strikter Permissions-Trennung macht diese Linien deutlich: Der Harness-Layer ist Sache des Betreibers (lokale Kontrolle), der Framework-Layer kann vom Anbieter gestaltet werden, der Protocol-Layer (MCP) wird standardisiert. Das entspricht der europäischen Logik von Verantwortungsteilung und lokaler Governance.

Was du jetzt tun solltest: Evaluiere deinen Agent-Stack nach Schicht-Klarheit

Der unmittelbare Handlungsschritt: Wenn dein Unternehmen derzeit KI-Agenten plant oder einsetzt, prüfe explizit, welche Kontrollfunktionen auf welcher Schicht liegen. Viele Teams verwechseln heute noch Agent Frameworks mit Harnesses – das heißt, sie bauen Koordination, wo sie Zugriffskontrolle brauchten, oder umgekehrt. Das ist nicht nur ein technisches Missverständnis, sondern ein Governance-Risiko.

Konkret: Setze den Harness-Layer zuerst auf. Das Harness definiert, auf welche Datenquellen, APIs und Systeme der Agent überhaupt zugreifen darf – und unter welchen Bedingungen. Das ist nicht Optimierung, das ist Grundhygiene. Frameworks kommen dann darüber (für Koordination zwischen Agenten und Nutzern), und das MCP-Protokoll organisiert oben den Datenfluss zu LLMs. Wenn diese Reihenfolge verschwimmt, bekommst du nicht bessere Agenten – du bekommst Kontrollab-Drift.

Zusätzlich: Nutze Observability-Tools (wie Airrived oder ähnliche) nicht als Nachbarkeits-Feature, sondern als Audit-Rückgrat. Dokumentation ist nicht lästig – sie ist dein einziger Beweis gegenüber Aufsichtsbehörden und Kunden, dass der Agent nicht eigenmächtig handelt. Im DACH-Kontext ist das keine Option, das ist Voraussetzung. Beginne damit jetzt, nicht erst wenn der erste Audit kommt. Die Frameworks existieren – nutze sie proaktiv.

Mehr zum Thema im Ressort KI-Pentesting.