Sicherheits-Updates gegen Prompt-Injection-Attacken
Microsoft und Salesforce haben zeitnah Sicherheitsupdates für ihre KI-Agenten-Plattformen bereitgestellt, nachdem Schwachstellen entdeckt wurden, die zu Datenlecks hätten führen können.
Das Problem: Prompt Injection
Bei den Lücken handelte es sich um Prompt-Injection-Anfälligkeit in Salesforce Agentforce und Microsoft Copilot. Diese Angriffsart ermöglicht es Angreifern, über manipulierte Eingaben die Anweisungen eines KI-Agenten zu überschreiben und so unbeabsichtigte Aktionen auszulösen.
Durch die Schwachstellen hätten externe Angreifer sensible Daten abgreifen können – ein kritisches Risiko, da diese Plattformen in Unternehmensumgebungen oft Zugriff auf vertrauliche Informationen haben.
Auswirkungen und Reichweite
Both Vulnerabilities sind auf Systeme begrenzt, die bereits gehärtet wurden oder von geschultem Personal betrieben werden. Dennoch zeigt dies ein wiederkehrendes Sicherheitsmuster: KI-Agenten sind durch ihre Eingabeverarbeitung grundsätzlich anfällig für Manipulation.
Prompt Injection ist kein neues Phänomen, wird aber mit dem Einsatz von agentenbasierten Systemen in Produktivumgebungen zu einer zunehmend praktischen Bedrohung.
Patch-Status
Bei Salesforce wurde die Lücke in Agentforce behoben. Microsoft hat entsprechende Fixes für Copilot bereitgestellt. Beide Hersteller empfehlen, die Patches sofort einzuspielen, besonders wenn KI-Agenten auf Kunten- oder Mitarbeiterdaten zugreifen.
Was Unternehmen beachten sollten
- Regelmäßige Updates – Security Patches zeitnah einspielen
- Input-Validierung – Wo möglich, Eingaben filtern und validieren
- Zugriffskontrolle – KI-Agenten nur Daten zugeben, die tatsächlich nötig sind
- Monitoring – Unerwartete Datenzugriffe und Agenten-Verhalten überwachen
Der Zwischenfall unterstreicht, dass KI-Agenten nicht einfach als "vertrauenswürdige Black Boxes" behandelt werden können. Sie brauchen die gleiche Sicherheitsaufmerksamkeit wie andere Systemkomponenten – insbesondere wenn sie mit Daten arbeiten.