OpenAI startet Lockdown Mode gegen Prompt-Injection-Angriffe
OpenAI hat eine neue Schutzfunktion namens Lockdown Mode für ChatGPT ausgerollt, die gezielt gegen Prompt-Injection-Angriffe wirken soll. Wie TechCrunch berichtet, zielt die Maßnahme darauf ab, die Wahrscheinlichkeit zu senken, dass sensible Daten während eines Angriffs weitergegeben werden. Die Funktion beschränkt bestimmte Tool-Funktionalitäten, um das Risiko einer Datenexfiltration zu verringern, so The Hacker News.
Der Rollout betrifft zunächst berechtigte private Konten. Im Lockdown Mode werden bestimmte Features und externe Integrationspunkte deaktiviert, die häufig als Vektoren für Datenabfluss genutzt werden. Dazu gehören Web-Browsing, Code Interpreter und benutzerdefinierte GPTs — Funktionen, die potenziell für automatisierte Datenexfiltration missbraucht werden könnten. Eingehende Dateiuploads werden ebenfalls eingeschränkt.
Das Besondere: OpenAI signalisiert damit öffentlich an, dass auch nach monatelanger Forschung Prompt Injections nicht vollständig elimininiert sind. Wie Simon Willison dokumentiert, ist dies eine pragmatische Anerkennung der Realität — statt Vulnerabilities zu leugnen, wird der Schaden durch Funktionsbeschränkung reduziert.
Für den deutschsprachigen Raum und die DACH-Region ist diese Entwicklung hochrelevant. Mittelständische Unternehmen, die ChatGPT oder andere LLM-Systeme für Kundeninteraktionen oder interne Datenverarbeitung nutzen, müssen nun Lockdown Mode in ihre Risiko-Modellierung einbeziehen. Die DSGVO schreibt vor, dass bei PII-Leaks innerhalb von 72 Stunden die Aufsichtsbehörde informiert werden muss — besonders kritisch, wenn ein Angreifer durch Prompt Injection interne Daten extrahiert. Lockdown Mode kann hier als zusätzliche Defensive helfen, bietet aber keine Garantie.
Wer eigene LLM-Anwendungen betreibt, sollte prüfen: Braucht mein System wirklich Web-Browsing und Code Interpreter? Die Funktion könnte als Vorbild für Safety-Pipelines beim Aufbau eigener LLM-Apps dienen — Prinzip Defense-in-Depth. Parallel sollten Unternehmen ihre Red-Team-Checklisten für LLM-Apps erweitern und gezielt auf Prompt-Injection-Szenarien testen.