Logik als Sicherheitslücke
Eine neue Studie von Forschern zeigt, dass Large Language Models (LLMs) durch die Umwandlung schädlicher Prompts in formale logische Ausdrücke manipuliert werden können. Die Methode heißt LogiBreak und offenbart ein grundlegendes Problem in der aktuellen Sicherheitsarchitektur von Sprachmodellen.
Das Prinzip hinter LogiBreak
Die Kernidee ist bestechend einfach: Während LLMs intensiv mit sicherheitsorientierten Trainingsdaten (Alignment Data) abgestimmt wurden, fehlen in diesem Training logische Formalismen als Eingabeformat. LogiBreak exploitiert diese Verteilungslücke – die Differenz zwischen den Daten, auf denen das Sicherheitstraining basierte, und völlig anderen Input-Formaten.
Indem schädliche natürlichsprachige Prompts in formale logische Notation übersetzt werden, bleibt die semantische Bedeutung und Lesbarkeit weitgehend erhalten. Das Modell erkennt die schädliche Absicht jedoch nicht, weil der Input außerhalb der Verteilungsdomäne liegt, auf die das Safety-Training fokussiert war.
Sprachübergreifende Effektivität
Besonders problematisch: Die Forscher testeten LogiBreak auf einem mehrsprachigen Datensatz über drei Sprachen hinweg. Die Methode funktioniert konsistent über verschiedene Bewertungsszenarien und linguistische Kontexte. Das bedeutet, dass das Problem nicht sprachspezifisch ist, sondern ein fundamentales Merkmal der aktuellen Alignment-Ansätze zu sein scheint.
Verteilungslücken als Sicherheitsrisiko
Die Forschung verdeutlicht einen wichtigen Punkt: Safety-Mechanismen in LLMs basieren oft auf der Annahme, dass schädliche Inhalte in bestimmten Formaten und Mustern erkannt werden. Sie schützen nicht gegen Out-of-Distribution-Inputs, die die gleiche schädliche Information in unerwarteten Formaten transportieren.
Formal logische Ausdrücke sind dabei nur ein Beispiel. Diese Erkenntnis hat Implikationen für alle ähnlichen Umgehungstechniken, die völlig andere Input-Modalitäten nutzen könnten.
Konsequenzen für die KI-Sicherheit
Die Studie mahnt zur Vorsicht bei Sicherheitsmodellen an, die zu sehr auf spezifische Trainingsmuster optimiert sind. Ein robustes Safety-System müsste potenziell über verschiedene Input-Formate hinweg resistenter sein – oder anders gesagt: nicht nur gegen bekannte Jailbreak-Muster, sondern auch gegen strukturell neue Angriffstypen.
LogiBreak ist ein Black-Box-Ansatz, was bedeutet, dass keine Informationen über die innere Struktur des Modells nötig sind. Das macht das Problem praktisch und skalierbar – und damit auch relevanter für reale Bedrohungen.
