Das Problem: Sensitive Daten in trainierten Modellen
Große Sprachmodelle, trainiert auf ungefilterten Datenquellen, enthalten oft sensitive Informationen. Regulatorische Anforderungen und ethische Standards verlangen jedoch, dass bestimmte Wissen gezielt gelöscht werden können — etwa personenbezogene Daten oder urheberrechtlich geschützte Inhalte. Bisherige Ansätze stoßen auf praktische Grenzen.
Die Grenzen bestehender Methoden
Parameter-modifizierende Verfahren (Fine-Tuning, direkte Gewichtsanpassung) sind rechenintensiv, führen zu unkontrolliertem Vergessen von verwandtem Wissen und setzen Zugriff auf Modellgewichte voraus. Das macht sie für geschlossene Modelle wie GPT-4 oder Claude unmöglich — dort können nur die User-Prompts beeinflusst werden.
Bisherige prompt-basierte Alternativen sind dagegen unsystematisch und basieren auf Trial-and-Error.
CAP: Prompt-gesteuerte Unlearning
Das Controllable Alignment Prompting (CAP) Framework entkoppelt Unlearning von Modellveränderungen. Der Ansatz:
- Prompt-Optimierung via Reinforcement Learning: Ein Prompt-Generator wird trainiert, systematisch zu lernen, wie Zielwissen supprimiert wird
- Zusammenarbeit LLM-Generator: Das Sprachmodell und der Generator arbeiten kollaborativ zusammen
- Selektive Fähigkeitserhaltung: Allgemeine Fähigkeiten bleiben erhalten, nur spezifisches Wissen wird unterdrückt
- Reversibilität: Gelöschtes Wissen kann durch Prompt-Widerruf wiederhergestellt werden
Praktische Vorteile
CAP funktioniert ohne Modellgewichte zu verändern — ideal für Closed-Source-Modelle. Die Methode ist dynamisch und anpassbar: Der Vergessen-Bereich ist kontrollierbar und präzise definierbar, nicht ein unkontrolliertes Nebenprodukt wie bei Gewichtsanpassung.
Experimente zeigen, dass CAP gezieltes Unlearning ohne Parameterupdates erreicht. Das überwindet die Übertragungsprobleme bisheriger Methoden — die Lösung funktioniert modellübergreifend.
Relevanz für Compliance und Safety
Für regulatorische Szenarien (DSGVO, Copyright-Forderungen) bietet CAP einen praktischen Weg: Statt Modelle komplett neu zu trainieren, können problematische Inhalte nachträglichgelöscht werden. Für Organisationen mit API-Zugriff auf externe Modelle ist das ein entscheidender Vorteil — sie sind nicht von Herstellerupdates abhängig.
Die reversible Natur ermöglicht auch Fehlerkorrektur: Wurde zu viel gelöscht, lässt sich das rückgängig machen.
Ausblick
CAP adressiert ein reales Problem im Produktiveinsatz großer Sprachmodelle. Die Entkopplung von Parametermodifikation und Unlearning öffnet neue Möglichkeiten für dezentrale und geschlossene Systeme.
