Sicherheitslücke bei Hugging Face: Gefälschtes OpenAI-Repository enthielt Malware
Auf der Model-Plattform Hugging Face ist ein gefälschtes Repository entdeckt worden, das OpenAIs Privacy Filter imitierte. Innerhalb von 18 Stunden erreichte das Projekt über 244.000 Downloads, bevor Hugging Face es vom Platz eins der Trending-Modelle entfernte.
Was war das Problem?
Das Repository war eine Lookalike-Kopie, die so gestaltet war, dass es OpenAI-Nutzern legitim erschien. Statt des beworbenen Privacy-Filter-Modells enthielt es offenbar Malware oder Code, der Passwörter und sensible Daten von Anwendern sammelte. Die hohe Downloadrate deutet darauf hin, dass viele Nutzer das gefälschte Projekt unwissentlich herunterluden.
Warum war dies möglich?
Hugging Face hat mit enormem Wachstum zu kämpfen. Tausende neue Modelle werden täglich hochgeladen, und die manuelle Überprüfung kann nicht mit diesem Volumen Schritt halten. Das Ranking-System auf der Plattform basiert primär auf Download-Zahlen und Engagement—Metriken, die leicht zu manipulieren sind. Ein bösartiges Repository mit einer überzeugenden Beschreibung und dem Namen einer bekannten Organisation kann schnell viral gehen.
Implikationen für die AI-Community
Dieser Vorfall zeigt eine wachsende Anfälligkeit im Open-Source-AI-Ökosystem. Ähnlich wie bei npm oder PyPI, wo Supply-Chain-Attacken bekannt sind, können Modell-Repositories zur Angriffsquelle werden. Entwickler, die Code aus Hugging Face integrieren, müssen bewusster überprüfen, wer ein Modell wirklich veröffentlicht hat.
Was sollten Nutzer tun?
- Verifikation: Immer den offiziellen Account oder die Org-Seite des Entwicklers besuchen
- Repository-Metadaten prüfen: Erstellungsdatum, Contributor-Geschichte und offizielle Links überprüfen
- Code-Review: Vor der Nutzung unbekannter Modelle den Code inspizieren
- Passwörter ändern: Falls man das Repo herunterlud, sollten Anmeldedaten aktualisiert werden
Hugging Face müsste strengere Verifizierungsmechanismen implementieren, etwa eine Verifizierung für offizielle Organisationen oder ein Review-System für stark beworbene Modelle. Die Plattform ist eine zentrale Infrastruktur für die AI-Entwicklung—sie trägt Verantwortung für die Sicherheit ihrer Nutzer.