Auf Hugging Face ist ein bösartiges Repository aufgetaucht, das OpenAIs "Privacy Filter"-Projekt imitierte und Infostealer-Malware für Windows-Systeme verbreitete. Besonders problematisch: Die gefälschte Repository schaffte es auf die Trending-Liste der Plattform und erreichte dadurch erhöhte Sichtbarkeit.
Wie das Angebot funktionierte
Das Malware-Repository präsentierte sich als Open-Source-Tool zum Filtern sensibler Informationen – ein plausibles Szenario, das Vertrauen aufbauen sollte. Entwickler, die das Projekt klonten oder die bereitgestellten Dateien herunterluden, aktivierten damit unwissentlich die Infostealer-Komponente.
Infostealer sind spezialisierte Trojaner, die auf dem befallenen System nach wertvollen Daten fahnden: API-Schlüssel, Authentifizierungstoken, Browser-Cookies, gespeicherte Passwörter und weitere sensible Informationen. Diese Daten werden anschließend an Angreifer exfiltriert.
Warum Hugging Face zum Ziel wurde
Hugging Face hat sich als zentrale Plattform für Machine Learning und KI-Modelle etabliert. Millionen von Entwicklern nutzen sie täglich, um vortrainierte Modelle herunterzuladen oder eigene zu teilen. Diese hohe Reichweite macht die Plattform auch für Angreifer interessant.
Durch die Nachahmung eines bekannten Projekts – OpenAI ist ein renommierter Name in der AI-Community – entsteht zusätzliches Vertrauen. Viele Nutzer prüfen nicht intensiv, ob ein Repository wirklich vom offiziellen Entwickler stammt.
Sicherheitsimplikationen
Dieser Vorfall illustriert ein wachsendes Problem: Supply-Chain-Angriffe auf Open-Source-Plattformen. Angreifer müssen nicht ausgefeilte Exploits entwickeln – es reicht oft, ein vertrauenswürdig wirkendes Projekt hochzuladen.
Die Tatsache, dass das Repository auf die Trending-Liste kam, zeigt auch, wie Algorithmen dieser Plattformen noch nicht robust genug gegen solche Fakes sind.
Empfehlungen für Nutzer
- Verifiziere Repository-Besitzer: Prüfe, ob der Account mit dem offiziellen Projekt verbunden ist
- Inspiziere Code vor dem Ausführen: Besonders Setup-Skripte und Dependencies sollten überprüft werden
- Nutze separate Umgebungen: Virtualisierung oder Container isolieren potenzielle Infektionen
- Halte Systeme aktuell: Security-Updates reduzieren die Angriffsfläche
Für Plattformen wie Hugging Face wird deutlich, dass noch strengere Verifizierungsmechanismen und frühere Erkennungssysteme notwendig sind.
