## blog - seite 18 von 31
SECURITYFaire Outputs, versteckte Vorurteile: Wie LLMs Bias in Kreditentscheidungen maskieren
Eine Studie zeigt: Sprachmodelle treffen bei Hypothekenvergabe oberflächlich faire Entscheidungen, speichern aber interne Vorurteile, die durch Manipulation reaktivierbar sind. Behavioral Audits reichen nicht aus.
SECURITYClaude Mythos Preview: KI findet und nutzt Sicherheitslücken
Claude Mythos Preview kann Schwachstellen in Software nicht nur erkennen, sondern auch Exploits schreiben. Anthropic beschränkt den Zugang deshalb auf ausgewählte Projekte und verzichtet auf öffentliche Verfügbarkeit.
INDUSTRYKlinik haftet für KI-Chatbot-Fehler – OLG Hamm setzt Maßstab
Das Oberlandesgericht Hamm verurteilt einen Klinikbetreiber: Unternehmen haften für Halluzinationen ihrer KI-Chatbots. Ein wichtiges Signal für die Verantwortlichkeit beim Einsatz von Sprachmodellen.
TOOLSGitHub Copilot App: Microsoft startet Early Access
Microsoft bringt eine eigenständige GitHub Copilot App auf den Markt. Pro und Pro+ Abonnenten erhalten ab sofort Zugang zur Technical Preview. Damit antwortet Microsoft auf ähnliche Angebote von Anthropic und OpenAI.
TOOLSTausende KI-Agenten nachts im Einsatz: So nutzt Anthropic sein eigenes Modell
Boris Cherny, Gründer von Claude Code, setzt Anthropics KI-Modell in großem Stil ein. Nachts laufen tausende Agenten parallel – ein Einblick in praktische Multi-Agent-Nutzung.
TOOLSGraphBit: Strukturierte Agent-Orchestrierung ohne Halluzinationen
GraphBit ersetzt fehleranfällige Prompt-basierte Agent-Steuerung durch explizite DAG-Workflows. Ein Rust-Engine garantiert reproduzierbare Ausführung, parallele Verarbeitung und minimale Latenz — ohne Framework-bedingte Halluzinationen.
SECURITYOpenAI bestätigt Sicherheitsverletzung durch Malware
OpenAI hat einen Sicherheitsvorfall bestätigt: Malware aus der Shai-Hulud Supply-Chain-Attacke infizierte zwei Mitarbeiter-Geräte und verschaffte sich Zugang zu internen Repositories.
SECURITYStealer-Backdoor in Node-IPC entdeckt – Developer-Secrets gefährdet
Drei Versionen des beliebten npm-Pakets node-ipc enthalten Malware. Security-Forscher warnen vor Stealer-Funktionalität, die auf Entwickler-Credentials abzielt.
SECURITYKI-Fähigkeiten in der Cybersecurity wachsen schneller als erwartet
Das britische AI Security Institute dokumentiert, dass moderne KI-Modelle ihre Fähigkeiten in der Cybersecurity rasanter entwickeln als früher geschätzt. Die Verdopplung der Leistung erfolgt alle 4,7 Monate statt der ursprünglichen Prognosen.
TOOLSSandyaa: Open-Source Tool für autonome Sicherheitsprüfungen
Sandyaa ist ein neues Open-Source-Tool von SecureLayer7, das LLMs nutzt, um Schwachstellen in Code zu identifizieren und funktionierende Exploits zu generieren. Das Projekt unter MIT-Lizenz soll Entwickler von manuellen Code-Audits entlasten.
SECURITYGefälschtes OpenAI-Repository auf Hugging Face: 244.000 Downloads in 18 Stunden
Ein betrügerisches Repository, das OpenAIs Privacy Filter imitierte, erreichte Platz 1 auf Hugging Face und sammelte Passwörter. Hugging Face entfernte es nach 18 Stunden und 244.000 Downloads.
SECURITYnpm-Wurm befällt TanStack-Ökosystem: Hunderte Pakete infiziert
Ein selbstreproduzierender Wurm namens Mini Shai-Hulud von TeamPCP hat hunderte npm-Pakete im TanStack-Ökosystem infiltriert. Der Malware stiehlt Credentials und verbreitet sich automatisch weiter.
TOOLSOpenAI startet Daybreak: KI-Tool zur Schwachstellenerkennung
OpenAI bringt Daybreak an den Markt – ein KI-System zur automatisierten Erkennung von Software-Sicherheitslücken. Das Tool soll Unternehmen helfen, ihre Cyber-Abwehr zu beschleunigen.
SECURITYCheckmarx Jenkins Plugin kompromittiert: Infostealer gefunden
Checkmarx warnte vor einer manipulierten Version des Jenkins AST-Plugins im Marketplace. Die gefälschte Erweiterung enthielt einen Infostealer und konnte Anmeldedaten abgreifen. Security-Teams sollten Installationen überprüfen und das Plugin aktualisieren.
SECURITYGhostLock: Wie eine legitime Windows-API zur Dateisperrung missbraucht wird
Ein Security Researcher zeigt mit GhostLock, wie legitime Windows-APIs für Angriffe missbraucht werden können. Das Proof-of-Concept-Tool sperrt Dateien auf lokalen und SMB-Shares und offenbart eine kritische Lücke in der API-Sicherheit.
SECURITYHacker nutzen KI für Zero-Day-Exploit gegen 2FA
Google bestätigt: Cyberkriminelle haben ein KI-Modell eingesetzt, um eine unbekannte Softwarelücke zu finden und auszunutzen. Der Exploit umgeht Zwei-Faktor-Authentifizierung.
TOOLSLLM direkt in der Shebang-Zeile ausführen
Simon Willison zeigt, wie man LLMs direkt über die Shebang-Zeile in Skripten aufrufen kann. Das ermöglicht neue Möglichkeiten für automatisierte Textverarbeitung und Datenanalyse.
SECURITYErste AI-gestützte Zero-Day-Lücke in 2FA entdeckt
Google hat einen Zero-Day-Exploit in 2FA-Systemen entdeckt, der vermutlich mit AI entwickelt wurde. Dies ist das erste bekannte Beispiel, in dem AI für Vulnerability Discovery in böser Absicht eingesetzt wurde.
SECURITYDirty Frag: Neue Privilege-Escalation bedroht Enterprise Linux
Eine neue Privilege-Escalation-Schwachstelle namens Dirty Frag gefährdet Enterprise-Linux-Systeme. Die Lücke ähnelt bekannten Flaws wie Dirty Pipe und wird möglicherweise bereits begrenzt ausgenutzt.
SECURITYMeari-Kameras: Eine Million Geräte für Hacker leicht einsehbar
Über eine Million Baby Monitore und Sicherheitskameras von Meari Technology waren für Unbefugte einsehbar. Die Geräte wiesen gravierende Sicherheitsmängel auf, die Hackern Zugriff auf Live-Aufnahmen ermöglichten.
SECURITYGoogle stoppt Zero-Day-Exploit, der mit KI entwickelt wurde
Google hat erstmals einen Zero-Day-Exploit gestoppt, der mit KI entwickelt wurde. Cyberkriminelle planten eine Massenausnutzung einer Schwachstelle, um Two-Factor-Authentication zu umgehen. KI-Spuren im Code deuteten auf LLM-Beteiligung hin.
SECURITYWöchentliche Sicherheitsübersicht: Linux-Rootkit, macOS-Malware und alte Schwachstellen
Poisoned Downloads, kompromittierte Cloud-Server und Angreifer, die längst bekannte Schwachstellen ausnutzen – die Wochenübersicht zeigt: Alte Sicherheitslücken bleiben das größte Problem.
SECURITYGoogle: Hacker nutzen KI zur Entwicklung von Zero-Day-Exploits
Google-Forscher berichten, dass Hacker KI-Tools zur Erstellung eines Zero-Day-Exploits für ein beliebtes Web-Admin-Tool genutzt haben. Das zeigt neue Risiken bei der Automatisierung von Angriffstools.
SECURITYPasswort-Reset stoppt Active-Directory-Angriffe nicht
Ein Passwort-Reset entfernt Angreifer nicht automatisch aus Active Directory. Cached Credentials und Kerberos Tickets ermöglichen ihnen, authentifiziert zu bleiben — ein kritisches Sicherheitsrisiko.