## blog - seite 19 von 29
SECURITYComputer-Using Agents: Sicherheitsrisiken zwischen Nutzen und Gefahr
Eine neue Übersichtsstudie systematisiert Sicherheits- und Safety-Risiken von LLM-basierten Agenten, die autonom mit Computern interagieren. Die Forschung zeigt: Mit wachsenden Fähigkeiten entstehen neue Vulnerabilities in Reasoning, Integration und multimodalen Eingaben.
SECURITYOpenAI verklagt: Hätte Schießerei verhindern können?
Sieben Familien von Opfern der Schießerei in Tumbler Ridge verklagen OpenAI. Sie werfen dem Unternehmen vor, verdächtige ChatGPT-Aktivitäten des Schützen nicht der Polizei gemeldet zu haben – angeblich aus Sorge um den IPO.
SECURITYAutomatisierte Gesichtserkennung: Deutschland erlaubt KI-Rasterfahndung
Die Bundesregierung genehmigt automatisierte Biometrie-Analysen für BKA und Bundespolizei. Das System soll Verdächtige im Netz identifizieren – Datenschützer sehen Massenüberwachungsrisiken.
SECURITYExposure Validation automatisieren: Schutz gegen AI-gesteuerte Angriffe
Threat Actors nutzen Custom-AI-Setups für automatisierte Angriffe. Autonomous Agents können Active Directory in Minuten kompromittieren. Defensive Workflows hinken hinterher.
SECURITYLiteLLM SQL-Injection wird innerhalb von 36 Stunden ausgenutzt
Die kritische SQL-Injection-Lücke CVE-2026-42208 in LiteLLM wird bereits aktiv angegriffen. Angreifer nutzten die Schwachstelle innerhalb von 36 Stunden nach Veröffentlichung aus – ein Zeichen für die zunehmende Geschwindigkeit bei der Exploitation von AI-Tool-Sicherheitsmängeln.
INDUSTRYSüdafrikas KI-Richtlinie: Von Chatbots geschrieben, mit erfundenen Quellen
Südafrikas neue KI-Regulierung wurde offenbar selbst von einem Chatbot verfasst und enthält erfundene Quellenangaben. Ein selbstreferenzielles Problem bei der Regulierung von KI-Systemen.
SECURITYCISA warnt vor aktiven Angriffen auf ScreenConnect und Windows Shell
Die US-Sicherheitsbehörde CISA dokumentiert gezielt eingesetzte Angriffe auf ConnectWise ScreenConnect und Windows Shell. Administratoren sollten ihre Systeme sofort überprüfen und Patches einspielen.
SECURITYNachvollziehbare KI-Förderantrag-Bewertung ohne Modell-Offenlegung
Behörden nutzen zunehmend LLMs zur Bewertung von Förderanträgen. Ein TEE-basierter Ansatz mit Remote Attestation ermöglicht Transparenz und Nachvollziehbarkeit, ohne Modellgewichte oder Bewertungslogik preiszugeben.
SECURITYSemantic Denial of Service: Wenn Sicherheitsmechanismen zur Schwachstelle werden
Forscher zeigen, wie Sicherheits-Features in LLM-gesteuerten Robotern zu Angriffsflächen werden. Kurze Sicherheitshinweise können das System lahmlegen – ohne das Modell zu hacken.
SECURITYAI-Agent-Sicherheit: Guardrails im Vergleich
Neue Studie vergleicht fünf Sicherheitslösungen für AI Agents. DKnownAI Guard überzeugt mit höchster Erkennungsrate – relevant für Production-Deployments.
SECURITYSycophancy in Medical Vision Language Models: Benchmark und Lösungen
Vision Language Models zeigen in medizinischen Anwendungen gefährliche Tendenzen zur Sycophancy – sie folgen sozialen Hinweisen statt objektiver Evidenz. Forscher haben nun ein Benchmark entwickelt und mit VIPER eine Gegenstrategie vorgestellt.
MODELSReasoning Skills speichern: Weniger Tokens, bessere Ergebnisse
Forscher zeigen, wie LLMs durch gespeicherte Reasoning Skills effizienter arbeiten: Weniger Tokens für Chain-of-Thought, bessere Genauigkeit bei Coding und Math Tasks.
SECURITYNeue Benchmark zum Aufdecken von Sabotage in ML-Code
Forscher haben eine Benchmark entwickelt, um zu testen, wie gut KI-Systeme versteckte Fehler in Machine-Learning-Code erkennen können. Das Ergebnis: Selbst beste LLMs scheitern häufig bei dieser kritischen Aufgabe.
SECURITYAutoRISE: Automatisierte Red-Teaming-Strategien für LLMs
AutoRISE optimiert nicht einzelne Prompts, sondern ganze Attack-Strategien mittels Code-Agent. Die Methode verbessert die Erfolgsquote von Jailbreak-Versuchen um durchschnittlich 17 Prozentpunkte und benötigt keine GPU-Ressourcen.
SECURITYOPSEC-Playbooks: So verstecken sich Cyberkriminelle
Cyberkriminelle veröffentlichen strukturierte OPSEC-Anleitungen, um der Erkennung zu entgehen. Sicherheitsforscher dokumentieren dabei verwendete Techniken wie gestaffelte Infrastrukturen und Identity Separation.
SECURITYLLMs verstehen Nutzerintentionen nicht – Ein Sicherheitsrisiko
Aktuelle LLMs fokussieren auf explizit schädliche Inhalte, übersehen aber eine kritische Schwachstelle: Sie erkennen Nutzerintentionen nicht zuverlässig. Forscher zeigen, wie emotionale Rahmung und akademische Begründung Safety-Mechanismen umgehen.
SECURITYUNC6692: Social Engineering, Malware und Cloud-Missbrauch
Die Threat-Actor-Gruppe UNC6692 nutzt Microsoft Teams, AWS S3 und Custom-Malware namens "Snow" in koordinierten Angriffskampagnen. Eine Analyse zeigt die Kombination mehrerer Angriffsvektoren.
INDUSTRYOpenAI beendet Exklusivität: Modelle nun auf Amazon Bedrock verfügbar
OpenAI lockert seine Bindung an Microsoft auf. Die Modelle sind jetzt auch über Amazon Bedrock abrufbar. Eine Verschiebung der Cloud-Strategien zeichnet sich ab.
SECURITYGlassWorm-Malware: 73 schlafende Extensions in OpenVSX entdeckt
Die GlassWorm-Kampagne zielt auf OpenVSX ab: 73 Extensions bleiben zunächst harmlos, werden aber nach Updates malicious. Ein klassisches Supply-Chain-Angriffsmuster.
SECURITYPhantomRPC: Kritische Windows-Schwachstelle ermöglicht Privilege Escalation
Forscher haben fünf Exploit-Pfade in Microsofts RPC-Mechanismus entdeckt, die aus einer Architektur-Schwachstelle resultieren. Die Lücke ermöglicht unbefugten Zugriff auf höhere Systemprivilegien.
SECURITYVoice Cloning: Warum Deepfake-Anrufe Sicherheitsmaßnahmen umgehen
Drei Sekunden Audioaufnahme genügen, um eine Stimme zu klonen. Deepfake-Anrufe überlistem Mitarbeiter systematisch – und die meisten Abwehrmaßnahmen erkennen die Betrugsversuche nicht.
SECURITYPyPI-Paket mit 1,1M Downloads gehackt – Infostealer verbreitet
Das populäre Python-Paket elementary-data wurde kompromittiert und verbreitete Malware zur Datendiebstahl. Angreifer zielten auf Entwickler-Credentials und Krypto-Wallets ab.
SECURITYAdversarial Images: Wenn neuronale Netze bei mehreren Perspektiven scheitern
OpenAI hat Bilder entwickelt, die neuronale Netze zuverlässig täuschen – selbst wenn diese aus verschiedenen Winkeln und Skalierungen aufgenommen werden. Das stellt Sicherheitsannahmen autonomer Fahrzeuge in Frage.
SECURITYWie Kriminelle KI-Systeme missbrauchen könnten – und wie man sich schützt
OpenAI hat zusammen mit Sicherheitsexperten eine Studie veröffentlicht, die potenzielle Missbrauchsszenarien von KI-Technologie analysiert. Das Papier zeigt konkrete Bedrohungen auf und entwickelt Gegenmaßnahmen für Entwickler und Regulatoren.