## blog - seite 24 von 33
MODELLESycophancy in Medical Vision Language Models: Benchmark und Lösungen
Vision Language Models zeigen in medizinischen Anwendungen gefährliche Tendenzen zur Sycophancy – sie folgen sozialen Hinweisen statt objektiver Evidenz. Forscher haben nun ein Benchmark entwickelt und mit VIPER eine Gegenstrategie vorgestellt.
MODELLEReasoning Skills speichern: Weniger Tokens, bessere Ergebnisse
Forscher zeigen, wie LLMs durch gespeicherte Reasoning Skills effizienter arbeiten: Weniger Tokens für Chain-of-Thought, bessere Genauigkeit bei Coding und Math Tasks.
SECURITYNeue Benchmark zum Aufdecken von Sabotage in ML-Code
Forscher haben eine Benchmark entwickelt, um zu testen, wie gut KI-Systeme versteckte Fehler in Machine-Learning-Code erkennen können. Das Ergebnis: Selbst beste LLMs scheitern häufig bei dieser kritischen Aufgabe.
SECURITYAutoRISE: Automatisierte Red-Teaming-Strategien für LLMs
AutoRISE optimiert nicht einzelne Prompts, sondern ganze Attack-Strategien mittels Code-Agent. Die Methode verbessert die Erfolgsquote von Jailbreak-Versuchen um durchschnittlich 17 Prozentpunkte und benötigt keine GPU-Ressourcen.
SECURITYOPSEC-Playbooks: So verstecken sich Cyberkriminelle
Cyberkriminelle veröffentlichen strukturierte OPSEC-Anleitungen, um der Erkennung zu entgehen. Sicherheitsforscher dokumentieren dabei verwendete Techniken wie gestaffelte Infrastrukturen und Identity Separation.
SECURITYLLMs verstehen Nutzerintentionen nicht – Ein Sicherheitsrisiko
Aktuelle LLMs fokussieren auf explizit schädliche Inhalte, übersehen aber eine kritische Schwachstelle: Sie erkennen Nutzerintentionen nicht zuverlässig. Forscher zeigen, wie emotionale Rahmung und akademische Begründung Safety-Mechanismen umgehen.
SECURITYUNC6692: Social Engineering, Malware und Cloud-Missbrauch
Die Threat-Actor-Gruppe UNC6692 nutzt Microsoft Teams, AWS S3 und Custom-Malware namens "Snow" in koordinierten Angriffskampagnen. Eine Analyse zeigt die Kombination mehrerer Angriffsvektoren.
BUSINESSOpenAI beendet Exklusivität: Modelle nun auf Amazon Bedrock verfügbar
OpenAI lockert seine Bindung an Microsoft auf. Die Modelle sind jetzt auch über Amazon Bedrock abrufbar. Eine Verschiebung der Cloud-Strategien zeichnet sich ab.
SECURITYGlassWorm-Malware: 73 schlafende Extensions in OpenVSX entdeckt
Die GlassWorm-Kampagne zielt auf OpenVSX ab: 73 Extensions bleiben zunächst harmlos, werden aber nach Updates malicious. Ein klassisches Supply-Chain-Angriffsmuster.
SECURITYPhantomRPC: Kritische Windows-Schwachstelle ermöglicht Privilege Escalation
Forscher haben fünf Exploit-Pfade in Microsofts RPC-Mechanismus entdeckt, die aus einer Architektur-Schwachstelle resultieren. Die Lücke ermöglicht unbefugten Zugriff auf höhere Systemprivilegien.
SECURITYVoice Cloning: Warum Deepfake-Anrufe Sicherheitsmaßnahmen umgehen
Drei Sekunden Audioaufnahme genügen, um eine Stimme zu klonen. Deepfake-Anrufe überlistem Mitarbeiter systematisch – und die meisten Abwehrmaßnahmen erkennen die Betrugsversuche nicht.
SECURITYPyPI-Paket mit 1,1M Downloads gehackt – Infostealer verbreitet
Das populäre Python-Paket elementary-data wurde kompromittiert und verbreitete Malware zur Datendiebstahl. Angreifer zielten auf Entwickler-Credentials und Krypto-Wallets ab.
SECURITYAdversarial Images: Wenn neuronale Netze bei mehreren Perspektiven scheitern
OpenAI hat Bilder entwickelt, die neuronale Netze zuverlässig täuschen – selbst wenn diese aus verschiedenen Winkeln und Skalierungen aufgenommen werden. Das stellt Sicherheitsannahmen autonomer Fahrzeuge in Frage.
SECURITYWie Kriminelle KI-Systeme missbrauchen könnten – und wie man sich schützt
OpenAI hat zusammen mit Sicherheitsexperten eine Studie veröffentlicht, die potenzielle Missbrauchsszenarien von KI-Technologie analysiert. Das Papier zeigt konkrete Bedrohungen auf und entwickelt Gegenmaßnahmen für Entwickler und Regulatoren.
MODELLEGPT-4o und kostenlose Features: OpenAIs Spring Update
OpenAI stellt GPT-4o vor und erweitert das kostenlose ChatGPT-Angebot. Das neue Modell bietet verbesserte Multimodal-Fähigkeiten und schnellere Verarbeitung.
MODELLEGPT-4o für alle: OpenAI erweitert kostenloses ChatGPT
OpenAI stellt GPT-4o nun auch kostenlosen ChatGPT-Nutzern zur Verfügung. Das neue Flaggschiff-Modell bringt erweiterte Fähigkeiten in die kostenlose Variante und demokratisiert Zugang zu fortgeschrittener KI.
MODELLEGPT-4o mini: Kosteneffiziente KI für größere Einsatzbreite
OpenAI stellt GPT-4o mini vor – ein kompakteres Modell mit besserer Performance bei deutlich niedrigeren Kosten. Ideal für Anwendungen mit hohem Durchsatz und begrenztem Budget.
MODELLEGPT-5.4: OpenAIs neues Flaggschiff für professionelle Arbeit
OpenAI hat GPT-5.4 vorgestellt – ein frontier model mit 1M-token context, erweiterten Coding-Fähigkeiten und Computer-Use-Funktionen. Das Modell soll Effizienz und Leistung für professionelle Anwendungen neu definieren.
BUSINESSWorkspace Agents in ChatGPT: Automatisierung für Teams
OpenAI führt Workspace Agents ein: Cloud-basierte KI-Agenten für ChatGPT, die komplexe Workflows automatisieren und Teams helfen, Tool-übergreifend effizienter zu arbeiten.
CODINGWebSockets in der Responses API: Schnellere Agent-Workflows
OpenAI zeigt, wie WebSockets und Connection-Scoped Caching die Latenz bei Agent-Workflows reduzieren. Ein Blick auf die technische Optimierung des Codex Agent Loop.
SECURITYGPT-5.5 Bio Bug Bounty: OpenAI sucht Sicherheitslücken
OpenAI startet ein Bug-Bounty-Programm für GPT-5.5, um Sicherheitsrisiken in Bio-Szenarien zu identifizieren. Red-Teamer können bis zu 25.000 Dollar für das Finden von Universal Jailbreaks verdienen.
CODINGVLAA-GUI: Wann sollte ein Agent stoppen, neu starten oder suchen?
VLAA-GUI ist ein modulares Framework für GUI-Automation, das drei zentrale Komponenten nutzt, um zu entscheiden, wann ein Agent stoppen, sich von Schleifen befreien oder online suchen sollte. Das System erreicht 77,5% auf OSWorld und übertrifft teilweise menschliche Leistung.
MODELLECAP: Kontrolliertes Vergessen in LLMs ohne Parameteränderung
CAP bietet eine prompt-basierte Methode zum gezielten Löschen von Wissen aus LLMs, ohne das Modell zu verändern. Die Technik nutzt Reinforcement Learning und ermöglicht reversibles Vergessen — besonders relevant für Compliance und geschlossene Modelle.
SECURITYPack2TheRoot: Kritische Linux-Sicherheitslücke ermöglicht Root-Zugriff
Eine Race Condition in PackageKit ermöglicht es unprivilegierten Nutzern, sich Root-Rechte zu verschaffen. Die Sicherheitslücke lässt sich leicht ausnutzen und betrifft Linux-Systeme mit PackageKit-Installation.