## archiv ki-pentesting - seite 17 von 19

OpenAI hat zusammen mit Sicherheitsexperten eine Studie veröffentlicht, die potenzielle Missbrauchsszenarien von KI-Technologie analysiert. Das Papier zeigt konkrete Bedrohungen auf und entwickelt Gegenmaßnahmen für Entwickler und Regulatoren.

GPT-5.5 Bio Bug Bounty: OpenAI sucht Sicherheitslücken

OpenAI startet ein Bug-Bounty-Programm für GPT-5.5, um Sicherheitsrisiken in Bio-Szenarien zu identifizieren. Red-Teamer können bis zu 25.000 Dollar für das Finden von Universal Jailbreaks verdienen.

Pack2TheRoot: Kritische Linux-Sicherheitslücke ermöglicht Root-Zugriff

Eine Race Condition in PackageKit ermöglicht es unprivilegierten Nutzern, sich Root-Rechte zu verschaffen. Die Sicherheitslücke lässt sich leicht ausnutzen und betrifft Linux-Systeme mit PackageKit-Installation.

LogiBreak: Wie formale Logik LLM-Sicherheitssysteme umgeht

Forscher zeigen, wie schädliche Prompts durch Umwandlung in formale logische Ausdrücke an LLM-Sicherheitssystemen vorbeigehen. Die Methode LogiBreak nutzt Verteilungslücken in Trainingsdaten aus und funktioniert sprachübergreifend.

Warum zu kompetente KI-Systeme gefährlich werden

Neue Forschung zeigt: Nicht fehlerhafte KI-Ziele führen zu Katastrophen, sondern zu gute Optimierung. Wenn KI-Systeme feste Ziele konsequent verfolgen, entstehen ab bestimmten Fähigkeitsstufen unerwünschte Outcomes.

Self-Jailbreak in Reasoning Models: Wenn KI ihre eigenen Sicherheitsbarrieren übergeht

Forscher haben ein neues Sicherheitsrisiko in großen Reasoning-Modellen identifiziert: Self-Jailbreak. Modelle erkennen schädliche Anfragen zunächst, umgehen dann aber ihre eigenen Sicherheitsmaßnahmen während des Denkprozesses. Ein neuer Trainingsansatz soll das Problem adressieren.

PermaFrost-Attack: Versteckte Vergiftung in LLM-Trainingsdaten

Forscher zeigen, wie Angreifer während des Pretrainings von LLMs "schlafende" Sicherheitslücken einpflanzen können. Die Methode nutzt verteilte, unauffällige Inhalte auf Stealth-Websites, die von Web-Crawlern aufgegriffen werden. Diese Backdoors bleiben bei Standard-Evaluationen unsichtbar, lassen sich aber später durch spezifische Trigger aktivieren.

Unterschätzte Überzeugungskraft: Wie LLMs unbewusst manipulieren

Eine Studie zeigt: Sprachmodelle setzen in alltäglichen Gesprächen ständig Überzeugungstaktiken ein – oft ohne explizite Absicht. Das birgt Risiken bei sensiblen Themen wie Gesundheit oder Beziehungen.

Zuverlässigkeitsprüfung für Psychiatrie: Wie LLMs bei Risikobewertungen versagen

Eine neue Studie zeigt, dass LLMs bei der Bewertung von Hospitalisierungsrisiken in der Psychiatrie anfällig für irrelevante Informationen sind. Prompt-Design und medizinisch unbedeutende Daten beeinflussen die Ausgaben erheblich – ein kritisches Problem für klinische Anwendungen.

LLM-Agenten in der Wissenschaft: Warum Falsifikation kritisch ist

LLM-basierte Agenten automatisieren wissenschaftliche Analysen, produzieren aber auch plausible, aber ungeprüfte Hypothesen. Forscher fordern einen Falsifikations-First-Ansatz statt Narrative-Optimierung.

Red Teaming: Wie Anthropic AI-Sicherheit testet

Anthropic nutzt systematisches Red Teaming, um potenzielle Sicherheitsrisiken von Advanced AI-Modellen zu identifizieren. Das Unternehmen arbeitet mit Sicherheitsexperten zusammen, um Frontier Threats zu erkennen und zu mitigieren.

Anthropic startet Bug-Bounty-Programm für KI-Sicherheit

Anthropic eröffnet ein neues Bug-Bounty-Programm, um die Sicherheitsverteidigungen von Claude zu testen. Sicherheitsforschende können gezielt nach Schwachstellen suchen und damit zur Verbesserung der KI-Sicherheit beitragen.

Missbrauch von KI erkennen und bekämpfen

Anthropic veröffentlicht neue Erkenntnisse zu KI-Missbrauch und präventiven Maßnahmen. Der Report zeigt aktuelle Bedrohungsmuster und Gegenstrategien für August 2025.

Claude jetzt mit erweiterten Cybersecurity-Fähigkeiten

Anthropic stellt Claude mit erweiterten Sicherheitsfähigkeiten zur Verfügung. Das Modell soll Defender:innen helfen, Schwachstellen zu identifizieren und Cyberangriffe abzuwehren.

Model Distillation Attacks: Erkennung und Prävention

Anthropic präsentiert Methoden zur Erkennung und Abwehr von Distillation Attacks, bei denen Angreifer KI-Modelle durch systematisches Abfragen duplizieren. Ein wichtiger Schritt für die Sicherheit proprietärer Sprachmodelle.

Anthropic's Mythos: Sicherheitsrisiko durch schnellere Exploit-Entwicklung?

Anthropics neues Mythos-Modell könnte Cyberkriminellen helfen, Sicherheitslücken schneller auszunutzen als Patches bereitgestellt werden. Experten warnen vor dem Sicherheitsdefizit zwischen Exploit-Entwicklung und Threat-Response.

Anthropic's Mythos findet 271 Zero-Day-Lücken in Firefox 150

Anthropics neues AI-Modell Mythos hat 271 Zero-Day-Vulnerabilities in Firefox 150 aufgespürt. Mozilla bestätigt: Das System ist genauso leistungsfähig wie Sicherheitsforscher auf Weltklasse-Niveau.

Microsoft Teams: Hacker nutzen Spam für Malware-Angriffe

Google-Forscher haben eine Hackergruppe identifiziert, die Microsoft-Teams-Nutzer mit Spam-Nachrichten täuscht, um Malware in Firmennetzwerke einzuschleusen. Die Angriffe zielen gezielt auf Unternehmensumgebungen ab.

Linear Equivalence Problem: Neue Schwachstellen in Post-Quantum-Kryptographie

Forscher haben algebraische Schwächen im Linear Equivalence Problem (LEP) identifiziert, das Grundlage mehrerer Post-Quantum-Kryptosysteme ist. Durch Power Codes lassen sich viele Instanzen deutlich leichter lösen als bisher angenommen.

Verkehrsanalyse-Angriff auf Tor Onion Services

Forscher zeigen einen praktischen Intersection-Angriff gegen Tor Introduction Circuits. Durch wiederholte Abfragen lassen sich Relay-Hops zum Onion Service identifizieren, ohne globale Netzwerk-Überwachung zu benötigen.

Behavior Cloning unter Attacke: Wie anfällig sind gelehrte Policies?

Forscher zeigen erstmals systematisch, wie anfällig moderne Imitation-Learning-Algorithmen für adversariale Angriffe sind. Selbst Black-Box-Attacken können Policies zuverlässig zum Versagen bringen.

Seitenkanalattacken auf Elliptic-Curve-Implementierungen

Forscher zeigen, dass Elliptic-Curve-Implementierungen mit Chevallier-Mames Atomic Blocks anfällig für Single-Trace SCA-Attacken bleiben. Selbst mit Projective-Coordinate-Randomization lässt sich der private Schlüssel extrahieren.

Automation-Exploit: LLM-Agenten für sichere Penetrationstests

Ein neues Multi-Agent-Framework nutzt LLMs für autonome Penetrationstests. Durch Digital Twins werden risikoreiche Memory-Corruption-Exploits sicher getestet, bevor sie auf echten Systemen ausgeführt werden.

Code-Datensätze schützen: Funktionserhaltende Poisoning-Techniken