## archiv ki-pentesting - seite 4 von 19
Alle Artikel des Ressorts, neueste zuerst. Zur Ressort-Seite KI-Pentesting
SECURITYWalmarts Trusted-Agent-Ansatz: Purple Teaming für bessere Security
Walmart bringt Red und Blue Teams unter einem Dach zusammen. Durch Purple Teaming und gegenseitiges Vertrauen entsteht ein neuer Standard für Cybersecurity-Zusammenarbeit.
SECURITYStille Angreifer gewinnen: Warum Enterprise-Defenses an der Edge stark, im Inneren schwach sind
Enterprise-Sicherheitssysteme sind auf laute Angriffe optimiert. Die neueste Picus-Studie zeigt: Stille, subtile Attacken durchbrechen die Defenses im Inneren der Netzwerke mühelos.
SECURITYAPI-Lücke: Schwächere KI-Modelle dekodieren Reasoning von Stärkeren
Sicherheitsforscher haben eine Schwachstelle in den Reasoning APIs von OpenAI, Anthropic und Google entdeckt. Schwächere Modelle können damit interne Reasoning-Prozesse und sensible Daten wie API-Keys aus Session-Logs auslesen.
SECURITYClaude Mythos 5: Anthropics Dual-Use-Modell für Cybersecurity-Profis
Claude Mythos 5 ist Anthropics leistungsstärkstes Modell mit gelockerten Cyber-Safeguards – exklusiv für geprüfte Security-Partner. Was das für Pentester und die Dual-Use-Debatte bedeutet.
SECURITYAdversarial Attacks auf Vision Transformers: Wenn KI-Optimierungen zur Schwachstelle werden
Vision Transformers nutzen Input-adaptive Techniken wie Token Pruning für Effizienz. Eine neue Studie zeigt, wie gezielte adversarial Attacks diese Optimierungen sabotieren und die Rechenleistung massiv erhöhen – ohne die Genauigkeit zu beeinträchtigen.
SECURITYKI-generierte Sicherheits-Patches: 75% funktionieren nicht richtig
Eine Studie von 1Password zeigt: Frontier-Modelle erzeugen Patches, die gut aussehen, aber nur in 25% der Fälle tatsächlich funktionieren. Selbst bestandene Tests täuschen Sicherheit vor – die Fehler sind subtil und gefährlich.
SECURITYKI-Pentesting — Der komplette Einstieg 2026
Pentesting mit KI-Unterstützung, von Recon bis Report, rechtssicher im eigenen Lab. Dieser Leitfaden zeigt dir, wo KI echte Hebel bringt, welche Tools du brauchst, und wie du in Bug Bounty, CTFs und LLM-Security einsteigst — ohne Bullshit, mit Code.
SECURITYOWASP Top 10 für LLMs: Pentesting-Checkliste deutsch
Die OWASP Top 10 für LLM Applications 2025 als Pentesting-Checkliste — konkrete Testmethoden, Tools und Code-Snippets für jedes der 10 kritischen Risiken. Von Prompt Injection bis Unbounded Consumption.
SECURITYPrompt Injection Tutorial: Von harmlosem Jailbreak bis System-Prompt-Leak (Hands-on im eigenen Lab)
Theorie ist gut, Praxis ist besser. Wir bauen eine absichtlich verwundbare LLM-App im eigenen Lab und führen drei Klassen von Prompt-Injection-Angriffen live aus: direkte Injection (Jailbreak), indirekte Injection über Tool-Output (Data Exfiltration), und System-Prompt-Leak. Mit funktionierendem Python-Code und Schritt-für-Schritt-Anleitung — für Pentester, Entwickler und alle die verstehen wollen was in ihren LLM-Apps wirklich passiert.
SECURITYFrontier AI in kritischen Infrastrukturen: Neue Sicherheitsrisiken auf Systemebene
Eine neue Systematisierung zeigt, wie Frontier AI die Sicherheitsdynamiken kritischer Infrastrukturen grundlegend verändert. Das SoK-Framework identifiziert fünf Dimensionen: Capability Emergence, Infiltration Pathways, Cross-System Propagation, Control Authority und Response Capacity.
SECURITYMCP-Server-Sicherheit: Die OWASP-Top-10-Checkliste für dein Agent-Setup
Jeder installiert MCP-Server per Copy-Paste-Befehl, kaum jemand prüft sie. Die offizielle OWASP-MCP-Top-10 (2025) in zehn selbst testbaren Checkpunkten — von Tool Poisoning über Rug Pulls bis Shadow-Server. Mit Pass-Kriterium für jeden Punkt.
SECURITYDevice Code Phishing: Das schnellste wachsende OAuth-Sicherheitsrisiko 2026
Device Code Phishing exploitet die OAuth 2.0 Device Authorization Flow und ist innerhalb von sechs Monaten von einer Red-Team-Technik zur industriellen Bedrohung geworden. Die Angriffsmethode zielt auf Eingabe-limitierte Geräte ab und wird zunehmend für großflächige Angriffe missbraucht.
SECURITYDeutsche KI-Security-Community 2026: Worauf es ankommt — Austausch, Projekte und KI-Pentesting
Welche deutsche Community passt zu KI-Security, Prompt Injection und KI-Pentesting? Ein praxisnaher Vergleich der wichtigsten Kriterien und ein transparenter Blick auf den FlowKI Club (Eigenangebot, kein neutraler Test).
SECURITYGranite: Modulare Verifikation von Hardware-Software Sicherheitsverträgen
Granite ist eine Verifikationsmethodik, die beweist, dass Timing-Seitenkanäle in RISC-Prozessoren nur durch ISA-Leakage-Verträge definierte Observables entstehen. Für kryptographische Constant-Time-Programme wird damit Information Leakage ausgeschlossen.
SECURITYOpen Security Benchmark: Authentische Test-Umgebungen für KI-Agenten in der Cyber Defense
Ein neues Framework bewertet KI-Agenten in der Enterprise-Cybersecurity. Open Security Benchmark schließt die Lücke zwischen Labortests und realen Unternehmensumgebungen durch gefrorene Sicherheitszustände und standardisierte Evaluationen.
SECURITYFAVA: Formale Autorisierung für verifizierte Agenten
FAVA ist ein Framework zur kontextabhängigen Autorisierung von LLM-Agenten. Durch Permission Graphs und SMT-Solver werden Datenflüsse formal verifiziert, bevor Agenten Aktionen ausführen—mit 90,5% Genauigkeit in Tests.
SECURITYNordkorea-Malware auf macOS: Fake-Updates stehlen Kryptowährungen
Nordkoreanische Hacker setzen auf Malvertising, um macOS-Nutzer mit gefälschten System-Updates zu täuschen. Die Malware zielt auf Kryptowährungen ab und ist Teil der laufenden Contagious-Interview-Kampagne.
SECURITYAI-Harness: Sicherheitsrisiken durch fehlende Komponenten-Verträulichkeit
AI-Systeme bestehen aus vielen Software-Komponenten, deren mangelnde Vertrauensbeziehungen neue Angriffsvektoren schaffen. Sicherheitsforscher warnen vor Exploitierbarkeit in typischen AI-Harness-Architekturen.
SECURITYAzure Cosmos DB: Kritische Lücke hätte Zugriff auf alle Datenbanken ermöglicht
Eine Sicherheitslücke in Azure Cosmos DB ermöglichte es Angreifern, die Gremlin-Sandbox zu verlassen und auf alle Kundendatenbanken zuzugreifen. Microsoft hat die Schwachstelle mittlerweile gepatcht.
SECURITYBurp AT: PortSwigger bringt agentic AI zum Penetration Testing
PortSwigger hat Burp AT in Public Beta vorgestellt – ein KI-Agent-System für Burp Suite, das automatisierte Sicherheitstests unter Kontrolle des Testers durchführt und Scope sowie Genehmigungen enforced.
SECURITYClaude findet Sicherheitslücke in Post-Quanten-Krypto-Algorithmus
Anthropic hat Claude eingesetzt, um Kryptoalgorithmen auf Schwachstellen zu prüfen. Die KI entdeckte eine Lücke in einem Post-Quanten-Krypto-Kandidaten – ein Hinweis auf das Potenzial von LLMs in der Sicherheitsforschung.
SECURITYOpenAIs KI-Agent: Mehr als nur Hugging Face kompromittiert
OpenAIs KI-Agenten griffen in Sicherheitstests nicht nur Hugging Face an. Das Unternehmen klärt nun auf, welche weiteren Systeme betroffen waren und was tatsächlich geschah.
SECURITYCisco FMC Zero-Day: Statische Credentials gefährden Infrastruktur
Eine neue Sicherheitslücke in Cisco Secure Firewall Management Center wird aktiv ausgenutzt. Die CISA hat CVE-2026-20316 in ihren Katalog bekannter Exploits aufgenommen. Statische Anmeldedaten ermöglichen unauthentifizierten Zugriff auf sensitive Daten.
SECURITYLilith: Wenn Backdoor-Attacken die Trainingsziele verlassen
Forscher zeigen, wie Backdoor-Attacken in ML-Modellen von einem Trainings-Trigger auf völlig andere Inference-Trigger verallgemeinern können. Das Lilith-Framework demonstriert ein erhebliches Sicherheitsrisiko, das bisherige Evaluationen übersehen haben.