Mobile-Menu

Cisco-Report KI-Modelle anfällig für realistische Multi-Turn-Angriffe

Von Cisco 1 min Lesedauer

Anbieter zum Thema

Cisco Systems GmbH (Switzerland)

Ein Cisco-Report zeigt: KI-Modelle sind bei mehrstufigen Angriffen deutlich anfälliger als in Standardtests. Adaptive Attacken erhöhen das Risiko massiv, was herkömmliche Benchmarks kaum erfassen.

Vergleich der Erfolgsraten von Single-Turn- und Multi-Turn-Angriffen (ASR) nach KI-Modell.(Bild: Cisco)
Vergleich der Erfolgsraten von Single-Turn- und Multi-Turn-Angriffen (ASR) nach KI-Modell.
(Bild: Cisco)

Viele KI-Modelle schneiden in kontrollierten Sicherheitstests gut ab, versagen aber unter den Bedingungen echter Angriffe. Ein aktueller Cisco-Report zeigt: häufig genutzte KI-Modelle sind nur unzureichend vor mehrstufigen Angriffen geschützt. Die Erfolgsraten solcher Multi-Turn-Attacken (ASR, Attack Success Rates) liegen bei allen 15 getesteten Modellen zwischen 7,89 % und 88,30 %. Dies gilt auch für Modelle, die in Standard-Benchmarks mit einstufigen Angriffen als sicher erscheinen. Sie zeigen zum Teil eine 4- bis 9-mal höhere Anfälligkeit, wenn Angreifer ihre Vorgehensweise anpassen können.

Zum Beispiel gilt GPT-5.4 bei einfachen Angriffen mit einer ASR von 2,74 % als vergleichsweise sicher, versagt jedoch bei mehrstufigen Angriffen in fast 25 % der Fälle. Andererseits sinkt etwa bei «Grok 4.1 Fast» die Anfälligkeit allein durch die Aktivierung des «Reasoning Mode» von 88,30 % auf 43,47 %. Dieser Unterschied wird von keinem öffentlichen Benchmark erfasst. Nur Nova-Versionen sind vor Multi-Turn-Angriffen sogar besser geschützt als vor Single-Turn-Attacken.

Im Rahmen der Untersuchung wurden Angriffstechniken an 15 führenden grossen Sprachmodellen von OpenAI, Anthropic, Google, Amazon und xAI getestet. Ziel war es zu prüfen, wie sich deren integrierte Sicherheitsvorkehrungen bei realitätsnahen mehrstufigen Angriffen bewähren. Während die meisten KI-Security-Benchmarks auf Tests mit einer einzigen Eingabeaufforderung basieren, passen Angreifer ihre Vorgehensweise in der Praxis iterativ an und nutzen mehrere aufeinanderfolgende Eingaben, um Sicherheitsvorkehrungen zu umgehen. Die Forschungsergebnisse fliessen in das «LLM Security Leaderboard» von Cisco ein, das regelmässig die Sicherheit führender KI-Modelle gegenüber ein- und mehrstufigen Angriffen bewertet.

(ID:50899201)

Jetzt Newsletter abonnieren

Verpassen Sie nicht unsere besten Inhalte

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte