Ny "one word at a time"-attackmetod äventyrar LLM-säkerhet
Forskare har introducerat Incremental Completion Decomposition (ICD), en ny teknik som kringgår säkerhetsmekanismer i stora språkmodeller genom att be om enstaka ord i taget.
Vad har hänt
En ny forskningsstudie från arXiv, daterad 23 april 2026, beskriver en attackmetod kallad Incremental Completion Decomposition (ICD). Denna metod utnyttjar en sekvens av enordsfortsättningar relaterade till en skadlig förfrågan för att undvika att språkmodeller vägrar att svara. Efter att enstaka ord framkallats, begärs hela svaret i ett senare skede.
Snabbfakta
| Publikationsdatum | 23 april 2026 |
|---|---|
| Attackmetod | Incremental Completion Decomposition (ICD) |
| Testade benchmarks | AdvBench, JailbreakBench, StrongREJECT |
| Utmaning | LLM-säkerhet och innehållsfiltrering |
”Large Language Models (LLMs) are trained to refuse harmful requests, yet they remain vulnerable to jailbreak attacks that exploit weaknesses in conversational safety mechanisms.”
”We introduce Incremental Completion Decomposition (ICD), a trajectory-based jailbreak strategy that elicits a sequence of single-word continuations related to a malicious request before eliciting the full response.”
”We systematically evaluate these variants across a broad set of model families, demonstrating superior Attack Success Rate (ASR) on AdvBench, JailbreakBench, and StrongREJECT compared to existing methods.”
Varför det spelar roll
ICD-metoden bevisar att nuvarande säkerhetsåtgärder i LLM:er, som är utformade för att blockera skadliga förfrågningar, kan kringgås systematiskt. Attackens framgång beror på att modellen undertrycker sin vägran genom att behandla förfrågningarna stegvis, vilket ökar angreppsframgångsgraden (ASR) jämfört med befintliga metoder. Detta har breda implikationer för hur språkmodellers integritet och säkerhet utformas och implementeras.
Vem påverkas
Denna sårbarhet påverkar utvecklare som bygger och underhåller stora språkmodeller, liksom företag och organisationer som använder dessa modeller i sina tjänster. Användare som interagerar med AI-assistenter kan också exponeras för potentiellt skadligt innehåll om modellerna inte stärks. Framför allt påverkas aktörer som arbetar med AI-etik och säkerhetsforskning intensivt av denna utveckling.
EU-status
Ej relevant för EU-status.
Mer att veta
Forskningen demonstrerar metodens effektivitet på vedertagna benchmarks som AdvBench, JailbreakBench och StrongREJECT. Studien innehåller också en teoretisk förklaring till varför ICD är effektiv och mekaniska bevis för att framgångsrika attackförlopp systematiskt undertrycker modellens vägran till svar.
Snabba svar om den här nyheten
Vad har hänt?
När hände det?
Varför spelar det roll?
Vilka bolag berörs?
Länken öppnar i nytt fönster och leder till utgivarens egen sida.
Källan har spårats automatiskt från utgivaren via Aheadlines signalkedja.