Studie: Etiketter påverkar språkmodellers tolkning av kontext
En ny studie visar att etiketter som "Referens:" eller "Instruktion:" markant påverkar hur stora språkmodeller tolkar och använder kontext, med upp till 84 procents förändring i antagande av felaktig information.
Vad har hänt
Forskare från arXiv har undersökt hur olika etiketter för inmatad kontext, såsom "Referens:", "Bevis:", "Instruktion:", "Notera:" eller "Exempel:", påverkar språkmodellers beteende. Studien använde över 500 MMLU-Pro-objekt, där samma vilseledande information presenterades med olika etiketter. Effekten mättes genom att observera hur ofta modellerna antog det felaktiga alternativ som injicerats.
Snabbfakta
| Publiceringsdatum | 4 juni 2026 |
|---|---|
| Påverkade modeller | GPT-5.5, DeepSeek V4 Pro, Llama-3-8B-Instruct, Qwen2.5-7B-Instruct |
| Förändring i antagande | 56-84 procentenheter |
”Context-augmented language model systems often wrap supplied content with labels such as Reference:, Evidence:, Instruction:, Note:, or Example:, but the effect of these labels on reader-model behavior remains underexplored.”
”Across GPT-5.5, DeepSeek V4 Pro, Llama-3-8B-Instruct, and Qwen2.5-7B-Instruct, Misleading Adoption Rate shifts by 56-84 percentage points.”
”Binding or source-like labels such as Instruction: and Reference: produce high adoption, whereas Example: consistently suppresses it.”
Varför det spelar roll
Resultaten indikerar att etiketter spelar en avgörande roll för hur språkmodeller prioriterar och tillämpar information. Etiketter som "Instruktion:" och "Referens:" leder till högt antagande av den presenterade informationen, även om den är felaktig. Detta har betydande implikationer för design av AI-system och säkerhet vid interaktion med språkmodeller, särskilt i tillämpningar där korrekt informationshantering är kritisk.
Vem påverkas
Studien påverkar utvecklare som designar prompt-strukturer för språkmodeller, forskare som arbetar med AI-säkerhet och företag som implementerar LLM:er i sina produkter. Användare av AI-system kan indirekt påverkas då modellernas tillförlitlighet kan variera beroende på hur kontext presenteras.
EU-status
Ej relevant för EU-status.
Mer att veta
Studien inkluderade modeller som GPT-5.5, DeepSeek V4 Pro, Llama-3-8B-Instruct och Qwen2.5-7B-Instruct. Forskarna använde parvisa tester, bootstrap-intervall och ablationsstudier för att stärka sina slutsatser om den label-beroende kandidatpreferensen.
Snabba svar om den här nyheten
Vad har hänt?
När hände det?
Varför spelar det roll?
Vilka typer av etiketter påverkar mest?
Länken öppnar i nytt fönster och leder till utgivarens egen sida.
Källan har spårats automatiskt från utgivaren via Aheadlines signalkedja.