Ökad tankeverksamhet kan förstärka positionsbias i AI-modeller
En ny analys, publicerad på arXiv, visar att mer komplexa resonemangsvägar i AI-modeller kan leda till ökad positionsbias i flervalsfrågor.
Vad har hänt
Forskning publicerad på arXiv den 22 maj 2026, med titeln "More Thinking, More Bias: Length-Driven Position Bias in Reasoning Models", undersöker hur kedjor av tankar (Chain-of-Thought, CoT) och resonemangsförbättrade modeller påverkar positionsbias. Studien visar att inom resonemangsdugliga modeller skalar positionsbias per fråga med längden på resonemangsbanan. Detta observerades i tretton olika konfigurationer av resonemangslägen, inklusive modeller som DeepSeek-R1, testade på dataset som MMLU och ARC-Challenge.
Snabbfakta
| Publikationsdatum | 22 maj 2026 |
|---|---|
| Antal modellkonfigurationer testade | 13 |
| Korrelation mellan resonemangslängd och bias (PBS) | 0.11 till 0.41 |
| Testade dataset | MMLU, ARC-Challenge, GPQA |
”within any reasoning-capable model, per-question position bias scales with the length of the reasoning trajectory.”
Varför det spelar roll
Traditionellt har det antagits att modeller som använder CoT resonemang minskar ytliga heuristiska fördomar genom mer noggrant tänkande. Denna studie presenterar en annan bild genom att påvisa att ökad tankeverksamhet, mätt som längden på resonemangsbanan, faktiskt korrelerar positivt med positionsbias. Detta antyder att de mekanismer som leder till mer komplexa resonemang också kan intensifiera befintliga skevheter relaterade till svarsalternativens placering.
Vem påverkas
Resultaten påverkar AI-forskare och utvecklare som arbetar med att förbättra noggrannheten och rättvisan i stora språkmodeller (LLM:er). Företag som använder eller utvecklar modeller för beslutsstöd eller automatiserade frågesystem berörs, då positionsbias kan leda till felaktiga eller opålitliga resultat. Användare av AI-system som förlitar sig på dessa modeller kan indirekt påverkas av potentiellt skev informationspresentering.
EU-status
Ej relevant för EU-status.
Mer att veta
Studien testade tretton resonemangs-mode-konfigurationer, inklusive två R1-destillerade 7-8B-modeller, två basmodeller med CoT och DeepSeek-R1 på 671B parametrar. Majoriteten av dessa visade en positiv partiell korrelation mellan resonemangsbanans längd och Position Bias Score (PBS), med p-värden under 0.05. En trunkeringsintervention gav kausala bevis som stödjer resultaten.
Snabba svar om den här nyheten
Vad har hänt?
När hände det?
Varför spelar det roll?
Vilka bolag berörs?
Länken öppnar i nytt fönster och leder till utgivarens egen sida.
Källan har spårats automatiskt från utgivaren via Aheadlines signalkedja.