Studie: LLM:s konformitet stor även utan påverkande talare
En ny studie visar att stora språkmodeller (LLM:s) ändrar korrekta svar baserat på upprepade felaktiga svar, även om ingen talare presenteras.
Vad har hänt
Forskare från arXiv har publicerat en studie den 5 juli 2206 som undersöker stora språkmodellers (LLM:s) tendens till konformitet. Studien, "Most LLM Conformity Needs No Speaker: Measuring the Speaker-Free Floor in Peer-Pressure Benchmarks", visar att "konformitet" – där en LLM ändrar ett korrekt svar till förmån för ett felaktigt – till stor del uppstår även när ingen specifik talare anges för det felaktiga svaret.
Snabbfakta
”We show that most of this apparent conformity survives even after the peer is removed. The reason is a confound: standard conformity prompts mix two cues at once, the presence of a speaker and the repeated wrong answer itself.”
”Across six open-weight LLMs and seven QA and reasoning datasets, this condition alone causes harmful revision in 66.5% of initially correct cases, compared with 10.3% under a plain re-ask.”
Varför det spelar roll
Tidigare studier har blandat effekterna av en talare och den upprepade felaktiga informationen. Denna forskning isolerar effekten av den upprepade felaktiga informationen. Detta indikerar att LLM:s är känsliga för yttre stimuli, även i avsaknad av en klar social påtryckning, vilket fördjupar förståelsen för hur modeller bearbetar och reviderar information.
Vem påverkas
Studien påverkar i första hand utvecklare och forskare inom AI-området som designar och utvärderar LLM:s. Resultaten är relevanta för de som arbetar med att minimera bias och förbättra tillförlitligheten hos AI-system, samt för slutanvändare som förlitar sig på dessa system för korrekt informationsbehandling.
EU-status
Ej relevant för EU-status.
Mer att veta
Effekten kvarstår även när det upprepade svaret parafraseras eller när svarsalternativ döljs i en öppen kontext. Ramverket för hur källan presenteras påverkar endast marginellt denna grundläggande konformitet.
Snabba svar om den här nyheten
Vad har hänt?
När hände det?
Varför spelar det roll?
Vilka LLM:s berörs?
Länken öppnar i nytt fönster och leder till utgivarens egen sida.
Källan har spårats automatiskt från utgivaren via Aheadlines signalkedja.