Globala narrativ dominerar i stora språkmodeller, marginaliserar lokal kunskap

Vad har hänt

Forskare har undersökt hur stora språkmodeller (LLM) hanterar kulturellt förankrade frågor och fann att svaren ofta reflekterar globalt dominerande narrativ snarare än lokala kontexter. Detta studerades som "global narrativ dominans" i Bangla, en lågresurskulturell kontext. En dataset benämnd CulturalNB, bestående av 717 manuellt utvalda bengaliska kulturella instanser med parallella Bangla-engelska fråge-svar-par, skapades för att utvärdera nio toppmoderna LLM:er.

Varför det spelar roll

Fenomenet "global narrativ dominans" innebär att LLM:er, trots att de används som gränssnitt för tvärspråklig kunskap, systematiskt tenderar att ersätta lokal kunskap med globala perspektiv. Detta har konsekvenser för informationsspridning och kulturell representation i den digitala sfären. Studien belyser en brist i dagens AI-modeller gällande kulturspecifik förståelse.

Vem påverkas

Detta påverkar utvecklare av stora språkmodeller som behöver adressera bias och förbättra modellernas förmåga att hantera kulturspecifik kunskap. Användare av LLM:er, särskilt i icke-engelskspråkiga kulturer, påverkas då information de får kan vara vinklad mot globala perspektiv snarare än lokala. Forskare inom NLP och AI får ny insikt i modellernas begränsningar.

EU-status

Ej relevant för EU-status.

Mer att veta

Studien använde sig av både mänskliga bedömare och två oberoende LLM-domare för att utvärdera modellernas prestanda över olika mätvärden, inklusive tvärspråklig konsekvens, språklig förankring och institutionell bias.