CroCo: Kontrastiv preferensjustering över språk förbättrar LLM
En ny forskningsstudie presenterar CroCo, en metod för flerspråkig, kontrastiv preferensjustering av stora språkmodeller som förbättrar prestanda i 14 språk utan språkspecifik annotering.
Vad har hänt
Forskare har utvecklat CroCo (Cross-Lingual Contrastive Preference Tuning on Self-Generations), en metod som applicerar kontrastiv preferensjustering på språkmodeller. Metoden utnyttjar internt genererade svar för att jämföra och optimera modellens prestanda. En belöningsmodell tränad med engelska preferenser har visats ge användbara rankningar inom 14 språk, både med hög- och lågresursstatus. Förbättringar observerades i majoriteten av uppsättningarna, samtidigt som "katastrofal glömska" förhindrades.
Snabbfakta
| Metod | Cross-Lingual Contrastive Preference Tuning (CroCo) |
|---|---|
| Antal språk testade | 14 |
| Typ av språk | Hög- och lågresurs |
| Träning av belöningsmodell | Engelska preferenser |
| Publiceringsdatum | 26 maj 2026 |
”Cross-lingual contrastive preference tuning on self-generations (CroCo) transfers without language-specific preference annotation.”
”A reward model trained on English preferences (atop a multilingual base) produces useful within-language rankings across most languages, and pairing in either a monolingual or multilingual setting improves over each model on the majority of setups while preventing the catastrophi”
”We observe that the gains require on-policy data. Off-policy responses reduce the benefit and online preference optimization fails to i”
Varför det spelar roll
CroCo möjliggör förbättrad prestanda för stora språkmodeller över en bred uppsättning språk utan behov av dyra och tidskrävande språkspecifika preferensdata. Detta är betydande eftersom det minskar barriärerna för att utveckla högkvalitativa flerspråkiga modeller. Metoden bygger på insikten att kontrastiv justering, som tidigare visats vara effektiv på engelska, kan generaliseras till andra språk.
Vem påverkas
Metoden påverkar primärt forskare och utvecklare som arbetar med stora språkmodeller, särskilt de som fokuserar på flerspråkiga tillämpningar. Även företag som utvecklar AI-produkter och tjänster med global räckvidd kan dra nytta av effektivare modellträning. Indirekt kan användare av AI-system uppleva förbättrad kvalitet och relevans i flerspråkiga interaktioner utifrån eventuell framtida modellimplementation baserad på CroCo.
EU-status
Ej relevant för EU-status.
Mer att veta
Studien understryker att fördelarna med CroCo kräver data som samlats in "on-policy". Detta innebär att responsdata som samlats in off-policy minskar fördelarna, och online preferensoptimering lyckas inte uppnå samma resultat.
Snabba svar om den här nyheten
Vad har hänt?
När hände det?
Varför spelar det roll?
Vilka bolag berörs?
Länken öppnar i nytt fönster och leder till utgivarens egen sida.
Källan har spårats automatiskt från utgivaren via Aheadlines signalkedja.