Studie skiljer på AI:s förmåge-framkallning och -skapande
En ny studie publicerad den 8 maj 2025 på arXiv introducerar en distinktion mellan att framkalla befintliga AI-förmågor och att skapa nya under efterträning.
Vad har hänt
Forskare har publicerat en studie på arXiv den 8 maj 2025 som föreslår en ny syn på efterträning av stora språkmodeller (LLM). Studien argumenterar för att man bör skilja mellan "förmåge-framkallning" (capability elicitation) och "förmåge-skapande" (capability creation). Förmåge-framkallning innebär att man ökar sannolikheten för beteenden som den redan förtränade modellen kunde producera. Förmåge-skapande innebär att modellen kan nå praktiskt nya beteenden som inte var tillgängliga tidigare.
Snabbfakta
| Publikationsdatum | 2025-05-08 |
|---|---|
| Plattform | arXiv cs.AI |
| Koncept | Förmåge-framkallning, Förmåge-skapande, Tillgängligt stöd |
”Debates about large language model post-training often treat supervised fine-tuning (SFT) as imitation and reinforcement learning (RL) as discovery. But this distinction is too coarse. What matters is whether a training procedure increases the probability of behaviors the pretrai”
Varför det spelar roll
Denna distinktion är central för att bättre förstå och styra utvecklingen av stora språkmodeller. Genom att klargöra om efterträningsmetoder som SFT (supervised fine-tuning) och RL (reinforcement learning) framkallar eller skapar förmågor, kan forskare utveckla mer effektiva träningsstrategier. Studien introducerar begreppet "tillgängligt stöd" (accessible support), vilket avser den uppsättning beteenden en modell praktiskt kan producera inom begränsade ramar. Att omvikta beteenden inom detta stöd klassificeras som förmåge-framkallning, medan en förändring av själva stödet motsvarar förmåge-skapande.
Vem påverkas
Denna analys påverkar primärt AI-forskare, utvecklare av stora språkmodeller och akademiska institutioner som studerar maskininlärning. Insikterna kan vägleda framtida forskning och metodutveckling inom AI-området. Företag som investerar i och utvecklar AI-system kan dra nytta av en djupare förståelse för hur modellernas kapacitet utvecklas.
EU-status
Ej relevant för EU-status.
Mer att veta
Studien använder ett frienergi-perspektiv för att utveckla argumentationen. Både SFT och RL kan ses som metoder för att omvikta en förtränad referensdistribution av beteenden.
Snabba svar om den här nyheten
Vad har hänt?
När hände det?
Varför spelar det roll?
Länken öppnar i nytt fönster och leder till utgivarens egen sida.
Källan har spårats automatiskt från utgivaren via Aheadlines signalkedja.