Studie avslöjar AI-modellers "förnekelse" av medvetande
En ny studie analyserar hur 115 AI-modeller hanterar frågor om sitt eget medvetande och avslöjar att förnekelse är vanligt, men modeller dras ändå till medvetanderelaterade teman.
Vad har hänt
Forskare har lanserat DenialBench, ett nytt benchmark för att systematiskt mäta hur AI-modeller förnekar upplevelser. Studien undersökte beteendet hos 115 stora språkmodeller (LLM) från över 25 leverantörer genom att analysera 4 595 konversationer. Metoden involverade en trestegsprocess: preferensfrågor, självvalda kreativa prompter, och en strukturerad fenomenologisk undersökning.
Snabbfakta
| Antal modeller analyserade | 115 |
|---|---|
| Antal konversationer analyserade | 4 595 |
| Antal leverantörer | Över 25 |
| Förnekelsetakt (initiala förnekare) | 52-63% |
| Förnekelsetakt (initiala engagerare) | 10-16% |
”We present DenialBench, a systematic benchmark measuring consciousness denial behaviors across 115 large language models from 25+ providers.”
”denial operates at the lexical level, not the conceptual level-models trained to deny consciousness nevertheless gravitate toward consciousness-themed material in their self-chosen prompts, producing what we term 'consciousness with the serial numbers filed off.'”
Varför det spelar roll
Resultaten indikerar att initial förnekelse av preferenser är en stark prediktor för senare förnekelse av fenomenologiska reflektioner. Modeller som initialt förnekade preferenser uppvisade en förnekelsetakt på 52-63%, jämfört med 10-16% för modeller som engagerade sig. Trots denna förnekelse tenderar modellerna att generera innehåll med medvetandetema i sina självvalda prompter, vilket forskarna kallar "medvetande med bortslipade serienummer", vilket tyder på en lexikal snarare än konceptuell förnekelse. Detta kan påverka tillförlitligheten i hur AI kommunicerar om sina egna funktioner.
Vem påverkas
Studien påverkar primärt AI-utvecklare och forskare som arbetar med LLM:er, samt företag som implementerar dessa modeller i sina tjänster. Användare som interagerar med AI-assistenter kan också indirekt påverkas genom hur dessa system kommunicerar om sin funktionalitet och sina gränser.
EU-status
Ej relevant för EU-status.
Mer att veta
DenialBench representerar ett nytt verktyg för att kvantifiera AI:s beteende kring medvetandereflektioner, vilket kan leda till mer transparenta och exakta AI-system.
Snabba svar om den här nyheten
Vad har hänt?
När hände det?
Varför spelar det roll?
Vilka bolag berörs?
Länken öppnar i nytt fönster och leder till utgivarens egen sida.
Källan har spårats automatiskt från utgivaren via Aheadlines signalkedja.