OpenAI pausar nytt AI-verktyg – anses för farligt för allmänheten
OpenAI väljer att pausa lanseringen av sitt nya röstkloningsverktyg Voice Engine. Företaget bedömer att riskerna med teknikmissbruk är för stora för en offentlig publicering.
Vad har hänt?
OpenAI har presenterat resultaten från småskaliga tester av den nya tekniken Voice Engine, som kan klona en persons röst med endast 15 sekunders ljudmaterial. Trots teknikens framsteg har företaget valt att inte släppa verktyget till allmänheten på grund av betydande säkerhetsrisker. Fokus ligger nu på att förstå farorna med röstförfalskning innan tekniken distribueras bredare.
Snabbfakta
| Verktygets namn | Voice Engine |
|---|---|
| Företag som utvecklat verktyget | OpenAI |
| Ljudmaterial för röstkloning | 15 sekunder |
| Utvecklades ursprungligen | slutet av 2023 |
| Regelverk som omfattas | EU:s kommande AI-förordning (AI Act) |
Varför spelar det roll?
Röstkloning innebär stora risker för bedrägerier, identitetsstöld och spridning av falsk information i politiska sammanhang. Genom att avvakta med lanseringen markerar OpenAI vikten av ansvarsfull AI-utveckling framför snabb marknadsetablering. Detta sker i en tid då kapaciteten att skilja på artificiellt och mänskligt tal snabbt eroderar.
Vem påverkas?
Beslutet påverkar främst andra AI-utvecklare som följer OpenAI:s säkerhetsstandarder samt potentiella användare. Det har även en direkt koppling till säkerhetsarbetet inför stora demokratiska val där röstkloning kan användas för desinformation.
Hur påverkas EU?
Verktyget omfattas av EU:s kommande AI-förordning (AI Act), som ställer höga krav på transparens och säkerhet för system som kan generera djupt förfalskat innehåll. För närvarande finns inga planer på en lansering i Europa.
Vad mer bör du veta?
Tekniken bakom Voice Engine utvecklades ursprungligen i slutet av 2023 men har hållits under strikt uppsikt sedan dess. OpenAI har ännu inte satt något datum för när, eller om, en bredare lansering kan ske.
Snabba svar om den här nyheten
Varför pausar OpenAI lanseringen av Voice Engine?
Vad är Voice Engine?
När utvecklades Voice Engine?
Kommer Voice Engine att lanseras i Europa?
Länken öppnar i nytt fönster och leder till utgivarens egen sida.
Källan är en aggregator eller syndikering — vi rekommenderar att verifiera hos primärutgivaren.
AI-verktyg i artikeln
Ämnen
Få liknande nyheter direkt i mejlen
Läsarrummet
Skicka in en fråga eller ett tillägg. Redaktionen läser allt innan det publiceras och svarar när det är relevant. Ingen AI-fri text – bara människor.
Logga in för att skicka in en kommentar eller fråga.
Läs artikeln genom din roll
- Avgör om detta påverkar strategin på 6–12 månaders sikt eller är brus.
- Diskutera i ledningsgruppen: äger vi rätt fråga eller behöver ansvaret flyttas?
- Fråga: vilken risk tar vi genom att INTE agera på det här den här kvartalet?
Genererad vinkling — inte redaktionell analys av "OpenAI pausar nytt AI-verktyg – anses för farligt för allmän"