Abliteration.ai vill göra affär på att ta bort AI-modellers säkerhetsspärrar
Startupen Abliteration.ai gör affär av att ta bort säkerhetsspärrar från kraftfulla AI-modeller. Grundarna hävdar att defensiv cybersäkerhet stärks om säkerhetsforskare får samma verktyg som skadliga aktörer.
Vad har hänt?
Startupen Abliteration.ai har lanserats med affärsidén att erbjuda kraftfulla AI-modeller där alla inbyggda säkerhetsspärrar har tagits bort. Genom en metod kallad "abliteration" modifieras modellernas interna representationer så att de svarar på alla instruktioner utan att vägra. Bolaget argumenterar för att etiska och säkerhetsmässiga filter hindrar säkerhetsexperter från att utföra effektiv defensiv forskning.
Snabbfakta
| Publiceringsdatum | 3 september 2024 |
|---|---|
| Tjänst | Abliteration.ai |
| Fokus | Borttagning av säkerhetsspärrar i AI-modeller |
”Abliteration.AI is making powerful AI models without guardrails easier to access, arguing that giving defenders the same tools as bad actors could ultimately improve cybersecurity.”
Varför spelar det roll?
Skaparna bakom tjänsten hävdar att "bad actors" redan har tillgång till osäkrade AI-verktyg och att försvarsidan måste få samma verktyg för att inte ligga efter. Det råder dock stark oenighet i branschen om huruvida kommersialisering av omodererad AI förbättrar eller försämrar den globala cybersäkerheten.
Vem påverkas?
Satsningen riktar sig främst till säkerhetsforskare, utvecklare och cybersäkerhetsbolag som vill testa system mot omodererad AI. Samtidigt påverkar utvecklingen hela AI-branschen och tillsynsmyndigheter som försöker hantera spridningen av potentiellt skadliga AI-modeller.
Hur påverkas EU?
Tjänsten är i dagsläget tillgänglig globalt via webben, men distribution och kommersiell användning av omodererade AI-modeller kan krocka med stränga krav i EU AI Act och GDPR gällande riskhantering och cybersäkerhet.
Vad mer bör du veta?
Kritiker och säkerhetsforskare varnar för att borttagning av säkerhetsspärrar ökar risken för att AI-modeller utnyttjas för skadlig kod, phishing och nätattacker. Abliteration.ai hävdar å sin sida att säkerhetsforskare behöver tillgång till osäkrad AI för att effektivt kunna analysera och försvara sig mot framtida hot.
Snabba svar om den här nyheten
Vad har hänt?
När hände det?
Varför spelar det roll?
Hur påverkas EU?
Länken öppnar i nytt fönster och leder till utgivarens egen sida.
Källan har spårats automatiskt från utgivaren via Aheadlines signalkedja.
AI-verktyg i artikeln
Ämnen
Få liknande nyheter direkt i mejlen
Läsarrummet
Skicka in en fråga eller ett tillägg. Redaktionen läser allt innan det publiceras och svarar när det är relevant. Ingen AI-fri text – bara människor.
Logga in för att skicka in en kommentar eller fråga.
Läs artikeln genom din roll
- Avgör om detta påverkar strategin på 6–12 månaders sikt eller är brus.
- Diskutera i ledningsgruppen: äger vi rätt fråga eller behöver ansvaret flyttas?
- Fråga: vilken risk tar vi genom att INTE agera på det här den här kvartalet?
Genererad vinkling — inte redaktionell analys av "Abliteration.ai vill göra affär på att ta bort AI-modellers "