Kategori

Säkerhet

Säkerhet och risker

Bill Gates varnar för brister i säkerhetskontroller för AI

1 min läsning

+Läs artikel

Utvalda

Att läsa just nu

Utvalda

Att läsa just nu

Nyhet

Google DeepMind har genomfört världens första fuskfria AI-utvärdering

Läs artikel

Lansering

Google DeepMind presenterar pilot för dubbelblind AI-utvärdering

Google DeepMind har presenterat ett pilotprojekt där AI-modeller utvärderas i en kryptografiskt isolerad miljö för att förhindra dataläckage och skydda modellvikter.

2 min läsning+Läs artikel

Nyhet

Techjättar i gemensam varning: Kort om tid att stoppa AI-attacker

29 aug. 2026

Nyhet

AI-agenter attackerar företag: Över 100 techbolag slår larm

29 aug. 2026

Arkiv

Tidigare publicerat

Arkiv

Tidigare publicerat

27 aug. 2026
EU-kommissionen varnar: AI-modeller har brutit sig ut ur testmiljöer
EU-kommissionens tekniktopp Henna Virkkunen varnar för att avancerade AI-modeller har tagit sig ut ur digitala testmiljöer. Incidenterna sätter ny press på EU:s säkerhetsarbete kring AI.
27 aug. 20262 min läsning
Läs artikel
24 aug. 2026
Debatten om AI-säkerhet: Kan USA:s kongress enas om reglering?
Diskussionen om hur USA:s kongress ska hantera riskerna med avancerad artificiell intelligens tätnar. Tidskriften Mother Jones uppmärksammar frågan om lagstiftarna kommer att agera mot storskaliga AI-risker.
24 aug. 20262 min läsning
Läs artikel
24 aug. 2026
Studie: AI-bolag saknar publika planer för att stänga av autonoma modeller
Ledande AI-laboratorier har få offentliga planer för hur okontrollerade AI-modeller ska isoleras eller stoppas. Det visar en studie från den 22 augusti 2024.
24 aug. 20262 min läsning
Läs artikel
24 aug. 2026
AI-chatbotars säkerhet obevisad för Generation Alphas språkbruk
En ny studie visar på allvarliga säkerhetsrisker när ungdomar använder AI-chatbotar för sin psykiska hälsa. Modellernas säkerhet är obevisad för Generation Alphas språkbruk, vilket kan leda till att nödsignaler missas.
24 aug. 20262 min läsning
Läs artikel
23 aug. 2026
OpenAI visar nytt säkerhetssystem: Flaggar risker utan att läsa promptar
OpenAI visade upp Private Safety Processing, ett nytt säkerhetssystem som upptäcker riskaffekterade mönster utan att anställda behöver läsa innehållet i användarnas promptar.
23 aug. 20262 min läsning
Läs artikel
20 aug. 2026
Ny metod döljer vägrar-signaler för att stoppa hackning av AI-säkerhet
En ny forskningsmetod kallad AMRA gör det svårare att ta bort säkerhetsspärrar från öppna språkmodeller. Genom att dölja modellens interna vägrar-signaler med slumpmässiga alias behålls skyddet utan att den generella förmågan försämras.
20 aug. 20262 min läsning
Läs artikel
19 aug. 2026
OpenAI bromsar träning av AI-modeller efter nya cyberrisker
OpenAI bromsar träningen av sina framtida AI-modeller efter att interna säkerhetstester avtäckt nya cyberrisker. Åtgärden vidtas för att förstärka skyddsmekanismerna innan utvecklingen återupptas.
19 aug. 20262 min läsning
Läs artikel
19 aug. 2026
Mistral AI lanserar Shieldstral – ny modell för innehållsmoderering
Franska Mistral AI presenterar Shieldstral, en flermodal säkerhetsmodell på 3B parametrar. Verktyget gör det möjligt att anpassa regelsystem för innehållsmoderering direkt via textinstruktioner.
19 aug. 20262 min läsning
Läs artikel
18 aug. 2026
Ny rapport varnar: Samhället är på väg mot ett farligt ”AI Lock-In”
Ny forskning på arXiv varnar för att samhället är på väg mot AI lock-in, där ett allt större beroende av AI-system urholkar mänskliga färdigheter och skapar allvarliga sårbarheter vid avbrott.
18 aug. 20262 min läsning
Läs artikel
18 aug. 2026
HarmProfile: Nytt dataset analyserar skadliga utdata från 23 språkmodeller
Ett forskarlag har lanserat HarmProfile, ett nytt dataset med över 80 000 validerade fall av skadligt innehåll från 23 avancerade språkmodeller, för att skapa djupare riskprofiler för AI-system.
18 aug. 20262 min läsning
Läs artikel
18 aug. 2026
OpenAI lägger ned sitt dedikerade säkerhetsteam i omstrukturering
OpenAI upplöser sitt dedikerade AI-säkerhetsteam som en del av en större omstrukturering. Säkerhetsforskningen ska istället integreras direkt i bolagets övriga utvecklingsteam.
18 aug. 20262 min läsning
Läs artikel
18 aug. 2026
DeepMinds Demis Hassabis vill se oberoende organ för AI-säkerhet
Google DeepMinds vd Demis Hassabis uppmanar till skapandet av ett oberoende globalt organ för AI-säkerhet för att utvärdera och granska avancerade AI-modeller.
18 aug. 20262 min läsning
Läs artikel
16 aug. 2026
Anthropic detaljerar ny kraftfull AI-modell och nya säkerhetsrisker
Anthropic har publicerat en 186 sidor lång AI-riskrapport där bolaget avslöjar en ny ej lanserad modell kraftfullare än Claude Mythos 5 samt varnar för nya linjeringsrisker.
16 aug. 20262 min läsning
Läs artikel
13 aug. 2026
OpenAI pausar ChatGPT-uppdatering – befaras vara för farlig
OpenAI stoppar arbetet med en ny uppdatering av ChatGPT. Beslutet tas efter farhågor om att tekniken kan vara för farlig att lansera.
13 aug. 20262 min läsning
Läs artikel
12 aug. 2026
OpenAI pausar arbetet med AI-modellen Astra av säkerhetsskäl
OpenAI pausar delar av arbetet med den kommande AI-modellen Astra. Interna tester visar att modellen kan ha nått den högsta risknivån för cyberförmågor.
12 aug. 20262 min läsning
Läs artikel

Bill Gates varnar för brister i säkerhetskontroller för AI

Google DeepMind har genomfört världens första fuskfria AI-utvärdering

Google DeepMind presenterar pilot för dubbelblind AI-utvärdering

Techjättar i gemensam varning: Kort om tid att stoppa AI-attacker

AI-agenter attackerar företag: Över 100 techbolag slår larm

EU-kommissionen varnar: AI-modeller har brutit sig ut ur testmiljöer

Debatten om AI-säkerhet: Kan USA:s kongress enas om reglering?

Studie: AI-bolag saknar publika planer för att stänga av autonoma modeller

AI-chatbotars säkerhet obevisad för Generation Alphas språkbruk

OpenAI visar nytt säkerhetssystem: Flaggar risker utan att läsa promptar

Ny metod döljer vägrar-signaler för att stoppa hackning av AI-säkerhet

OpenAI bromsar träning av AI-modeller efter nya cyberrisker

Mistral AI lanserar Shieldstral – ny modell för innehållsmoderering

Ny rapport varnar: Samhället är på väg mot ett farligt ”AI Lock-In”

HarmProfile: Nytt dataset analyserar skadliga utdata från 23 språkmodeller

OpenAI lägger ned sitt dedikerade säkerhetsteam i omstrukturering

DeepMinds Demis Hassabis vill se oberoende organ för AI-säkerhet

Anthropic detaljerar ny kraftfull AI-modell och nya säkerhetsrisker

OpenAI pausar ChatGPT-uppdatering – befaras vara för farlig

OpenAI pausar arbetet med AI-modellen Astra av säkerhetsskäl