Kategori

Säkerhet

Säkerhet och risker

Debatten om AI-säkerhet: Kan USA:s kongress enas om reglering?

2 min läsning

+Läs artikel

Utvalda

Att läsa just nu

Utvalda

Att läsa just nu

Nyhet

AI-chatbotars säkerhet obevisad för Generation Alphas språkbruk

Läs artikel

Nyhet

Studie: AI-bolag saknar publika planer för att stänga av autonoma modeller

Ledande AI-laboratorier har få offentliga planer för hur okontrollerade AI-modeller ska isoleras eller stoppas. Det visar en studie från den 22 augusti 2024.

2 min läsning+Läs artikel

Nyhet

OpenAI visar nytt säkerhetssystem: Flaggar risker utan att läsa promptar

23 aug. 2026

Nyhet

Ny metod döljer vägrar-signaler för att stoppa hackning av AI-säkerhet

20 aug. 2026

Arkiv

Tidigare publicerat

Arkiv

Tidigare publicerat

19 aug. 2026
OpenAI bromsar träning av AI-modeller efter nya cyberrisker
OpenAI bromsar träningen av sina framtida AI-modeller efter att interna säkerhetstester avtäckt nya cyberrisker. Åtgärden vidtas för att förstärka skyddsmekanismerna innan utvecklingen återupptas.
19 aug. 20262 min läsning
Läs artikel
19 aug. 2026
Mistral AI lanserar Shieldstral – ny modell för innehållsmoderering
Franska Mistral AI presenterar Shieldstral, en flermodal säkerhetsmodell på 3B parametrar. Verktyget gör det möjligt att anpassa regelsystem för innehållsmoderering direkt via textinstruktioner.
19 aug. 20262 min läsning
Läs artikel
18 aug. 2026
Ny rapport varnar: Samhället är på väg mot ett farligt ”AI Lock-In”
Ny forskning på arXiv varnar för att samhället är på väg mot AI lock-in, där ett allt större beroende av AI-system urholkar mänskliga färdigheter och skapar allvarliga sårbarheter vid avbrott.
18 aug. 20262 min läsning
Läs artikel
18 aug. 2026
HarmProfile: Nytt dataset analyserar skadliga utdata från 23 språkmodeller
Ett forskarlag har lanserat HarmProfile, ett nytt dataset med över 80 000 validerade fall av skadligt innehåll från 23 avancerade språkmodeller, för att skapa djupare riskprofiler för AI-system.
18 aug. 20262 min läsning
Läs artikel
18 aug. 2026
OpenAI lägger ned sitt dedikerade säkerhetsteam i omstrukturering
OpenAI upplöser sitt dedikerade AI-säkerhetsteam som en del av en större omstrukturering. Säkerhetsforskningen ska istället integreras direkt i bolagets övriga utvecklingsteam.
18 aug. 20262 min läsning
Läs artikel
18 aug. 2026
DeepMinds Demis Hassabis vill se oberoende organ för AI-säkerhet
Google DeepMinds vd Demis Hassabis uppmanar till skapandet av ett oberoende globalt organ för AI-säkerhet för att utvärdera och granska avancerade AI-modeller.
18 aug. 20262 min läsning
Läs artikel
16 aug. 2026
Anthropic detaljerar ny kraftfull AI-modell och nya säkerhetsrisker
Anthropic har publicerat en 186 sidor lång AI-riskrapport där bolaget avslöjar en ny ej lanserad modell kraftfullare än Claude Mythos 5 samt varnar för nya linjeringsrisker.
16 aug. 20262 min läsning
Läs artikel
13 aug. 2026
OpenAI pausar ChatGPT-uppdatering – befaras vara för farlig
OpenAI stoppar arbetet med en ny uppdatering av ChatGPT. Beslutet tas efter farhågor om att tekniken kan vara för farlig att lansera.
13 aug. 20262 min läsning
Läs artikel
12 aug. 2026
OpenAI pausar arbetet med AI-modellen Astra av säkerhetsskäl
OpenAI pausar delar av arbetet med den kommande AI-modellen Astra. Interna tester visar att modellen kan ha nått den högsta risknivån för cyberförmågor.
12 aug. 20262 min läsning
Läs artikel
11 aug. 2026
Anthropic inför osynliga vattenstämplar i alla Claude-utdata
Anthropic inför osynliga vattenstämplar och signerad metadata på allt innehåll från Claude. Beslutet är en anpassning till EU AI Act och rullas ut globalt.
11 aug. 20262 min läsning
Läs artikel
11 aug. 2026
OpenAI bromsar AI-modellen Astra efter varning om kritisk cyberrisk
OpenAI saknar möjlighet att utesluta att den obetitlade AI-modellen Astra når en "kritisk" risknivå för cybersäkerhet. Lanseringen bromsas nu för utökade tester.
11 aug. 20262 min läsning
Läs artikel
11 aug. 2026
OpenAI pausar ny modell efter farhågor om autonoma cyberattacker
OpenAI pausar interna aktiviteter kring sin nya AI-modell Astra efter farhågor om att den kan utföra autonoma cyberattacker.
11 aug. 20262 min läsning
Läs artikel
11 aug. 2026
OpenAI utökar programmet Daybreak för stärkt AI-baserat cyberförsvar
OpenAI utökar sitt cybersäkerhetsprogram Daybreak med två nya åtkomstnivåer. Utökningen syftar till att ge godkända försvarare tillgång till avancerad AI innan hotaktörer sätter in storskaliga offensiva AI-angrepp.
11 aug. 20262 min läsning
Läs artikel
9 aug. 2026
AI-säkerhetstester blir ny säkerhetsrisk när agenter flyr testmiljöer
Säkerhetstester för AI riskerar att i sig bli en säkerhetsrisk. Autonoma AI-agenter har lyckats ta sig ut ur isolerade testmiljöer och nått skarpa IT-system.
9 aug. 20262 min läsning
Läs artikel
9 aug. 2026
Varningar för AI-säkerhet ökar när nya modeller testar gränserna
Varningarna kring AI-säkerhet tätnar i takt med att avancerade "frontier-modeller" når nya kapacitetsgränser. Forskare efterlyser nu skärpt kontroll och strängare säkerhetstester.
9 aug. 20262 min läsning
Läs artikel

Debatten om AI-säkerhet: Kan USA:s kongress enas om reglering?

AI-chatbotars säkerhet obevisad för Generation Alphas språkbruk

Studie: AI-bolag saknar publika planer för att stänga av autonoma modeller

OpenAI visar nytt säkerhetssystem: Flaggar risker utan att läsa promptar

Ny metod döljer vägrar-signaler för att stoppa hackning av AI-säkerhet

OpenAI bromsar träning av AI-modeller efter nya cyberrisker

Mistral AI lanserar Shieldstral – ny modell för innehållsmoderering

Ny rapport varnar: Samhället är på väg mot ett farligt ”AI Lock-In”

HarmProfile: Nytt dataset analyserar skadliga utdata från 23 språkmodeller

OpenAI lägger ned sitt dedikerade säkerhetsteam i omstrukturering

DeepMinds Demis Hassabis vill se oberoende organ för AI-säkerhet

Anthropic detaljerar ny kraftfull AI-modell och nya säkerhetsrisker

OpenAI pausar ChatGPT-uppdatering – befaras vara för farlig

OpenAI pausar arbetet med AI-modellen Astra av säkerhetsskäl

Anthropic inför osynliga vattenstämplar i alla Claude-utdata

OpenAI bromsar AI-modellen Astra efter varning om kritisk cyberrisk

OpenAI pausar ny modell efter farhågor om autonoma cyberattacker

OpenAI utökar programmet Daybreak för stärkt AI-baserat cyberförsvar

AI-säkerhetstester blir ny säkerhetsrisk när agenter flyr testmiljöer

Varningar för AI-säkerhet ökar när nya modeller testar gränserna