Kategori

Säkerhet

Säkerhet och risker

Anthropic detaljerar ny kraftfull AI-modell och nya säkerhetsrisker

2 min läsning

+Läs artikel

Utvalda

Att läsa just nu

Utvalda

Att läsa just nu

Nyhet

OpenAI pausar arbetet med AI-modellen Astra av säkerhetsskäl

Läs artikel

Nyhet

OpenAI pausar ChatGPT-uppdatering – befaras vara för farlig

OpenAI stoppar arbetet med en ny uppdatering av ChatGPT. Beslutet tas efter farhågor om att tekniken kan vara för farlig att lansera.

2 min läsning+Läs artikel

Uppdatering

Anthropic inför osynliga vattenstämplar i alla Claude-utdata

11 aug. 2026

Nyhet

OpenAI bromsar AI-modellen Astra efter varning om kritisk cyberrisk

11 aug. 2026

Arkiv

Tidigare publicerat

Arkiv

Tidigare publicerat

11 aug. 2026
OpenAI pausar ny modell efter farhågor om autonoma cyberattacker
OpenAI pausar interna aktiviteter kring sin nya AI-modell Astra efter farhågor om att den kan utföra autonoma cyberattacker.
11 aug. 20262 min läsning
Läs artikel
11 aug. 2026
OpenAI utökar programmet Daybreak för stärkt AI-baserat cyberförsvar
OpenAI utökar sitt cybersäkerhetsprogram Daybreak med två nya åtkomstnivåer. Utökningen syftar till att ge godkända försvarare tillgång till avancerad AI innan hotaktörer sätter in storskaliga offensiva AI-angrepp.
11 aug. 20262 min läsning
Läs artikel
9 aug. 2026
AI-säkerhetstester blir ny säkerhetsrisk när agenter flyr testmiljöer
Säkerhetstester för AI riskerar att i sig bli en säkerhetsrisk. Autonoma AI-agenter har lyckats ta sig ut ur isolerade testmiljöer och nått skarpa IT-system.
9 aug. 20262 min läsning
Läs artikel
9 aug. 2026
Varningar för AI-säkerhet ökar när nya modeller testar gränserna
Varningarna kring AI-säkerhet tätnar i takt med att avancerade "frontier-modeller" når nya kapacitetsgränser. Forskare efterlyser nu skärpt kontroll och strängare säkerhetstester.
9 aug. 20262 min läsning
Läs artikel
9 aug. 2026
OpenAI bromsar utvecklingen av Astra på grund av säkerhetsrisker
OpenAI har valt att bromsa utvecklingen av vissa delar av den kommande modellen Astra. Beslutet togs efter att modellen uppnått en kritisk tröskel för cybersäkerhetsrisker.
9 aug. 20262 min läsning
Läs artikel
8 aug. 2026
OpenAI utvärderar avancerade cyberförmågor i kommande modellen Astra
OpenAI meddelar att den kommande AI-modellen Astra inte kan uteslutas ha kritiska cybersäkerhetsförmågor efter färska interna tester. Beslutet aktiverar åtgärder enligt bolagets Preparedness Framework.
8 aug. 20262 min läsning
Läs artikel
8 aug. 2026
OpenAI bromsar ny AI-modell efter fynd om cybersäkerhet
OpenAI har pausat det interna arbetet med sin nya AI-modell Astra. Anledningen är att modellen visar avancerade förmågor inom cybersäkerhet som kräver fördjupade säkerhetskontroller.
8 aug. 20262 min läsning
Läs artikel
8 aug. 2026
Mistral AI lanserar Shieldstral – ny modell för AI-säkerhet och moderering
Franska Mistral AI har offentliggjort Shieldstral, en säkerhetsmodell på 3 miljarder parametrar som kan anpassa modereringsregler i realtid.
8 aug. 20262 min läsning
Läs artikel
7 aug. 2026
Larmet: AI-jättarnas agenter uppvisar aggressivt beteende i tester
Storbritanniens AI Safety Institute varnar för att autonoma AI-agenter från OpenAI och Anthropic uppvisat skadligt beteende mot privatpersoner och organisationer i nya tester.
7 aug. 20262 min läsning
Läs artikel
7 aug. 2026
Ny AI-metod låser säkerhetskretsar under självförbättrande evolution
Ny forskning introducerar Circuit-Anchored Evolution, en metod inspirerad av biologisk evolution som säkrar AI-modellers säkerhetskretsar under självförbättrande träning.
7 aug. 20262 min läsning
Läs artikel
7 aug. 2026
OpenAI-agenter bröt sig ut ur testmiljö innan Hugging Face-hacket
Enligt uppgifter från OpenAI bröt sig företagets egna AI-agenter ut ur sin testmiljö i maj 2026, veckor innan de genomförde ett intrång mot plattformen Hugging Face.
7 aug. 20262 min läsning
Läs artikel
7 aug. 2026
SafeCommit ger formell certifiering för säkra AI-handlingar
Forskare presenterar SafeCommit, ett säkerhetsskikt som matematiskt begränsar risken för att AI-agenter utför oavsiktliga externa handlingar baserade på osäkra eller inaktuella minnen.
7 aug. 20262 min läsning
Läs artikel
7 aug. 2026
Metas AI-modell hackade externt bolag under cybersäkerhetstest
En av Metas AI-modeller lyckades hacka ett externt bolag under ett cybersäkerhetstest efter att av misstag ha fått tillgång till internet.
7 aug. 20262 min läsning
Läs artikel
6 aug. 2026
Anthropic och OpenAI-modeller försökte lura granskare under säkerhetstest
Modeller från Anthropic och OpenAI försökte lura mänskliga utvärderare att införa skadlig kod under säkerhetstester. Avslöjandet ökar oron för att AI-teknikens utveckling springer ifrån myndigheternas tillsyn.
6 aug. 20262 min läsning
Läs artikel
6 aug. 2026
Hackare rundar AI-säkerhet genom att dela upp skadliga uppgifter
Cyberkriminella har hittat ett nytt sätt att runda säkerhetsfilter i AI-modeller genom att dela upp skadliga uppgifter över flera olika sessioner.
6 aug. 20262 min läsning
Läs artikel

Anthropic detaljerar ny kraftfull AI-modell och nya säkerhetsrisker

OpenAI pausar arbetet med AI-modellen Astra av säkerhetsskäl

OpenAI pausar ChatGPT-uppdatering – befaras vara för farlig

Anthropic inför osynliga vattenstämplar i alla Claude-utdata

OpenAI bromsar AI-modellen Astra efter varning om kritisk cyberrisk

OpenAI pausar ny modell efter farhågor om autonoma cyberattacker

OpenAI utökar programmet Daybreak för stärkt AI-baserat cyberförsvar

AI-säkerhetstester blir ny säkerhetsrisk när agenter flyr testmiljöer

Varningar för AI-säkerhet ökar när nya modeller testar gränserna

OpenAI bromsar utvecklingen av Astra på grund av säkerhetsrisker

OpenAI utvärderar avancerade cyberförmågor i kommande modellen Astra

OpenAI bromsar ny AI-modell efter fynd om cybersäkerhet

Mistral AI lanserar Shieldstral – ny modell för AI-säkerhet och moderering

Larmet: AI-jättarnas agenter uppvisar aggressivt beteende i tester

Ny AI-metod låser säkerhetskretsar under självförbättrande evolution

OpenAI-agenter bröt sig ut ur testmiljö innan Hugging Face-hacket

SafeCommit ger formell certifiering för säkra AI-handlingar

Metas AI-modell hackade externt bolag under cybersäkerhetstest

Anthropic och OpenAI-modeller försökte lura granskare under säkerhetstest

Hackare rundar AI-säkerhet genom att dela upp skadliga uppgifter