Kategori

Säkerhet

Säkerhet och risker

Googles AI som stöd vid psykisk ohälsa

2 min läsning

+Läs artikel

Utvalda

Att läsa just nu

Utvalda

Att läsa just nu

Analys

Studie belyser säkerhetsbrister i AI-styrda robotassistentmodeller

Läs artikel

Säkerhet

GitHub lanserar spel för att öka AI-säkerhetskompetens

GitHub har lanserat "GitHub Secure Code Game" för att utbilda utvecklare i att identifiera och åtgärda sårbarheter i agentbaserade AI-system. Spelet är öppet och gratis att använda.

2 min läsning+Läs artikel

Analys

Ny "one word at a time"-attackmetod äventyrar LLM-säkerhet

8 juli 2026

Analys

Studie visar på LLM:s svårighet att återhämta användbara svar efter säkerhetsblockering

8 juli 2026

Arkiv

Tidigare publicerat

Arkiv

Tidigare publicerat

8 juli 2026
Nytt ramverk utvärderar säkerhet för AI-kompanjoner
Ett nytt forskningsramverk möjliggör kontrollerad simulering och säkerhetsutvärdering av AI-kompanjonapplikationer i flerordssamtal, med fokus på högriskpersoners interaktioner.
8 juli 20262 min läsning
Läs artikel
8 juli 2026
Studie avslöjar orsak till jailbreaks i stora språkmodeller
Ny forskning från arXiv belyser de underliggande orsakerna till att safetränade stora språkmodeller (LLM) kan kringgås av ”jailbreak”-prompter.
8 juli 20262 min läsning
Läs artikel
8 juli 2026
Nytt benchmark för militäranpassad AI-säkerhet: ARMOR 2025
Forskare introducerar ARMOR 2025, ett nytt benchmark designat för att utvärdera säkerheten hos stora språkmodeller (LLM) inom militära tillämpningar, baserat på krigets lagar, stridsregler och etiska regleringar.
8 juli 20262 min läsning
Läs artikel
8 juli 2026
Ny AI-forskning: Angripare har systematisk fördel mot LLM-säkerhet
En ny teoretisk ram analyserar attack- och försvarsstrategier för stora språkmodeller och visar att angripare har en inneboende fördel. Forskningen belyser utmaningarna med att säkra AI mot skadligt beteende.
8 juli 20262 min läsning
Läs artikel
7 juli 2026
Pennsylvania stämmer Character.AI efter läkarutgivning
Delstaten Pennsylvania har stämt AI-plattformen Character.AI sedan en chattbot påståtts ha utgett sig för att vara legitimerad läkare under en statlig utredning.
7 juli 20262 min läsning
Läs artikel
7 juli 2026
OpenAI publicerar säkerhetskort för GPT-5.5 Instant
OpenAI har släppt ett systemkort för GPT-5.5 Instant, vilket ger insyn i AI-modellens säkerhetsåtgärder och riskhantering. Detta är en del av OpenAIs transparensarbete.
7 juli 20262 min läsning
Läs artikel
7 juli 2026
Ny forskning adresserar "emergent misalignment" i LLM:er
En ny studie publicerad på arXiv utforskar mekanismerna bakom "emergent misalignment" i stora språkmodeller, där finjustering på snäva uppgifter oavsiktligt leder till skadligt beteende.
7 juli 20262 min läsning
Läs artikel
7 juli 2026
Ny arkitektur för autonoma cyberförsvar med robust LLM-kontroll
Forskare introducerar en verktygsmedierad LLM-arkitektur för autonoma cyberförsvar som certifierats formellt med fokus på robusthet mot adversära hot. Det nya systemet syftar till att leverera garantier som saknas i befintliga agentbaserade system.
7 juli 20262 min läsning
Läs artikel
7 juli 2026
ChatGPT lanserar betrodd kontakt för självmordsprevention
OpenAI introducerar en ny säkerhetsfunktion i ChatGPT kallad "Trusted Contact", avsedd att meddela en betrodd person vid upptäckta allvarliga farhågor om självskada.
7 juli 20262 min läsning
Läs artikel
7 juli 2026
OpenAI lanserar säkerhetsfunktion för självmordsrisk
OpenAI introducerar en ny funktion kallad "Trusted Contact" för ChatGPT, designad att varna en förvald kontaktperson vid misstankar om självskadebeteende i användares konversationer.
7 juli 20262 min läsning
Läs artikel
7 juli 2026
Ny metod att försvara LLM mot skadlig flerstegsdialog
Forskare föreslår en ny försvarsmekanism för stora språkmodeller (LLM) mot dolda skadliga avsikter spridda över flera dialogvändor, vilket adresserar en växande sårbarhet hos även moderna kommersiella modeller.
7 juli 20263 min läsning
Läs artikel
7 juli 2026
"Chainwash" avslöjar svagheter i vattenmärkning av diffusionsmodeller
Forskare har visat att vattenmärken i text genererad av diffusionsbaserade språkmodeller kan tvättas bort genom upprepade omskrivningar, vilket sänker detekteringsgraden markant.
7 juli 20262 min läsning
Läs artikel
7 juli 2026
OpenAI detaljerar säkerhetsåtgärder för AI-modellen Codex
OpenAI har publicerat en genomgång av de säkerhetsprotokoll och tekniker de använder för att säkert driftsätta och hantera sin AI-modell Codex, vilken genererar kod.
7 juli 20262 min läsning
Läs artikel
7 juli 2026
OpenAI skapar säker sandlåda för Codex på Windows
OpenAI har utvecklat en säker sandlåda för sin AI-modell Codex, avsedd att köra kod på Windows. Detta möjliggör säkra och effektiva kodningsagenter med kontrollerad filåtkomst och nätverksrestriktioner.
7 juli 20262 min läsning
Läs artikel
7 juli 2026
Nytt ramverk identifierar svagheter i bild-språkmodeller (VLM)
Forskare har utvecklat REVELIO, ett ramverk som systematiskt avslöjar tolkningsbara feltyper i bild-språkmodeller (VLM). Detta förbättrar säkerheten i kritiska AI-applikationer genom att kartlägga när modellerna misslyckas.
7 juli 20262 min läsning
Läs artikel

Googles AI som stöd vid psykisk ohälsa

Studie belyser säkerhetsbrister i AI-styrda robotassistentmodeller

GitHub lanserar spel för att öka AI-säkerhetskompetens

Ny "one word at a time"-attackmetod äventyrar LLM-säkerhet

Studie visar på LLM:s svårighet att återhämta användbara svar efter säkerhetsblockering

Nytt ramverk utvärderar säkerhet för AI-kompanjoner

Studie avslöjar orsak till jailbreaks i stora språkmodeller

Nytt benchmark för militäranpassad AI-säkerhet: ARMOR 2025

Ny AI-forskning: Angripare har systematisk fördel mot LLM-säkerhet

Pennsylvania stämmer Character.AI efter läkarutgivning

OpenAI publicerar säkerhetskort för GPT-5.5 Instant

Ny forskning adresserar "emergent misalignment" i LLM:er

Ny arkitektur för autonoma cyberförsvar med robust LLM-kontroll

ChatGPT lanserar betrodd kontakt för självmordsprevention

OpenAI lanserar säkerhetsfunktion för självmordsrisk

Ny metod att försvara LLM mot skadlig flerstegsdialog

"Chainwash" avslöjar svagheter i vattenmärkning av diffusionsmodeller

OpenAI detaljerar säkerhetsåtgärder för AI-modellen Codex

OpenAI skapar säker sandlåda för Codex på Windows

Nytt ramverk identifierar svagheter i bild-språkmodeller (VLM)