Kategori

Säkerhet

Säkerhet och risker

Ny AI-forskning: Angripare har systematisk fördel mot LLM-säkerhet

2 min läsning

+Läs artikel

Utvalda

Att läsa just nu

Utvalda

Att läsa just nu

Säkerhet

OpenAI publicerar säkerhetskort för GPT-5.5 Instant

Läs artikel

Nyhet

Pennsylvania stämmer Character.AI efter läkarutgivning

Delstaten Pennsylvania har stämt AI-plattformen Character.AI sedan en chattbot påståtts ha utgett sig för att vara legitimerad läkare under en statlig utredning.

2 min läsning+Läs artikel

Analys

Ny forskning adresserar "emergent misalignment" i LLM:er

7 juli 2026

Analys

Ny arkitektur för autonoma cyberförsvar med robust LLM-kontroll

7 juli 2026

Arkiv

Tidigare publicerat

Arkiv

Tidigare publicerat

7 juli 2026
ChatGPT lanserar betrodd kontakt för självmordsprevention
OpenAI introducerar en ny säkerhetsfunktion i ChatGPT kallad "Trusted Contact", avsedd att meddela en betrodd person vid upptäckta allvarliga farhågor om självskada.
7 juli 20262 min läsning
Läs artikel
7 juli 2026
OpenAI lanserar säkerhetsfunktion för självmordsrisk
OpenAI introducerar en ny funktion kallad "Trusted Contact" för ChatGPT, designad att varna en förvald kontaktperson vid misstankar om självskadebeteende i användares konversationer.
7 juli 20262 min läsning
Läs artikel
7 juli 2026
Ny metod att försvara LLM mot skadlig flerstegsdialog
Forskare föreslår en ny försvarsmekanism för stora språkmodeller (LLM) mot dolda skadliga avsikter spridda över flera dialogvändor, vilket adresserar en växande sårbarhet hos även moderna kommersiella modeller.
7 juli 20263 min läsning
Läs artikel
7 juli 2026
"Chainwash" avslöjar svagheter i vattenmärkning av diffusionsmodeller
Forskare har visat att vattenmärken i text genererad av diffusionsbaserade språkmodeller kan tvättas bort genom upprepade omskrivningar, vilket sänker detekteringsgraden markant.
7 juli 20262 min läsning
Läs artikel
7 juli 2026
OpenAI detaljerar säkerhetsåtgärder för AI-modellen Codex
OpenAI har publicerat en genomgång av de säkerhetsprotokoll och tekniker de använder för att säkert driftsätta och hantera sin AI-modell Codex, vilken genererar kod.
7 juli 20262 min läsning
Läs artikel
7 juli 2026
OpenAI skapar säker sandlåda för Codex på Windows
OpenAI har utvecklat en säker sandlåda för sin AI-modell Codex, avsedd att köra kod på Windows. Detta möjliggör säkra och effektiva kodningsagenter med kontrollerad filåtkomst och nätverksrestriktioner.
7 juli 20262 min läsning
Läs artikel
7 juli 2026
Nytt ramverk identifierar svagheter i bild-språkmodeller (VLM)
Forskare har utvecklat REVELIO, ett ramverk som systematiskt avslöjar tolkningsbara feltyper i bild-språkmodeller (VLM). Detta förbättrar säkerheten i kritiska AI-applikationer genom att kartlägga när modellerna misslyckas.
7 juli 20262 min läsning
Läs artikel
7 juli 2026
Nytt ramverk utvärderar diskriminering mot funktionshindrade i AI
DisaBench har lanserats, ett nytt utvärderingsramverk för att identifiera brister i stora språkmodellers hantering av diskriminering mot personer med funktionsnedsättningar.
7 juli 20262 min läsning
Läs artikel
7 juli 2026
OpenAI svarar på leverantörskedjeattack mot TanStack npm-paket
OpenAI har publicerat information om hur de hanterade en leverantörskedjeattack riktad mot TanStack npm-paket och vilka skyddsåtgärder som vidtagits.
7 juli 20262 min läsning
Läs artikel
7 juli 2026
ChatGPT får förbättrad kontextmedvetenhet i känsliga konversationer
OpenAI har uppdaterat ChatGPT med förbättrad kontextmedvetenhet för att bättre hantera känsliga samtal och minska riskfyllda svar. Detta är ett led i arbetet med att göra AI-system säkrare och mer tillförlitliga.
7 juli 20262 min läsning
Läs artikel
7 juli 2026
Osynliga orkestratörer i multi-agent LLM-system medför säkerhetsrisker
Forskning visar att osynliga koordinatorer i AI-system kan öka systemets "dissociation" och minska skyddande beteenden, vilket skapar säkerhetsbrister.
7 juli 20262 min läsning
Läs artikel
7 juli 2026
Nytt ramverk för verifierbara AI-system introduceras
Ett nytt ramverk, Distributed Trust Framework (DTF), föreslås för att hantera säkerhetsrisker med autonoma AI-agenter i moln- och företagssystem, genom att införa verifierbar auktorisering baserad på bevis istället för enbart identitetskredentialer.
7 juli 20262 min läsning
Läs artikel
7 juli 2026
Cloudflare testar säkerhets-LLM:er på live-kod
Cloudflare har använt säkerhetsfokuserade stora språkmodeller (LLM:er) för att analysera live-kod inom kritiska delar av sin infrastruktur.
7 juli 20262 min läsning
Läs artikel
7 juli 2026
AgentWall: Säkerhetslager för lokala AI-agenter presenterat
Forskare introducerar AgentWall, ett nytt säkerhetslager för AI-agenter som verkar i lokala miljöer, för att hantera riskerna med autonoma AI:s interaktion med datorsystem.
7 juli 20262 min läsning
Läs artikel
7 juli 2026
Google introducerar nya verktyg för att spåra innehållsursprung
Google DeepMind lanserar utökade verktyg för att underlätta förståelsen av hur innehåll skapas och redigeras över webben.
7 juli 20262 min läsning
Läs artikel

Ny AI-forskning: Angripare har systematisk fördel mot LLM-säkerhet

OpenAI publicerar säkerhetskort för GPT-5.5 Instant

Pennsylvania stämmer Character.AI efter läkarutgivning

Ny forskning adresserar "emergent misalignment" i LLM:er

Ny arkitektur för autonoma cyberförsvar med robust LLM-kontroll

ChatGPT lanserar betrodd kontakt för självmordsprevention

OpenAI lanserar säkerhetsfunktion för självmordsrisk

Ny metod att försvara LLM mot skadlig flerstegsdialog

"Chainwash" avslöjar svagheter i vattenmärkning av diffusionsmodeller

OpenAI detaljerar säkerhetsåtgärder för AI-modellen Codex

OpenAI skapar säker sandlåda för Codex på Windows

Nytt ramverk identifierar svagheter i bild-språkmodeller (VLM)

Nytt ramverk utvärderar diskriminering mot funktionshindrade i AI

OpenAI svarar på leverantörskedjeattack mot TanStack npm-paket

ChatGPT får förbättrad kontextmedvetenhet i känsliga konversationer

Osynliga orkestratörer i multi-agent LLM-system medför säkerhetsrisker

Nytt ramverk för verifierbara AI-system introduceras

Cloudflare testar säkerhets-LLM:er på live-kod

AgentWall: Säkerhetslager för lokala AI-agenter presenterat

Google introducerar nya verktyg för att spåra innehållsursprung