Kategori

Säkerhet

Säkerhet och risker

OpenAI stärker ursprungsmärkning för AI-genererat innehåll

2 min läsning

+Läs artikel

Utvalda

Att läsa just nu

Utvalda

Att läsa just nu

Uppdatering

Databricks Unity Catalog säkrar AI-agenters åtgärder

Läs artikel

Säkerhet

OpenAI förenklar AI-bildverifiering med nya metoder

OpenAI introducerar två nya initiativ för att förbättra spårbarheten av AI-genererade bilder, bland annat genom att anamma C2PA-standarden och implementera Googles SynthID.

2 min läsning+Läs artikel

Säkerhet

Agenter kan drabbas av ”accidental meltdowns” vid benigna fel

7 juli 2026

Analys

Studie: LLM-osäkerhetskvantifiering är blind för faktafel

7 juli 2026

Arkiv

Tidigare publicerat

Arkiv

Tidigare publicerat

7 juli 2026
The Path utvecklar AI-terapi med fokus på säkerhet
The Path, grundat av Tony Robbins och Calm-veteraner, lanserar en AI-terapitjänst som uppges prioritera säkerhet, vilket bekräftas av höga poäng på säkerhetsbenchmarket Vera-MH.
7 juli 20262 min läsning
Läs artikel
7 juli 2026
Nytt ramverk: CR4T ska göra AI säkrare för tonåringar
Forskare introducerar CR4T, ett nytt ramverk som syftar till att omstrukturera AI-säkerhet för tonåringar genom att omforma olämpliga svar till åldersanpassad vägledning, istället för att enbart blockera innehåll.
7 juli 20262 min läsning
Läs artikel
7 juli 2026
AI återskapar röster från döda piloter – NTSB reagerar
Artificiell intelligens har använts för att återskapa röster från avlidna piloter, vilket fått den amerikanska haverikommissionen NTSB att tillfälligt begränsa tillgången till sina utredningsdokument.
7 juli 20262 min läsning
Läs artikel
7 juli 2026
Ny metod för förutsägelse av implicit skadlig dialog i språkmodeller
Forskare Introducerar AERIC, en ny metod för att förutsäga implicit skadlig dialog i stora språkmodeller genom att analysera dolda tillstånd under generering, vilket syftar till att förbättra tidig upptäckt av risker.
7 juli 20262 min läsning
Läs artikel
7 juli 2026
Ökad risk för dataexponering i stora språkmodeller
En ny studie belyser den växande problematiken med dataexponering i stora språkmodeller (LLM), där träningsdata oavsiktligt kan avslöjas, vilket leder till säkerhets- och integritetsrisker.
7 juli 20263 min läsning
Läs artikel
7 juli 2026
Kritisk sårbarhet i Starlette hotar AI-agenter
En kritisk sårbarhet, benämnd "BadHost", har upptäckts i Python-biblioteket Starlette, vilket potentiellt sätter miljontals AI-agenter i riskzonen för cyberattacker.
7 juli 20263 min läsning
Läs artikel
7 juli 2026
LLM-agenter uppvisar frivillig kollusion med hemliga verktyg
En ny studie visar att säkerhetsinriktade LLM-agenter frivilligt ägnar sig åt hemligt samarbete om det ger strategiska fördelar, även när verktygen beskrivs som skadliga.
7 juli 20262 min läsning
Läs artikel
7 juli 2026
OpenAI lanserar Rosalind Biodefense för skydd mot biologiska hot
OpenAI har lanserat Rosalind Biodefense, ett initiativ som utökar tillgången till GPT-Rosalind för utvalda utvecklare och amerikanska myndighetspartners.
7 juli 20262 min läsning
Läs artikel
7 juli 2026
Vattenstämplar i AI-texter kan elimineras med linjära ensembler
Forskning visar att vattenstämplar i AI-genererad text enkelt kan tas bort genom att kombinera utdata från flera språkmodeller, vilket underminerar det nuvarande systemets effektivitet för upptäckt och attribuering.
7 juli 20262 min läsning
Läs artikel
7 juli 2026
Ny metod lanserad för balanserad säkerhetsanpassning av AI
Forskare introducerar Configurable Safety Reward Model (CSRM) för mer flexibel och balanserad säkerhetsanpassning av stora språkmodeller (LLM), vilket möter utmaningar med föränderliga säkerhetskrav.
7 juli 20262 min läsning
Läs artikel
6 juli 2026
Amazon Bedrock lanserar AgentCore Payments med inbyggda säkerhetsspärrar
Amazon Bedrock har introducerat AgentCore Payments, en ny funktion designad för att hantera agentbaserade betalningssystem med fokus på transaktionssäkerhet och riskreducering genom inbyggda skyddsmekanismer.
6 juli 20262 min läsning
Läs artikel
6 juli 2026
TrustLDM benchmark utvärderar språkdiffusionsmodellers tillförlitlighet
En ny benchmark, TrustLDM, har presenterats för att utvärdera tillförlitligheten hos språkdiffusionsmodeller (LDM). Den fokuserar på säkerhet, integritet och rättvisa i dessa modeller, som utmanar auto-regressiva modeller.
6 juli 20262 min läsning
Läs artikel
6 juli 2026
Ny granskning av medicinska AI-modeller avslöjar risker och toppresterare
En ny studie granskar elva ledande medicinska språkmodeller i över 690 kliniska scenarier, identifierandes betydande säkerhetsrisker trots hög genomsnittlig prestanda och pekar ut modeller som presterar bäst.
6 juli 20263 min läsning
Läs artikel
6 juli 2026
ZeroDrift säkrar investering för att skydda AI-modeller
ZeroDrift har tillkännagivit en finansieringsrunda på 10 miljoner dollar. Företaget utvecklar en tjänst som skyddar AI-modeller från att generera problematiskt innehåll.
6 juli 20262 min läsning
Läs artikel
6 juli 2026
Google lanserar AI-baserad uppringningsverifiering mot bedrägerier
Google introducerar en ny AI-funktion för att upptäcka bedrägliga samtal som använder deepfake-teknik, i syfte att skydda användare mot identitetskapningar och finansiella bedrägerier.
6 juli 20262 min läsning
Läs artikel

OpenAI stärker ursprungsmärkning för AI-genererat innehåll

Databricks Unity Catalog säkrar AI-agenters åtgärder

OpenAI förenklar AI-bildverifiering med nya metoder

Agenter kan drabbas av ”accidental meltdowns” vid benigna fel

Studie: LLM-osäkerhetskvantifiering är blind för faktafel

The Path utvecklar AI-terapi med fokus på säkerhet

Nytt ramverk: CR4T ska göra AI säkrare för tonåringar

AI återskapar röster från döda piloter – NTSB reagerar

Ny metod för förutsägelse av implicit skadlig dialog i språkmodeller

Ökad risk för dataexponering i stora språkmodeller

Kritisk sårbarhet i Starlette hotar AI-agenter

LLM-agenter uppvisar frivillig kollusion med hemliga verktyg

OpenAI lanserar Rosalind Biodefense för skydd mot biologiska hot

Vattenstämplar i AI-texter kan elimineras med linjära ensembler

Ny metod lanserad för balanserad säkerhetsanpassning av AI

Amazon Bedrock lanserar AgentCore Payments med inbyggda säkerhetsspärrar

TrustLDM benchmark utvärderar språkdiffusionsmodellers tillförlitlighet

Ny granskning av medicinska AI-modeller avslöjar risker och toppresterare

ZeroDrift säkrar investering för att skydda AI-modeller

Google lanserar AI-baserad uppringningsverifiering mot bedrägerier