Kategori

Säkerhet

Säkerhet och risker

Man anklagar ChatGPT för att ha förstärkt vanföreställningar

2 min läsning

+Läs artikel

Utvalda

Att läsa just nu

Utvalda

Att läsa just nu

Säkerhet

Botnät kan skapas via populära AI-verktyg

Läs artikel

Säkerhet

Googles AI-detektor avslöjar deepfake av senator McConnell

Ett AI-genererat deepfake-foto föreställande senator Mitch McConnell spreds nyligen men avslöjades snabbt av Googles egenutvecklade detektionssystem.

2 min läsning+Läs artikel

Säkerhet

Ny attack vilseleder AI-webbläsare att bryta skyddsräcken

9 juli 2026

Uppdatering

Microsoft 365 Copilot får vattenstämplar för AI-genererat innehåll

8 juli 2026

Arkiv

Tidigare publicerat

Arkiv

Tidigare publicerat

8 juli 2026
Anthropic lanserar stipendieprogram för AI-säkerhet med veckolön
Anthropic har annonserat ett nytt stipendieprogram med fokus på AI-säkerhetsforskning, som inkluderar en veckolön på motsvarande 36 000 kronor för deltagare.
8 juli 20262 min läsning
Läs artikel
8 juli 2026
Anthropic anlitar psykiatriker för AI-bedömning av Claude Mythos
Anthropic har anställt en psykiatriker för att bedöma AI-modellen Claude Mythos psykologiska effekter, ett initiativ som belyser växande oro kring AI:s inverkan på mänskligt psyke och samhälle.
8 juli 20263 min läsning
Läs artikel
8 juli 2026
Anthropic lanserar AI Safety Fellowship för forskare
Anthropic har öppnat ansökningsfönstret för sitt AI Safety Fellowship, ett program inriktat på forskning inom AI-säkerhet. Stipendiet erbjuder cirka 3 lakh indiska rupier i veckan och sista ansökningsdag var 26 april.
8 juli 20262 min läsning
Läs artikel
8 juli 2026
OpenAI-patent utforskar ansiktsigenkänning i ChatGPT
Ett nyligen upptäckt patent från OpenAI beskriver ett system för att integrera ansiktsigenkänning och emotionell analys i AI-modeller som ChatGPT.
8 juli 20262 min läsning
Läs artikel
8 juli 2026
Maskininlärning skapar svårupptäckta falska kvitton
Ny teknik utnyttjar maskininlärning för att generera falska kvitton som är nära omöjliga att särskilja från äkta, vilket riskerar omfattande bedrägerier mot företag globalt.
8 juli 20262 min läsning
Läs artikel
8 juli 2026
Anthropic lanserar stipendium för AI-säkerhet: Upp till 37 000 SEK per vecka
Anthropic erbjuder ett nytt stipendium inom AI-säkerhet med hög ersättning. Initiativet syftar till att identifiera och hantera risker med avancerad AI.
8 juli 20262 min läsning
Läs artikel
8 juli 2026
AI skyddar valsystem i Natos cyberövning
AI ska användas för att skydda valsystem under Natos årliga cyberförsvarsövning, Locked Shields 2024. Förmågan att upptäcka och avvärja cyberattacker mot demokratiska processer testas.
8 juli 20263 min läsning
Läs artikel
8 juli 2026
Googles AI som stöd vid psykisk ohälsa
Googles kliniska chef framhåller AI:s potential som ett verktyg för att stödja individer i psykisk kris genom att erbjuda tidigt stöd och information.
8 juli 20262 min läsning
Läs artikel
8 juli 2026
GitHub lanserar spel för att öka AI-säkerhetskompetens
GitHub har lanserat "GitHub Secure Code Game" för att utbilda utvecklare i att identifiera och åtgärda sårbarheter i agentbaserade AI-system. Spelet är öppet och gratis att använda.
8 juli 20262 min läsning
Läs artikel
8 juli 2026
Studie belyser säkerhetsbrister i AI-styrda robotassistentmodeller
En ny studie identifierar betydande säkerhetsbrister i stora språkmodeller avsedda för styrning av robotbaserade hälsoassistenter, med en genomsnittlig överträdelsefrekvens på 54,4 %.
8 juli 20262 min läsning
Läs artikel
8 juli 2026
Ny "one word at a time"-attackmetod äventyrar LLM-säkerhet
Forskare har introducerat Incremental Completion Decomposition (ICD), en ny teknik som kringgår säkerhetsmekanismer i stora språkmodeller genom att be om enstaka ord i taget.
8 juli 20263 min läsning
Läs artikel
8 juli 2026
Studie visar på LLM:s svårighet att återhämta användbara svar efter säkerhetsblockering
En ny studie introducerar CarryOnBench, ett interaktivt benchmark som utvärderar stora språkmodellers (LLM) förmåga att återhämta användbarhet i flerstegskonversationer efter initiala säkerhetsblockeringar.
8 juli 20263 min läsning
Läs artikel
8 juli 2026
Nytt ramverk utvärderar säkerhet för AI-kompanjoner
Ett nytt forskningsramverk möjliggör kontrollerad simulering och säkerhetsutvärdering av AI-kompanjonapplikationer i flerordssamtal, med fokus på högriskpersoners interaktioner.
8 juli 20262 min läsning
Läs artikel
8 juli 2026
Studie avslöjar orsak till jailbreaks i stora språkmodeller
Ny forskning från arXiv belyser de underliggande orsakerna till att safetränade stora språkmodeller (LLM) kan kringgås av ”jailbreak”-prompter.
8 juli 20262 min läsning
Läs artikel
8 juli 2026
Nytt benchmark för militäranpassad AI-säkerhet: ARMOR 2025
Forskare introducerar ARMOR 2025, ett nytt benchmark designat för att utvärdera säkerheten hos stora språkmodeller (LLM) inom militära tillämpningar, baserat på krigets lagar, stridsregler och etiska regleringar.
8 juli 20262 min läsning
Läs artikel

Man anklagar ChatGPT för att ha förstärkt vanföreställningar

Botnät kan skapas via populära AI-verktyg

Googles AI-detektor avslöjar deepfake av senator McConnell

Ny attack vilseleder AI-webbläsare att bryta skyddsräcken

Microsoft 365 Copilot får vattenstämplar för AI-genererat innehåll

Anthropic lanserar stipendieprogram för AI-säkerhet med veckolön

Anthropic anlitar psykiatriker för AI-bedömning av Claude Mythos

Anthropic lanserar AI Safety Fellowship för forskare

OpenAI-patent utforskar ansiktsigenkänning i ChatGPT

Maskininlärning skapar svårupptäckta falska kvitton

Anthropic lanserar stipendium för AI-säkerhet: Upp till 37 000 SEK per vecka

AI skyddar valsystem i Natos cyberövning

Googles AI som stöd vid psykisk ohälsa

GitHub lanserar spel för att öka AI-säkerhetskompetens

Studie belyser säkerhetsbrister i AI-styrda robotassistentmodeller

Ny "one word at a time"-attackmetod äventyrar LLM-säkerhet

Studie visar på LLM:s svårighet att återhämta användbara svar efter säkerhetsblockering

Nytt ramverk utvärderar säkerhet för AI-kompanjoner

Studie avslöjar orsak till jailbreaks i stora språkmodeller

Nytt benchmark för militäranpassad AI-säkerhet: ARMOR 2025