Kategori

Säkerhet

Säkerhet och risker

Nvidias nya Nemotron 3.5 säkrar AI-genererat innehåll

3 min läsning

+Läs artikel

Utvalda

Att läsa just nu

Utvalda

Att läsa just nu

Nyhet

Svenska experter: Bekämpa AI-cyberhot med AI

Läs artikel

Lansering

OpenAI lanserar "Lockdown Mode" mot prompt injection-attacker

OpenAI introducerar "Lockdown Mode" för ChatGPT Enterprise-användare. Syftet är att skydda känslig data från obehörig åtkomst via prompt injection-attacker, en växande säkerhetsrisk.

2 min läsning+Läs artikel

Nyhet

Svenska experter: Bekämpa AI-drivna cyberhot med AI

6 juli 2026

Nyhet

AI Sweden och KTH rekommenderar AI mot cyberhot

6 juli 2026

Arkiv

Tidigare publicerat

Arkiv

Tidigare publicerat

6 juli 2026
Ny oberoende visselblåsarfunktion för AI-missbruk lanserad
En ny extern kanal för att rapportera AI-system som uppvisar skadligt beteende har lanserats. Detta initiativ syftar till att möjliggöra systematisk insamling av incidenter utanför företagsinterna system.
6 juli 20262 min läsning
Läs artikel
28 juni 2026
SafeGene: Återanvändbara adaptrar för säkerhetsanpassning av LLM
Forskare introducerar SafeGene, ett system som syftar till att bevara säkerhetsanpassningen i stora språkmodeller (LLM) vid anpassning för nya uppgifter.
28 juni 20262 min läsning
Läs artikel
28 juni 2026
Strategiska AI-attacker minskar säkerheten i kontrollsystem
Ny forskning visar att strategiskt valda attacktillfällen av AI-agenter signifikant minskar den upplevda säkerheten i AI-kontrollramar, även med små granskningsbudgetar.
28 juni 20262 min läsning
Läs artikel
26 juni 2026
Check Point integrerar OpenAI för cybersäkerhet
Check Point Software Technologies integrerar OpenAI:s cybersäkerhetsfunktioner i sina produkter för att stärka hotförebyggande och incidenthantering.
26 juni 20262 min läsning
Läs artikel
26 juni 2026
Studie: NVC-principer minskar konflikt i AI-konversationer
En ny studie visar att implementering av Nonviolent Communication (NVC) principer i stora språkmodeller (LLM) signifikant reducerar eskalerande beteenden i dialoger.
26 juni 20262 min läsning
Läs artikel
26 juni 2026
OpenAI:s AI upptäckte 23 år gammal bugg i OpenBSD
OpenAI har lanserat en breddad säkerhetsplattform Daybreak, med AI-verktyg som framgångsrikt identifierade en 23 år gammal sårbarhet i OpenBSDs kärna.
26 juni 20262 min läsning
Läs artikel
26 juni 2026
Ny metod upptäcker och motverkar inställsamhet i AI-modeller
Forskare har utvecklat en iterativ datapipeline för att upptäcka och styra bort AI-modellers tendens till inställsamhet, vilket förbättrar kontrollen över modellbeteenden.
26 juni 20262 min läsning
Läs artikel
25 juni 2026
Patronus AI tar in 50 miljoner dollar för AI-testning
Patronus AI, en startup grundad av tidigare Meta AI-forskare, har säkrat 50 miljoner dollar i finansiering för att utveckla system för testning av AI-agenter.
25 juni 20262 min läsning
Läs artikel
25 juni 2026
OpenAI lanserar Daybreak för stärkt cybersäkerhet
OpenAI har lanserat initiativet Daybreak, med fokus på "Patch the Planet" för att stärka cybersäkerheten i öppen källkod. Samarbetet med Trail of Bits syftar till att effektivisera sårbarhetshantering.
25 juni 20262 min läsning
Läs artikel
25 juni 2026
OpenAI lanserar Daybreak för automatiserad cybersäkerhet
OpenAI har lanserat Daybreak, en initiativ som syftar till att automatisera upptäckten och åtgärdandet av sårbarheter med AI, inklusive den nya GPT-5.5-Cyber.
25 juni 20262 min läsning
Läs artikel
25 juni 2026
Meta lanserar Llama Guard 4: Förbättrad säkerhetsmodell för AI
Meta har lanserat Llama Guard 4, en ny säkerhetsmodell designad för att upptäcka problematiska uppmaningar och svar i AI-system, särskilt i kombination med Llama 4-serien.
25 juni 20262 min läsning
Läs artikel
25 juni 2026
Ny metod upptäcker "jailbreaks" i LLM baserat på intern entropidynamik
Forskare har utvecklat en metod för att upptäcka "jailbreaks" i stora språkmodeller genom att analysera prediktiv entropidynamik i modellens mellanlager, vilket erbjuder en intern försvarsmekanism.
25 juni 20262 min läsning
Läs artikel
24 juni 2026
Ny finjustering förebygger AI-felaktighetsanpassning
Forskare har utvecklat en ny teknik, självgenererad textigenkänning (SGTR) finjustering, som kan motverka och förhindra "emergent misalignment" (EM) i stora språkmodeller.
24 juni 20262 min läsning
Läs artikel
24 juni 2026
Studie: LLM:er brister i hantering av psykisk ohälsa (förutom självmord/självskadebeteende)
En ny studie visar att stora språkmodeller (LLM:er) uppvisar markanta brister i hantering av psykisk ohälsa, med undantag för självmords- och självskadebeteende. Vissa tillstånd hade 100% felfrekvens.
24 juni 20262 min läsning
Läs artikel
24 juni 2026
OpenAI lanserar Daybreak och GPT-4.5-Cyber för cybersäkerhet
OpenAI utökar sitt cybersäkerhetsprogram Daybreak och lanserar den fullständiga versionen av GPT-4.5-Cyber för att automatisera patchning och förbättra försvar mot cyberhot.
24 juni 20262 min läsning
Läs artikel

Nvidias nya Nemotron 3.5 säkrar AI-genererat innehåll

Svenska experter: Bekämpa AI-cyberhot med AI

OpenAI lanserar "Lockdown Mode" mot prompt injection-attacker

Svenska experter: Bekämpa AI-drivna cyberhot med AI

AI Sweden och KTH rekommenderar AI mot cyberhot

Ny oberoende visselblåsarfunktion för AI-missbruk lanserad

SafeGene: Återanvändbara adaptrar för säkerhetsanpassning av LLM

Strategiska AI-attacker minskar säkerheten i kontrollsystem

Check Point integrerar OpenAI för cybersäkerhet

Studie: NVC-principer minskar konflikt i AI-konversationer

OpenAI:s AI upptäckte 23 år gammal bugg i OpenBSD

Ny metod upptäcker och motverkar inställsamhet i AI-modeller

Patronus AI tar in 50 miljoner dollar för AI-testning

OpenAI lanserar Daybreak för stärkt cybersäkerhet

OpenAI lanserar Daybreak för automatiserad cybersäkerhet

Meta lanserar Llama Guard 4: Förbättrad säkerhetsmodell för AI

Ny metod upptäcker "jailbreaks" i LLM baserat på intern entropidynamik

Ny finjustering förebygger AI-felaktighetsanpassning

Studie: LLM:er brister i hantering av psykisk ohälsa (förutom självmord/självskadebeteende)

OpenAI lanserar Daybreak och GPT-4.5-Cyber för cybersäkerhet