Anthropic bjuder in EU att granska AI-säkerhet med "Mythos"

Vad har hänt

Anthropic, ett ledande AI-företag, har lämnat en inbjudan till EU:s tillsynsmyndigheter att engagera sig i och testa deras framstående cybersecurity AI-teknik, känd som "Mythos". Målet är att utforska och bedöma hur AI kan användas för att identifiera och åtgärda sårbarheter i digitala system.

Varför det spelar roll

Initiativet syftar till att bygga förtroende och transparens kring AI-utveckling, särskilt med tanke på AI-systemens snabba framsteg och de potentiella riskerna. Genom att låta tillsynsmyndigheter själva experimentera med tekniken hoppas Anthropic kunna visa dess kapacitet för både försvar och potentiella angrepp, vilket är avgörande för framtida AI-reglering.

Vem påverkas

Inbjudan riktar sig primärt till EU:s politiker och tillsynsmyndigheter som arbetar med cybersäkerhet och AI-lagstiftning. Indirekt påverkas även utvecklare av AI-system och företag som förlitar sig på AI-baserade säkerhetslösningar, då detta kan forma framtida standarder och krav.

EU-status

Inbjudan är specifikt riktad till EU och dess institutioner, vilket är direkt relevant för blockets arbete med AI Act och Data Act. Det är ett försök att proaktivt adressera regleringsfrågor och visa på ett samarbetsvilligt förhållningssätt till AI-styrning inom EU.

Mer att veta

Mythos är en defensiv AI-teknologi designad för att upptäcka och mitigera sårbarheter. Det är ett exempel på "red-teaming", där AI används för att simulera attacker i syfte att stärka försvar.