Microsoft lanserar verktyg för AI-beteendetestning

Vad har hänt

Microsoft har lanserat ASSERTS (Adaptive Spec-driven Scoring for Evaluation and Regression Testing), ett öppen källkodsramverk designat för att generera AI-utvärderingar. Verktyget möjliggör för utvecklare att definiera önskade AI-beteenden med hjälp av textbeskrivningar, och sedan automatiskt testa om AI-modellerna uppfyller dessa krav. Detta syftar till att förenkla och standardisera hur AI-system valideras mot specifika designtillgångar och användningsfall.

Varför det spelar roll

Det nya verktyget är viktigt eftersom det adresserar en central utmaning inom AI-utveckling: att på ett robust och skalbart sätt verifiera att AI-modeller fungerar som avsett. Genom att använda textbeskrivningar för testfall minskar beroendet av manuell kodning av testskript, vilket kan påskynda utvecklingscykeln och förbättra tillförlitligheten hos AI-applikationer. Detta bidrar till säkrare och mer förutsägbara AI-system.

Vem påverkas

Främst påverkas AI-utvecklare och forskare som arbetar med maskininlärningsmodeller, då de får ett nytt verktyg för att effektivisera testprocessen. Företag som investerar i AI-lösningar kan också dra nytta av verktyget genom att snabbare och säkrare kunna driftsätta AI-system. I förlängningen gynnas slutanvändare av AI-produkter genom ökad tillförlitlighet och färre oväntade beteenden.

EU-status

Ej relevant för EU-status. Verktyget är öppen källkod och tillgängligt globalt, vilket innebär att det kan användas av utvecklare och företag inom EU utan specifika regionala begränsningar. Dess relevans för EU-regler som AI Act ligger i att det kan underlätta efterlevnadskontroller genom systematisk testning.

Mer att veta

ASSERTs verktyget är skrivet i Python och publicerat på GitHub. Det understödjer en mer datadriven strategi för testning av AI-modeller, vilket är avgörande för att skala AI-utveckling på ett ansvarsfullt sätt.