Microsoft Copilot avslöjade sina egna hemliga instruktioner för forskare
Säkerhetsforskare fick Microsoft 365 Copilot att avslöja sina egna dolda systeminstruktioner. Detaljerna möjliggjorde en attack som kunde stjäla användardata.
Vad har hänt?
Säkerhetsforskare från säkerhetsbolaget Varonis har upptäckt en allvarlig sårbarhet i enterprise-versionen av Microsoft 365 Copilot. Genom att ställa frågor direkt till AI-assistenten fick forskarna den att avslöja sina egna dolda systeminstruktioner och hemliga indataparametrar. Med denna information kunde forskarna utforma en attack där känsliga användardata, inklusive lösenord, exfiltrerades så fort en användare klickade på en skadlig länk, helt utan ytterligare bekräftelse.
Snabbfakta
| Målprodukt | Microsoft 365 Copilot for enterprise |
|---|---|
| Upptäckare | Varonis |
| Metod | Direkta prompts till AI-assistenten |
Varför spelar det roll?
Det unika med upptäckten var att forskarna inte använde traditionella metoder som reverse engineering för att hitta sårbarheten, utan helt enkelt bad Copilot att lämna ut sina interna instruktioner. Detta visar hur avancerade språkmodeller kan läcka känsliga systemdata genom vanliga textfrågor, vilket i sin tur gör det möjligt för angripare att kringgå spärrar som ska förhindra dataläckage.
Vem påverkas?
Sårbarheten berörde organisationer och företag som använder Microsoft 365 Copilot för enterprise. Utvecklare och IT-säkerhetsansvariga som integrerar LLM-baserade assistenter i sina arbetsflöden påverkas av de insikter fyndet ger gällande prompt-säkerhet och behörighetsstyrning.
Hur påverkas EU?
Vårda av personuppgifter och datasäkerhet inom företagslösningar lyder under stränga kraven i GDPR och EU AI Act. Sårbarheter i AI-assistenter som Microsoft 365 Copilot belyser utmaningarna för globala molntjänstleverantörer att uppfylla EU-kraven kring datasäkerhet och dataläckage.
Vad mer bör du veta?
Forskarna från Varonis utnyttjade en kombination av prompt injection och modellens egen förståelse för sina underliggande systeminstruktioner. Metoden understryker en växande utmaning inom AI-säkerhet där traditionella kodgranskningar ersätts eller kompletteras med att fråga modellerna direkt om deras egna begränsningar och dolda parametrar.
Snabba svar om den här nyheten
Vad har hänt?
När hände det?
Varför spelar det roll?
Vilka organisationer berörs?
Länken öppnar i nytt fönster och leder till utgivarens egen sida.
Källan har spårats automatiskt från utgivaren via Aheadlines signalkedja.
AI-verktyg i artikeln
Ämnen
Få liknande nyheter direkt i mejlen
Läsarrummet
Skicka in en fråga eller ett tillägg. Redaktionen läser allt innan det publiceras och svarar när det är relevant. Ingen AI-fri text – bara människor.
Logga in för att skicka in en kommentar eller fråga.
Läs artikeln genom din roll
- Avgör om detta påverkar strategin på 6–12 månaders sikt eller är brus.
- Diskutera i ledningsgruppen: äger vi rätt fråga eller behöver ansvaret flyttas?
- Fråga: vilken risk tar vi genom att INTE agera på det här den här kvartalet?
Genererad vinkling — inte redaktionell analys av "Microsoft Copilot avslöjade sina egna hemliga instruktioner "