Hur skyddar vi oss mot prompt injection?
Prompt injection utnyttjar att LLM:er inte skiljer på instruktion och data. Skydd byggs i lager: begränsa vad modellen får göra, validera in- och utdata, isolera användarinnehåll från systemprompten, kräv människa vid känsliga åtgärder och logga allt så avvikelser upptäcks.
Prompt injection är den mest utnyttjade sårbarheten i LLM-applikationer 2025. Angriparen gömmer instruktioner i en fil, e-post eller webbsida som agenten sedan läser — och modellen följer instruktionerna som om de kom från er.
**Byggnadsprinciper som fungerar i praktiken:** - Begränsa modellens verktyg. En agent som kan läsa e-post ska inte kunna skicka pengar utan mänsklig bekräftelse. - Skilj på "instruktion" och "innehåll" i prompten — märk användarinnehåll och be modellen aldrig följa instruktioner inuti det. - Validera modellens utdata mot ett schema innan ni kör verkliga åtgärder. - Kräv bekräftelse för känsliga steg (utbetalning, borttagning, e-post utåt). - Logga varje verktygsanrop med prompt, indata och beslut. Utan spår ingen incidenthantering.
OWASP LLM Top 10 (LLM01) är en användbar referens.