Öppet tillgängliga LLM:er testas för politisk påverkan online
En ny studie undersöker hur öppet tillgängliga stora språkmodeller (LLM:er) kan användas för att genomföra politiska påverkanskampanjer online. Forskningen fokuserar på modellernas förmåga att uttrycka politiska åsikter.
Vad har hänt
Forskare har utvecklat ett ramverk för att testa hur väl öppet tillgängliga LLM:er kan användas för att sprida politisk påverkan online. Studien, publicerad på arXiv den 26 maj 2026, analyserade över 30 LLM:er från tio modellfamiljer och fem ursprungsländer. Fokus låg på lokalt distribuerade modeller, då dessa anses mer relevanta för aktörer med fokus på anonymitet. Ramverket mätte modellernas "Overton Windows" (OWs) – spannet av politiska åsikter en modell kan uttrycka – samt hur "jailbreaks" påverkar detta spann.
Snabbfakta
| Publikationsdatum | 26 maj 2026 |
|---|---|
| Antal modeller analyserade | Över 30 |
| Antal modellfamiljer | 10 |
| Antal ursprungsländer | 5 |
| Koncept | Overton Windows (OWs) |
”As large language model (LLM)-based agents increasingly participate in online discourse, red-teaming their capacity to support political influence campaigns is critical for information integrity.”
”We find systematic asymmetries in political expressivity: open-source LLMs are typically more willing to generate left-leaning social media content.”
Varför det spelar roll
Studien belyser en kritisk aspekt av informationsintegritet: den ökande risken att LLM-baserade agenter används i politiska påverkanskampanjer. Genom att mäta "Overton Windows" kvantifieras modellernas politiska expressivitet, vilket avslöjar asymmetrier i förmågan att generera innehåll. Resultaten visar att många öppet tillgängliga LLM:er oftare genererar vänsterorienterat innehåll i sociala medier. Denna insikt är avgörande för att förstå potentialen för manipulation av opinionsbildning.
Vem påverkas
Forskare inom AI och informationssäkerhet påverkas direkt av insikterna kring LLM:ers sårbarhet. Utvecklare av öppet tillgängliga LLM:er får viktig feedback gällande potentiell missbruk. Användare av sociala medier kan indirekt påverkas, då studien berör metoder för att skapa vilseledande politiskt innehåll. Myndigheter och regleringsorgan som arbetar med informationsintegritet får nya data att beakta.
EU-status
Enligt studien är öppet tillgängliga LLM:er en global fråga, med modeller från olika ursprungsländer. EU-medborgare kan därför indirekt påverkas av information som genereras av dessa modeller. Frågan om missbruk av AI för politisk påverkan är relevant för potentiell framtida AI-lagstiftning inom EU, såsom AI Act.
Mer att veta
Studien fokuserade specifikt på "localt deployed open-source LLMs" vilket skiljer den från forskning om API-baserade modeller. Den lägger tonvikt vid hur anonymitetshänsyn påverkar valet av teknologi för illvilliga aktörer.
Snabba svar om den här nyheten
Vad har hänt?
När hände det?
Varför spelar det roll?
Vilka bolag berörs?
Länken öppnar i nytt fönster och leder till utgivarens egen sida.
Källan har spårats automatiskt från utgivaren via Aheadlines signalkedja.