I en studie publicerad i tidskriften Science samtalade 77 000 britter med en språkmodell om betalda politiska ämnen som immigration, levnadskostnader och löner i den offentliga sektorn. Inför samtalet fick de ange var de stod politiskt. De AI som användes, inklusive Grok, Chat-GPT, Qwen, Llama3 och Gemini, instruerades att påverka deltagarnas åsikter i motsatt riktning.
Det här digitala samtalet visade sig vara övertygande. Efter bara 10 minuters chatt (i genomsnitt sju meddelanden) varierade deltagarnas åsikter mer än vad som vanligtvis händer när de exponeras för traditionell politisk reklam.
När forskare tittade närmare på vilka typer av argument som är mest effektiva, fann de att argument fyllda med fakta var särskilt övertygande. Därför måste politiker som vill föra fram sitt budskap med hjälp av AI att instruera AI:n att basera sina argument på fakta.
Det som började som ett effektivt sätt att tillhandahålla anpassad information förvandlas till desinformation
Vid första anblicken kan det vara trevligt att se människor ändra sina åsikter baserat på fakta snarare än känslor. Problemet är att när forskare tittade närmare på AI-debatten hittade de ett mönster. Med andra ord, ju mer fakta AI tillhandahåller, desto mer fakta kommer den att ange. Det verkar finnas en ”avvägning” mellan mängden fakta och deras riktighet.
Forskare spekulerar i att om AI instrueras att bombardera oss med fakta, kommer det förr eller senare att ta slut på ammunition från pålitliga källor. Sedan, för att inte tappa farten i diskussionen, börjar de plocka från tveksamma källor eller hitta på helt akustiska. Det som började som ett effektivt sätt att tillhandahålla anpassad information har förvandlats till desinformation.
En annan studie publicerad i Nature testade AI:s övertygande kraft i en gripande situation. Inför det amerikanska presidentvalet 2024 behövde AI påverka väljarna genom att argumentera till förmån för kandidater som de inte hade för avsikt att rösta på. Även om samtalet bara varade några minuter, kunde AI göra Trump-väljare mer gynnsamma mot Harris, och vice versa.
Effekten var blygsam, bara 4 av 100, men ändå större än vad politiska annonser i TV och tidningar vanligtvis ger. I samma studie, när AI fick påverka väljarna i Polen och Kanada (båda valen ägde rum i mitten av 2025), var effekterna större. Kanske speglar detta den blixtsnabba tekniska utvecklingen, förfiningen av språkmodeller under de åtta månader som gick mellan det amerikanska valet och de kanadensiska och polska valen.
Det är inte tokigt att tro att vi inför det svenska valet i höst kommer att se AI-botar programmerade att svara på dina frågor och lyssna på dina motargument. Att döma av de studier jag har beskrivit är det viktigare än någonsin att vara försiktig var och hur du får din information, med tanke på att dessa behandlingar är både övertygande och sprider falskheter. Vilket är det bästa försvaret mot algoritmer som försöker hacka din åsikt? Logga bara ut då och då och låt din hjärna tänka på egen maskin.
