Hur påverkas individer, samhälle och demokrati när AI och politiska botar används allt mer och träder in i vår vardag? Det kommer nu att undersökas i två forskningsprojekt vid Umeå universitet inom det nationella forskningsprogrammet WASP-HS.

Johanna Björklund, lektor vid datavetenskapliga institutionen, Umeå universitet, får 6 miljoner kronor för ett treårigt projekt som belyser konsekvenserna när AI, artificiell intelligens, används för att placera budskap i digitala medier.

 – Frågan aktualiserades när den brittiska byrån Cambridge Analytica analyserade miljontals människors inlägg på Facebook i syfte att automatisera politisk annonsering, säger Johanna Björklund.

Ny ansvarsfull teknik

I sitt forskningsprojekt ”AI-baserad kontextuell kommunikation: Konsekvenser för individ och samhälle” kommer forskarna att genomföra studier och datainsamlingar på digitala nyhetsplattformar med aktiv annonsering, och där undersöka hur individer beter sig och reagerar på detta.

 –  Arbetet mynnar ut i en teori om AI-driven kontextuell kommunikation som gör det möjligt att använda den nya tekniken på ett effektivt och ansvarsfullt sätt, säger Johanna Björklund.

Utmanar demokratin

Simon Lindgren, professor vid sociologiska institutionen och DIGSUM vid Umeå universitet får 6 miljoner för sitt projekt ”Cyborgpolitik: En studie av artificiella agenter i demokratiska processer online”.

Artificiella agenter i form av sociala botar används alltmer av regeringar, lobbyister och aktivister för att försöka påverka den politiska debatten och manipulera opinionen.

 – De nyttjas till exempel för att dränka det offentliga samtalet med spam under kriser, konflikter och val för att störa andra aktörers arbete eller för att blåsa upp antalet följare och graden av politisk respons. Det här skapar en illusion av att vissa idéer är mer populära än vad de egentligen är, säger Simon Lindgren.  

Politiska botar används också för att sprida sofistikerad datordriven propaganda och för att iscensätta falska gräsrotsrörelser.

 – Vi kommer dels att undersöka vad de politiska robotarna säger och i vilka sociala nätverk de uppträder. Dessutom kommer vi att undersöka hur samhället kan identifiera och svara på förekomsten av dem för att hantera de utmaningar för demokratin som väcks, säger Simon Lindgren.

WASP-HS

Totalt har tolv nya projekt beviljats medel från det nationella forskningsprogrammet WASP-HS, varav två vid Umeå universitet. WASP-HS initierades 2019 av Marianne och Marcus Wallenbergs Stiftelse och Stiftelsen Marcus och Amalia Wallenbergs Minnesfond för studera hur teknikskiftet kommer att påverka vårt samhälle och våra beteenden. Läs mer om WASP-HS här