Wallenberg satsar 30 miljoner på Umeåforskning om AI, makt och politik

Den snabba utvecklingen inom AI är inte bara teknisk, utan får långtgående konsekvenser för hur makt utövas, hur medborgare formas som politiska subjekt, och hur demokratin fungerar

Simon Lindgren har beviljats 30,3 miljoner kronor i finansiering från WASP-HS, Wallenberg AI, Autonomous Systems and Software Program – Humanities and Society, som projektledare för forskningsprogrammet "AI, Power and Politics". Han ser finansieringen som en stor framgång för DIGSUM, Centre for social research at Umeå university, och den Samhällsvetenskapliga forskningen vid Umeå universitet.

– Det kommer att knytas många juniorforskartjänster till programmet, och även stora möjligheter till samverkan både lokalt och internationellt, bland annat genom gästforskartjänster, säger Simon Lindgren.

Forskningsprogrammet samlar experter från flera discipliner och lärosäten, däribland Göteborgs universitet, Stockholms universitet och Institutet för framtidsstudier. Tillsammans ska de analysera AI:s effekter på opinionsbildning, demokratisk styrning och geopolitik. Simon Lindgren ska vid Umeå universitet studera effekter av AI på opinionsdynamik, demokrati och politisk styrning.

– Den snabba utvecklingen inom AI är inte bara teknisk, utan får långtgående konsekvenser för hur makt utövas, hur medborgare formas som politiska subjekt, och hur demokratin fungerar. Vi måste förstå dessa förändringar i grunden för att ha kontroll över utvecklingen, säger Simon Lindgren.

AI studeras på flera plan

Programmet organiseras i tre tematiska stråk som tillsammans visar AI:s roll i samhället ur olika perspektiv. Det första fokuserar på informationssystem och offentlig diskurs, där forskningen undersöker hur AI påverkar opinionsbildning, spridning av desinformation och styrning av digitala plattformar.

Vi kommer även att studera frågor om själva interaktionen mellan människa och maskin

Det andra stråket behandlar demokratiska värden och beslutsfattande, med särskild betoning på frågor om legitimitet, ansvar och transparens i AI-drivna styrsystem. Det tredje stråket rör geopolitik och AI-styrning och undersöker maktförhållanden mellan stater, företag och andra aktörer i den globala AI-utvecklingen.

– Vi kommer att studera AI, politik och makt i bred bemärkelse, det vill säga med fokus på sådant som opinionspåverkan/desinformation, manipulation, hur AI kan undergräva demokratiska processer. Vi kommer även att studera frågor om själva interaktionen mellan människa och maskin, och om hur AI kan styras och regleras på hållbara och etiska sätt, säger Simon Lindgren.

Målet är att kombinera teoretisk och tillämpad forskning för att stärka demokratisk motståndskraft och bidra med kunskap till såväl beslutsfattare som civilsamhälle och tekniksektor.

– Jag hoppas att vi kan bidra med kritisk kunskap som kan omsättas till konkreta verktyg för att stärka demokratisk motståndskraft. Det handlar delvis om att identifiera risker, men också om att visa på möjligheter till en mer inkluderande och socialt hållbar AI-utveckling, säger Lindgren.

Satsningen ingår i WASP-HS totala investering på 142,3 miljoner kronor i fem nya tvärvetenskapliga forskningskluster med fokus på AI inom humaniora och samhällsvetenskap.