NYHET Vetenskapsrådet har beviljat 5,8 miljoner till forskningsprojektet HYDE – Mänsklig agens och rättsstatlighet i semi-automatiserat beslutsfattande.
BildMostphotos
– Det känns verkligen jättekul, vi har i projektgruppen haft ett riktigt bra samarbete när vi jobbat fram ansökan och vi är riktigt glada att få komma igång med denna forskning, säger Markus Naarttijärvi, projektledare och docent vid Juridiska institutionen.
Projektet kommer studera rättsliga frågor rörande det ökade bruket av semi-automatiserat beslutsfattande inom områden som påverkar grundläggande rättigheter, specifikt inom brottsbekämpning, sociala välfärdssystem och inom moderering av hemsidor och sociala medier. Inom dessa områden kommer allt fler politiska krav på digitalisering och effektivisering och det implementeras system där mänskliga beslutsfattare interagerar med olika former algoritmiska beslutssystem. Det lägger sedan grunden för en form av hybrid-beslut som kombinerar mänsklig och artificiell intelligens. Sådana beslut kan exempelvis röra vem som ska bli föremål för polisens intresse, vem som väljs ut för skärpta kontroller i socialförsäkringen, eller vilka inlägg som anses utgöra desinformation eller kränkningar på nätet.
- De rättsliga förutsättningarna för att använda sådana beslutssystem är till stor del outforskade och i takt med att domstolar och tillsynsmyndigheter granskar deras tillämpning har de börjat finna problem i fråga om legalitet, transparens och proportionalitet. Det gömmer sig därför en hel del rättsstatliga oklarheter i bruket av dessa system även när de inte agerar helt utan mänsklig kontroll, menar Markus Naarttijärvi.
Forskningen inom projektet hoppas bland annat kunna klargöra vilket ansvar som åligger mänskliga beslutsfattare när de använder sådana system, liksom hur hybrid-system för beslutsfattande påverkar det mänskliga beslutsfattandet och möjligheten till självständiga bedömningar. Det kan i sin tur leda både till kunskap om hur beslutssystem bör regleras som hur de kan implementeras för att inte kollidera med rättsliga krav.
Projektet löper på fyra år och i projektet deltar docent Markus Naarttijärvi, docent Therese Enarsson och biträdande universitetslektor Lena Enkvist från juridiska institutionen, samt Daniel Nylén, universitetslektor vid Informatik. Forskningsgruppen bildades som ett resultat av aktiviteter inom universitetets tvärvetenskapliga forskningsmiljö DIGSUM rörande AI och samhälle.
- Det här anslaget hade inte kunnat bli möjligt utan den inspirerande miljö som finns inom DIGSUM, både i fråga om att skapa kontakter och i att inspirera nya forskningsfrågor, det har varit avgörande säger Markus Naarttijärvi.
