Responsible Artificial Intelligence

Vi studerar den etiska och samhälleliga effekten av AI genom utvecklingen av verktyg och metoder som designar, övervakar och utvecklar pålitliga AI-system och applikationer.
Vår forskning handlar inte bara om utvecklingen av intelligenta system utan också om att förstå effekterna av deras användning på våra samhällen. Vi arbetar för att säkerställa den etiska tillämpningen av artificiell intelligens (AI), både genom offentligt engagemang och frekvent interaktion med politiska beslutsfattare, och genom att underlätta konstruktionen av ansvarsfull AI.

Vårt mångsidiga tvärvetenskapliga forskningsprogram syftar till att hjälpa alla relevanta aktörer att få tillgång till medel och verktyg för att utveckla, distribuera, driva och styra system, samtidigt som alla etiska, juridiska och socioekonomiska konsekvenser beaktas.

Forskningsämnen och frågor

• AI-styrning: Vilka etiska, juridiska och socioekonomiska frågor uppstår från aktiviteten hos autonoma intelligenta agenter i team? Hur kan aktivitet regleras? Vilka är de moraliska och juridiska värden som vi vill att våra system ska följa?
• Systemteknik för AI: Hur kan vi utveckla intelligenta system med modulär underhållskod? Hur kan vi effektivt utveckla system som följer våra moraliska och juridiska värderingar?
• Analys och formalisering av social interaktion: Syftet är att studera effekten av social och organisatorisk struktur med hänsyn till deltagarnas autonomi och heterogenitet och de samhälleliga och juridiska värden som finns i sammanhanget. För detta ändamål utvecklar vi formella teorier och en beräkningsarkitektur för agentöverläggning baserad på social praxis.
• Design och utvärdering av lagarbete mellan mänskliga agenter: Den centrala forskningsfrågan är hur människor interagerar (förhandlar, litar på, samarbetar) med autonoma kognitiva enheter i en social miljö och utveckling av agentbaserade simuleringar av komplexa socio-tekniska områden.

Besökande stipendieprogram

AI -forskargrupperna vid Institutionen för datavetenskap, Umeå universitet, har inrättat ett Visiting Fellowship-program för att främja utvecklingen av kontakter med internationella forskare (minst 5 år efter doktorsexamen). Detta stipendium är ett spännande tillfälle för forskare att besöka institutionen, bidra till dess akademiska liv och bilda nya samarbeten. Fokus för stipendiet ligger på effekterna av artificiell intelligens, i vid bemärkelse, en nyckelstyrka och enande egenskap hos AI -klustret, eller på ett väsentligt intresseområde inom AI -klustret.

Förslag på samarbetsforskning med medlemmar i AI -klustret är särskilt välkomna. Sökande uppmanas därför starkt att engagera sig i interaktion med medlemmarna i klustret innan de skickar in sin ansökan om besökande stipendieprogram. Vi räknar med att stödja 3 till 5 stipendier per år.

Ansökningar om besöksstipendium är för närvarande stängda. Meddelanden för stipendiater hösten 2020/vintern 2021 tillkännagavs i maj 2020.
Stipendiater för 2020/2021 är:
• Hans Weigand, Nederländerna (uppskjuten till 2021)
• Rui Prada, Portugal (skjutas upp till 2021)
• Mark Klein, USA
• Hans van Ditmarsch, Frankrike
• Aurelie Clodic, Frankrike
• Catriona Kennedy, Storbritannien
• Stephen Cranefield, Nya Zeeland