Hoppa direkt till innehållet
printicon
Huvudmenyn dold.

Responsible Artificial Intelligence

Forskargrupp Forskargruppen i ansvarsfull AI bildades för att studera de etiska och samhälleliga effekterna av AI, och samtidigt stödja beslutsfattare genom att utveckla verktyg och metoder för att mildra negativa effekter.

Vi studerar den etiska och samhälleliga effekten av AI genom utvecklingen av verktyg och metoder som designar, övervakar och utvecklar pålitliga AI-system och applikationer.
Vår forskning handlar inte bara om utvecklingen av intelligenta system utan också om att förstå effekterna av deras användning på våra samhällen. Vi arbetar för att säkerställa den etiska tillämpningen av artificiell intelligens (AI), både genom offentligt engagemang och frekvent interaktion med politiska beslutsfattare, och genom att underlätta konstruktionen av ansvarsfull AI.

Vårt mångsidiga tvärvetenskapliga forskningsprogram syftar till att hjälpa alla relevanta aktörer att få tillgång till medel och verktyg för att utveckla, distribuera, driva och styra system, samtidigt som alla etiska, juridiska och socioekonomiska konsekvenser beaktas.

Forskningsämnen och frågor

  • AI-styrning: Vilka etiska, juridiska och socioekonomiska frågor uppstår från aktiviteten hos autonoma intelligenta agenter i team? Hur kan aktivitet regleras? Vilka är de moraliska och juridiska värden som vi vill att våra system ska följa?
  • Systemteknik för AI: Hur kan vi utveckla intelligenta system med modulär underhållskod? Hur kan vi effektivt utveckla system som följer våra moraliska och juridiska värderingar?
  • Analys och formalisering av social interaktion: Syftet är att studera effekten av social och organisatorisk struktur med hänsyn till deltagarnas autonomi och heterogenitet och de samhälleliga och juridiska värden som finns i sammanhanget. För detta ändamål utvecklar vi formella teorier och en beräkningsarkitektur för agentöverläggning baserad på social praxis.
  • Design och utvärdering av lagarbete mellan mänskliga agenter: Den centrala forskningsfrågan är hur människor interagerar (förhandlar, litar på, samarbetar) med autonoma kognitiva enheter i en social miljö och utveckling av agentbaserade simuleringar av komplexa socio-tekniska områden.

Besökande stipendieprogram

AI -forskargrupperna vid Institutionen för datavetenskap, Umeå universitet, har inrättat ett Visiting Fellowship-program för att främja utvecklingen av kontakter med internationella forskare (minst 5 år efter doktorsexamen). Detta stipendium är ett spännande tillfälle för forskare att besöka institutionen, bidra till dess akademiska liv och bilda nya samarbeten. Fokus för stipendiet ligger på effekterna av artificiell intelligens, i vid bemärkelse, en nyckelstyrka och enande egenskap hos AI -klustret, eller på ett väsentligt intresseområde inom AI -klustret.

Förslag på samarbetsforskning med medlemmar i AI -klustret är särskilt välkomna. Sökande uppmanas därför starkt att engagera sig i interaktion med medlemmarna i klustret innan de skickar in sin ansökan om besökande stipendieprogram. Vi räknar med att stödja 3 till 5 stipendier per år.

Ansökningar om besöksstipendium är för närvarande stängda. Meddelanden för stipendiater hösten 2020/vintern 2021 tillkännagavs i maj 2020.
Stipendiater för 2020/2021 är:
• Hans Weigand, Nederländerna (uppskjuten till 2021)
• Rui Prada, Portugal (skjutas upp till 2021)
• Mark Klein, USA
• Hans van Ditmarsch, Frankrike
• Aurelie Clodic, Frankrike
• Catriona Kennedy, Storbritannien
• Stephen Cranefield, Nya Zeeland

Forskningsledare

Översikt

Medverkande institutioner och enheter vid Umeå universitet

Institutionen för datavetenskap

Forskningsområde

Datavetenskap

Projekt

Modellering av ångest för användning inom AI
Tid 1 juni 2021 till 31 maj 2025
Typ av projekt Forskningsprojekt
Strategic Argumentation för att hantera interaktion mellan intelligenta system och människor
Tid 1 oktober 2020 till 30 september 2024
Typ av projekt Doktorandprojekt
Trust AI - Trustworthy AI
Forskningsområde: Datavetenskap
Tid 1 september 2020 till 31 augusti 2022
Typ av projekt Forskningsprojekt
ASSOCC
Forskningsområde: Datavetenskap
Tid 1 mars 2020
Typ av projekt Forskningsprojekt
Responsible Artificial INtelligence (RAIN)
Forskningsområde: Datavetenskap
Tid 1 januari 2020 till 31 december 2021
Typ av projekt Forskningsprojekt
HumaneAI-Net
Forskningsområde: Datavetenskap
Tid 1 januari 2020 till 31 december 2023
Typ av projekt Forskningsprojekt
Bias-free chatbots
Forskningsområde: Datavetenskap
Tid 2 september 2019 till 28 augusti 2020
Typ av projekt Forskningsprojekt
AI, Democracy and Self-Determination
Tid 1 september 2019 till 1 september 2023
Typ av projekt Forskningsprojekt
Hållbar AI
Forskningsområde: Datavetenskap
Tid 1 maj 2019 till 1 maj 2021
Typ av projekt Forskningsprojekt
Kollaborativt mixed-reality hjälpmedel för barn och unga med autism
Forskningsområde: Datavetenskap
Tid 1 april 2019 till 1 september 2020
Typ av projekt Forskningsprojekt
HumaneAI
Forskningsområde: Datavetenskap
Tid 1 mars 2019 till 30 april 2020
Typ av projekt Forskningsprojekt
AI4EU
Forskningsområde: Datavetenskap
Tid 1 januari 2019 till 31 december 2022
Typ av projekt Forskningsprojekt
AI Glass Box - AI glaslåda
Forskningsområde: Datavetenskap
Tid 1 januari 2019 till 31 december 2024
Typ av projekt Forskningsprojekt
AI-forskare om digital brottslighet

AI-forskare ger sin syn på digital brottslighet.

Anslag till ansvarsfull AI

Umeåforskare får 1,5 miljoner kronor för forskning om AI-system och etiska och sociala värden.

Virginia Dignum på världslista för AI och etik

Virginia Dignum på världslista över influencers inom AI och etik.