"False"
Hoppa direkt till innehållet
printicon
Huvudmenyn dold.

Bild: AdobeStock

Responsible Artificial Intelligence

Forskargrupp Forskargruppen i ansvarsfull AI bildades för att studera de etiska och samhälleliga effekterna av AI, och samtidigt stödja beslutsfattare genom att utveckla verktyg och metoder för att mildra negativa effekter.

Vi studerar den etiska och samhälleliga effekten av AI genom utvecklingen av verktyg och metoder som designar, övervakar och utvecklar pålitliga AI-system och applikationer. Vår forskning handlar inte bara om utvecklingen av intelligenta system utan också om att förstå effekterna av deras användning i våra samhällen. Vi arbetar för att säkerställa den etiska tillämpningen av artificiell intelligens (AI), både genom offentligt engagemang och frekvent interaktion med politiska beslutsfattare, och genom att underlätta konstruktionen av ansvarsfull AI. Vårt mångsidiga tvärvetenskapliga forskningsprogram syftar till att hjälpa alla relevanta aktörer att få tillgång till medel och verktyg för att utveckla, distribuera, driva och styra system, samtidigt som alla etiska, juridiska och socioekonomiska konsekvenser beaktas.

Forskningsämnen och frågor

  • AI-styrning: Vilka etiska, juridiska och socioekonomiska frågor uppstår från aktiviteten hos autonoma intelligenta agenter i team? Hur kan aktivitet regleras? Vilka är de moraliska och juridiska värden som vi vill att våra system ska följa?
  • Systemteknik för AI: Hur kan vi utveckla intelligenta system med modulär kod som går att underhålla? Hur kan vi effektivt utveckla system som följer våra moraliska och juridiska värderingar?
  • Analys och formalisering av social interaktion: Syftet är att studera effekten av social och organisatorisk struktur med hänsyn till deltagarnas autonomi och heterogenitet och de samhälleliga och juridiska värden som finns i sammanhanget. För detta ändamål utvecklar vi formella teorier och en beräkningsarkitektur för agentöverläggning baserad på social praxis.
  • Design och utvärdering av lagarbete mellan mänskliga agenter: Den centrala forskningsfrågan är hur människor interagerar (förhandlar, litar på, samarbetar) med autonoma kognitiva enheter i en social miljö och utveckling av agentbaserade simuleringar av komplexa socio-tekniska områden.

Forskningsledare

Juan Carlos Nieves Sanchez
Universitetslektor
E-post
E-post
Telefon
090-786 61 25

Översikt

Medverkande institutioner och enheter vid Umeå universitet

Institutionen för datavetenskap

Forskningsområde

Datavetenskap

Projekt

AQUITAS: Utvärdering och utveckling av rättvisa, opartiska och pålitliga AI-system
Tid 1 november 2022 till 1 oktober 2024
Typ av projekt Forskningsprojekt
Strategic Argumentation för att hantera interaktion mellan intelligenta system och människor
Tid 1 oktober 2020 till 30 september 2024
Typ av projekt Doktorandprojekt
Trust AI - Trustworthy AI
Forskningsområde: Datavetenskap
Tid 1 september 2020 till 31 augusti 2022
Typ av projekt Forskningsprojekt
ASSOCC
Forskningsområde: Datavetenskap
Tid 1 mars 2020
Typ av projekt Forskningsprojekt
Responsible Artificial INtelligence (RAIN)
Forskningsområde: Datavetenskap
Tid 1 januari 2020 till 31 december 2021
Typ av projekt Forskningsprojekt
HumaneAI-Net
Forskningsområde: Datavetenskap
Tid 1 januari 2020 till 31 december 2023
Typ av projekt Forskningsprojekt
Bias-free chatbots
Forskningsområde: Datavetenskap
Tid 2 september 2019 till 28 augusti 2020
Typ av projekt Forskningsprojekt
AI, Democracy and Self-Determination
Tid 1 september 2019 till 1 september 2023
Typ av projekt Forskningsprojekt
Hållbar AI
Forskningsområde: Datavetenskap
Tid 1 maj 2019 till 1 maj 2021
Typ av projekt Forskningsprojekt
Kollaborativt mixed-reality hjälpmedel för barn och unga med autism
Forskningsområde: Datavetenskap
Tid 1 april 2019 till 1 september 2020
Typ av projekt Forskningsprojekt
HumaneAI
Forskningsområde: Datavetenskap
Tid 1 mars 2019 till 30 april 2020
Typ av projekt Forskningsprojekt
AI4EU
Forskningsområde: Datavetenskap
Tid 1 januari 2019 till 31 december 2022
Typ av projekt Forskningsprojekt
AI Glass Box - AI glaslåda
Forskningsområde: Datavetenskap
Tid 1 januari 2019 till 31 december 2024
Typ av projekt Forskningsprojekt
Virginia Dignum, professor vid Institutionen för datavetenskap
Professorn: Så minskar vi riskerna med AI

Virginia Dignum arbetar med att utveckla AI-system som är pålitliga och anpassade till mänskliga värderingar.

Professor Nina Khairova i en ljus korridor, iklädd en beige tröja. Hennes hår är blont och kort och hon ler.
Nya AI-metoder mot desinformation och misinformation

Detekterar och förhindrar felaktig information om Ukraina.

Virginia Dignum i mellanlångt brunt hår och glasögon står utomhus, i närheten av naturen. Hon har en sjal lindad runt halsen och en vit tröja, samt kofta.
Nu startar nya AI Policy Lab

För en ansvarsfull implementering och användning av artificiell intelligens.

Senast uppdaterad: 2024-03-11