"False"
Hoppa direkt till innehållet

Studenter som inte bytt lösenord sedan 7 maj kan inte logga in på studentwebben. Läs hur du byter lösenord.

printicon
Huvudmenyn dold.

Bild: AdobeStock

Responsible Artificial Intelligence

Forskargrupp Forskargruppen i ansvarsfull AI bildades för att studera de etiska och samhälleliga effekterna av AI, och samtidigt stödja beslutsfattare genom att utveckla verktyg och metoder för att mildra negativa effekter.

Vi studerar den etiska och samhälleliga effekten av AI genom utvecklingen av verktyg och metoder som designar, övervakar och utvecklar pålitliga AI-system och applikationer. Vår forskning handlar inte bara om utvecklingen av intelligenta system utan också om att förstå effekterna av deras användning i våra samhällen. Vi arbetar för att säkerställa den etiska tillämpningen av artificiell intelligens (AI), både genom offentligt engagemang och frekvent interaktion med politiska beslutsfattare, och genom att underlätta konstruktionen av ansvarsfull AI. Vårt mångsidiga tvärvetenskapliga forskningsprogram syftar till att hjälpa alla relevanta aktörer att få tillgång till medel och verktyg för att utveckla, distribuera, driva och styra system, samtidigt som alla etiska, juridiska och socioekonomiska konsekvenser beaktas.

Forskningsämnen och frågor

  • AI-styrning: Vilka etiska, juridiska och socioekonomiska frågor uppstår från aktiviteten hos autonoma intelligenta agenter i team? Hur kan aktivitet regleras? Vilka är de moraliska och juridiska värden som vi vill att våra system ska följa?
  • Systemteknik för AI: Hur kan vi utveckla intelligenta system med modulär kod som går att underhålla? Hur kan vi effektivt utveckla system som följer våra moraliska och juridiska värderingar?
  • Analys och formalisering av social interaktion: Syftet är att studera effekten av social och organisatorisk struktur med hänsyn till deltagarnas autonomi och heterogenitet och de samhälleliga och juridiska värden som finns i sammanhanget. För detta ändamål utvecklar vi formella teorier och en beräkningsarkitektur för agentöverläggning baserad på social praxis.
  • Design och utvärdering av lagarbete mellan mänskliga agenter: Den centrala forskningsfrågan är hur människor interagerar (förhandlar, litar på, samarbetar) med autonoma kognitiva enheter i en social miljö och utveckling av agentbaserade simuleringar av komplexa socio-tekniska områden.

Forskningsledare

Juan Carlos Nieves Sanchez
Universitetslektor
E-post
E-post
Telefon
090-786 61 25

Översikt

Medverkande institutioner och enheter vid Umeå universitet

Institutionen för datavetenskap

Forskningsområde

Datavetenskap

Projekt

AQUITAS: Utvärdering och utveckling av rättvisa, opartiska och pålitliga AI-system
Tid 1 november 2022 till 1 oktober 2024
Typ av projekt Forskningsprojekt
Strategic Argumentation för att hantera interaktion mellan intelligenta system och människor
Tid 1 oktober 2020 till 30 september 2024
Typ av projekt Doktorandprojekt
Trust AI - Trustworthy AI
Forskningsområde: Datavetenskap
Tid 1 september 2020 till 31 augusti 2022
Typ av projekt Forskningsprojekt
ASSOCC
Forskningsområde: Datavetenskap
Tid 1 mars 2020
Typ av projekt Forskningsprojekt
Responsible Artificial INtelligence (RAIN)
Forskningsområde: Datavetenskap
Tid 1 januari 2020 till 31 december 2021
Typ av projekt Forskningsprojekt
HumaneAI-Net
Forskningsområde: Datavetenskap
Tid 1 januari 2020 till 31 december 2023
Typ av projekt Forskningsprojekt
Bias-free chatbots
Forskningsområde: Datavetenskap
Tid 2 september 2019 till 28 augusti 2020
Typ av projekt Forskningsprojekt
AI, Democracy and Self-Determination
Tid 1 september 2019 till 1 september 2023
Typ av projekt Forskningsprojekt
Hållbar AI
Forskningsområde: Datavetenskap
Tid 1 maj 2019 till 1 maj 2021
Typ av projekt Forskningsprojekt
Kollaborativt mixed-reality hjälpmedel för barn och unga med autism
Forskningsområde: Datavetenskap
Tid 1 april 2019 till 1 september 2020
Typ av projekt Forskningsprojekt
HumaneAI
Forskningsområde: Datavetenskap
Tid 1 mars 2019 till 30 april 2020
Typ av projekt Forskningsprojekt
AI4EU
Forskningsområde: Datavetenskap
Tid 1 januari 2019 till 31 december 2022
Typ av projekt Forskningsprojekt
AI Glass Box - AI glaslåda
Forskningsområde: Datavetenskap
Tid 1 januari 2019 till 31 december 2024
Typ av projekt Forskningsprojekt

Nyheter Datavetenskap

Nya och avancerade AI-lösningar ska hindra angripare att komma åt och läcka data
Publicerad: 2024-05-20

Professorn som gör det svårt för angripare att sprida känslig information.

Djupinlärning ger relevanta annonser utan att spåra användaren
Publicerad: 2024-05-02

Så kan AI användas för att kategorisera nyhetsartiklar och förbättra kontextuell annonsering.

Vill revolutionera videoanalys i realtid
Publicerad: 2024-04-23

Ali Rahmanian visar hur städer och fabriker kan få bättre prestanda i system som hanterar videodata i realtid.

Professor Nina Khairova i en ljus korridor, iklädd en beige tröja. Hennes hår är blont och kort och hon ler.
Nya AI-metoder mot desinformation och misinformation

Detekterar och förhindrar felaktig information om Ukraina.

Virginia Dignum i mellanlångt brunt hår och glasögon står utomhus, i närheten av naturen. Hon har en sjal lindad runt halsen och en vit tröja, samt kofta.
Nu startar nya AI Policy Lab

För en ansvarsfull implementering och användning av artificiell intelligens.

Ytterligare ett startupbolag på AI-topplistan

Ytterligare ett startup företag med grund från Umeå universitet har kvalat in på AI-topplista.

Senast uppdaterad: 2024-03-11