Hoppa direkt till innehållet
printicon
Huvudmenyn dold.

AQUITAS: Utvärdering och utveckling av rättvisa, opartiska och pålitliga AI-system

Forskningsprojekt Opartisk AI, utvecklad i Europa.

AEQUITAS utvecklar en experimentell testmiljö för att upptäcka, diagnostisera och åtgärda orättvisa, fördomar, ojämlikhet och diskriminering inom AI-system. Detta nya Horizon Europe-projekt, som finansieras av Europeiska kommissionen, bygger på ett starkt konsortium av AI- och domänexperter, samhällsvetare och företrädare för minoriteter och riskgrupper.

Projektansvarig

Projektöversikt

Projektperiod:

2022-12-01 2024-10-01

Medverkande institutioner och enheter vid Umeå universitet

Institutionen för datavetenskap

Externa finansiärer

EU Horizon 2020 (H2020)

Projektbeskrivning

AI-baserade beslutsstödsystem används i allt större utsträckning såväl inom industrin som den offentliga och privata sektorn samt inom politiskt beslutsfattande. När vårt samhälle nu står inför en dramatisk ökning av ojämlikheter och intersektionell diskriminering måste vi förhindra att AI-systemen förstärker denna utveckling.

Rättvisa är en av huvudprinciperna inom pålitlig AI och något som främjas på EU-nivå. Men hur rättvisa ska omsättas i tekniska, funktionella och lagliga krav vid utformningen av AI-system är fortfarande en öppen fråga. På samma sätt vet vi idag inte hur vi ska testa om ett system följer dessa principer och om så är fallet, hur vi ska reparera det.

Kontrollerad experimentmiljö

AEQUITAS syftar till att utforma en miljö för utvecklare och användare i syfte att skapa kontrollerade experiment för att kunna:

  • bedöma fördomar i AI-system
  • tillhandahålla effektiva metoder för att minska fördomar och
  • tillhandahålla riktlinjer, metoder och programvaruteknik för rättvis utformning för att utforma nya fördomsfria system

Reella användningsonmråden inom hälso- och sjukvården, personalfrågor och utmaningar för socialt missgynnade grupper kommer att användas för att testa experimentplattformen och visa hur effektiv den föreslagna lösningen är.

AEQUITAS bygger på ett starkt konsortium bestående av AI-experter, domänexperter, samhällsvetare och sammanslutningar som företräder minoriteter och riskgrupper.

Starkt konsortium

Detta nya Horizon Europe-projekt, som finansieras av Europeiska kommissionen, bygger på ett starkt konsortium av AI- och domänexperter, samhällsvetare och företrädare för minoriteter och riskgrupper.

Externa finansiärer