Responsible Artificial Intelligence

Vi studerar den etiska och samhälleliga effekten av AI genom utvecklingen av verktyg och metoder som designar, övervakar och utvecklar pålitliga AI-system och applikationer. Vår forskning handlar inte bara om utvecklingen av intelligenta system utan också om att förstå effekterna av deras användning i våra samhällen. Vi arbetar för att säkerställa den etiska tillämpningen av artificiell intelligens (AI), både genom offentligt engagemang och frekvent interaktion med politiska beslutsfattare, och genom att underlätta konstruktionen av ansvarsfull AI. Vårt mångsidiga tvärvetenskapliga forskningsprogram syftar till att hjälpa alla relevanta aktörer att få tillgång till medel och verktyg för att utveckla, distribuera, driva och styra system, samtidigt som alla etiska, juridiska och socioekonomiska konsekvenser beaktas.

Forskningsämnen och frågor

• AI-styrning: Vilka etiska, juridiska och socioekonomiska frågor uppstår från aktiviteten hos autonoma intelligenta agenter i team? Hur kan aktivitet regleras? Vilka är de moraliska och juridiska värden som vi vill att våra system ska följa?
• Systemteknik för AI: Hur kan vi utveckla intelligenta system med modulär kod som går att underhålla? Hur kan vi effektivt utveckla system som följer våra moraliska och juridiska värderingar?
• Analys och formalisering av social interaktion: Syftet är att studera effekten av social och organisatorisk struktur med hänsyn till deltagarnas autonomi och heterogenitet och de samhälleliga och juridiska värden som finns i sammanhanget. För detta ändamål utvecklar vi formella teorier och en beräkningsarkitektur för agentöverläggning baserad på social praxis.
• Design och utvärdering av lagarbete mellan mänskliga agenter: Den centrala forskningsfrågan är hur människor interagerar (förhandlar, litar på, samarbetar) med autonoma kognitiva enheter i en social miljö och utveckling av agentbaserade simuleringar av komplexa socio-tekniska områden.