Hoppa direkt till innehållet
printicon
Publicerad: 04 feb, 2020

Socialt ansvarstagande AI

PORTRÄTT Virigina Dignum installerades som professor i artificiell intelligens med inriktning mot social och etisk AI vid Umeå universitets Årshögtid 2019.

Text: Kommunikationsenheten

När system byggda på artificiell intelligens (AI) fattar allt fler beslut som direkt påverkar användare och samhällen, väcks frågor om dess sociala, ekonomiska, politiska och etiska inverkan. Kan maskiner fatta moraliska beslut och hantera moraliska dilemman? Vilka etiska principer borde inbegripas i utvecklingen av AI-system?

Det finns många aspekter att väga in, men det finns inte ett ”rätt” svar. Det krävs metoder för att försäkra ansvarsskyldighet, ansvarstagande, insyn och öppenhet inom AI, som en del av en komplex socioteknisk systemmiljö. Socialt ansvars- tagande AI utgörs inte av ett system som optimerar resultat utan hänsyn till sammanhanget, utan snarare ett som leder till det mest ansvarstagande och etiskt godtagbara resultatet för sammanhanget.

Virginia Dignum studerar hur man kan utveckla AI-system som lever upp till det sociala ansvarstagandet, så att beslut och resultat är pålitliga och relevanta. Det innebär att utveckla teorier, modeller och verktyg som kan stötta utvecklare att kontrollera systembeteenden; att mäta vilken den sociala effekten blir, och att formellt verifiera att beteenden följer en rad etiska principer.

Om Virginia Dignums forskning

Biografi

Virginia Dignum är född 1964 i Lissabon. 2004 disputerade hon vid universitetet i Utrecht. Hon är invald som fellow i European Artificial Intelligence Association (EurAI), medlem i EU-kommissionens High Level Expert Group on AI och styrelseledamot för IEEE:s Initiative on Ethically Aligned Design.

Hon är medlem i de vetenskapliga råden på Delft Design for Values Institute, Responsible Robotics Foundation och ALLAI Alliance, och leder forskningsprogrammet WASP-HS (Wallenberg AI, Autonomous Systems and Software Program on Humanities and Society).

Läs mer eller kontakta Virginia Dignum