Hoppa direkt till innehållet
printicon
Huvudmenyn dold.

XAI – Explainable AI

Forskargrupp Förklarbar AI är utvecklad för att göra de beslut eller åtgärder som fattas av en AI -agent begripliga för människor som interagerar med systemet. Inte bara föredrar många användare att ha ett system som har förklaringar till sina handlingar, i flera länder går den rättsliga ramen mot att kräva denna funktionalitet från AI -system.

Forskargruppen XAI - Explainable AI består av:

Professor Kary Främling
Kary framling är chef för teamet eXplainable Artificial Intelligence (XAI) vid Umeå universitet. Kary har varit en aktiv forskare inom artificiell intelligens sedan 1980 -talet, med fokus på ämnen som neuralt nätverksinlärning, beslutsstöd för flera kriterier och förstärkningslärande. Hans doktorsavhandling från 1996 med titeln "Learning and Explaining Preferences with Neural Networks for Multiple Criteria Decision Making" (på franska: Modélisation et apprentissage des préférences par réseaux de neurones pour l'aide à la décision multicritère") kan anses vara en av de första forskningsinitiativen som uttryckligen tar upp ämnet förklarlig artificiell intelligens, inklusive aspekter som självförtroende, robusthet och tillförlitlighet i resonemanget. Han är för närvarande professor i datavetenskap vid Umeå universitet, Sverige.

Kary är också grundare och chef för teamet Adaptive Systems of Intelligent Agents (tidigare känt som teamet ”Distribuerad informationsarkitektur för samarbetslogistik”) vid Aalto -universitetet, Finland. DIALOG-programvaran som utvecklats av teamet var förmodligen den första Internet of Things (IoT) -implementeringen världen över 2002. DIALOG har beskrivits i forskningsartiklar sedan 2002 (se t.ex. «FRÄMLING, Kary, HOLMSTRÖM, Jan, ALA-RISKU, Timo, KÄRKKAINEN, Mikko. Produktagenter för hantering av information om fysiska föremål. Rapport från Laboratory of Information Processing Science serie B, TKO-B 153/03, Helsingfors tekniska universitet, 2003. 20 s. »).

Kary har 147 publicerade forskningsartiklar, 2608 citat och h-index 22 (källa: Google Scholar-datum: 22/10/2018). Han är ledamot i redaktionen för tidningen Computers in Industry, han har varit recensent för 29 tidskrifter och medlem i programmet eller vetenskapliga kommittéer för 32 konferenser och workshops.

Han var gästredaktör för tidskriften Special Issue on Intelligent Products of the Computers in Industry 2009, tillsammans med professor Duncan McFarlane från Cambridge University.

Kary har organiserat 6 speciella sessioner och workshops:

  • Workshop on "Reinforcement learning in non-stationary environments" of ECML 2005;
  • Special Session on Closed-loop PLM & Intelligent products at the International Conference on Industrial Engineering and Systems Management, 2011;
  • Special Session on Intelligent Products at 14th IFAC Symposium on Information Control Problems in Manufacturing (INCOM 2012);
  • Special Session on Intelligent Products in Manufacturing & Services Systems, 2nd International Conference on Communications, Computing and Control Applications (CCCA'2012);
  • Special Session on Intelligent Products: concepts, deployments and related aspects at 11th IFAC Workshop on Intelligent Manufacturing Systems (IMS'13);
  • Special Session on Smart City Interoperability and Cross-Platform Implementation at APMS'2018.
  • Special session Technologies and Infrastructures for Smart grids, Buildings, and Cities at IEEE International Conference on Industrial Informatics (INDIN'19)

Amber Zelvelder, Doktorand med en kandidatexamen i datavetenskap från Oxford Brookes University och en civilingenjör i cybernetik från University of Reading. Hon har en professionell bakgrund inom webbutveckling, Business Intelligence, hjälpmedel och informationsanalys.

Forskningsledare

Kary Främling
Professor
E-post
E-post

Översikt

Medverkande institutioner och enheter vid Umeå universitet

Institutionen för datavetenskap

Forskningsområde

Datavetenskap