Bild: AdobeStock
Forskargrupp Förklarbar AI är utvecklad för att göra de beslut eller åtgärder som fattas av en AI-agent begripliga för människor som interagerar med systemet. Inte bara föredrar många användare att ha ett system som har förklaringar till sina handlingar, i flera länder går den rättsliga ramen mot att kräva denna funktionalitet från AI-system.
Forskargruppen XAI - Explainable AI består av:
Professor Kary Främling
Kary Främling är chef för teamet eXplainable Artificial Intelligence (XAI) vid Umeå universitet. Kary har varit en aktiv forskare inom artificiell intelligens sedan 1980-talet, med fokus på ämnen som neuralt nätverksinlärning, beslutsstöd för flera kriterier och förstärkningslärande. Hans doktorsavhandling från 1996 med titeln "Learning and Explaining Preferences with Neural Networks for Multiple Criteria Decision Making," (på franska: Modélisation et apprentissage des préférences par réseaux de neurones pour l'aide à la décision multicritère") kan anses vara en av de första forskningsinitiativen som uttryckligen tar upp ämnet förklarlig artificiell intelligens, inklusive aspekter som självförtroende, robusthet och tillförlitlighet i resonemanget. Han är för närvarande professor i datavetenskap vid Umeå universitet, Sverige.
Kary är också grundare och chef för teamet Adaptive Systems of Intelligent Agents (tidigare känt som teamet ”Distribuerad informationsarkitektur för samarbetslogistik”) vid Aalto -universitetet, Finland. DIALOG-programvaran som utvecklats av teamet var förmodligen den första Internet of Things (IoT) -implementeringen världen över 2002. DIALOG har beskrivits i forskningsartiklar sedan 2002 (se t.ex. «FRÄMLING, Kary, HOLMSTRÖM, Jan, ALA-RISKU, Timo, KÄRKKAINEN, Mikko. Produktagenter för hantering av information om fysiska föremål. Rapport från Laboratory of Information Processing Science serie B, TKO-B 153/03, Helsingfors tekniska universitet, 2003. 20 s. »).
Kary har 147 publicerade forskningsartiklar, 2608 citat och h-index 22 (källa: Google Scholar-datum: 22/10/2018). Han är ledamot i redaktionen för tidningen Computers in Industry, han har varit recensent för 29 tidskrifter och medlem i programmet eller vetenskapliga kommittéer för 32 konferenser och workshops.
Han var gästredaktör för tidskriften Special Issue on Intelligent Products of the Computers in Industry 2009, tillsammans med professor Duncan McFarlane från Cambridge University.
Kary har organiserat 6 speciella sessioner och workshops:
Amber Zelvelder, Doktorand med en kandidatexamen i datavetenskap från Oxford Brookes University och en civilingenjör i cybernetik från University of Reading. Hon har en professionell bakgrund inom webbutveckling, Business Intelligence, hjälpmedel och informationsanalys.
