NYHET Ett nytt forskningsfält håller på att ta form internationellt inom AI. Det kallas Social Explainable AI och handlar om att de beslut som tas av AI-modeller ska vara mer förståeliga för vanliga människor. – De förklaringar som finns idag riktar sig främst till experter och uppfyller inte EU:s krav på transparens enligt den nya AI-förordningen. Det vill vi ändra på, säger Kary Främling, vars nya bok har rönt uppmärksamhet internationellt.
Den nya boken Social Explainable AI sammanför insikter från AI-forskning, lingvistik, filosofi, psykologi och samhällsvetenskap. – I stället för att enbart fokusera på AI-modeller sätter den användarna, sammanhanget och kommunikationen i centrum, förklarar Kary Främling.
BildMattias Pettersson
Kary Främling är professor vid institutionen för datavetenskap vid Umeå universitet och en av de mest citerade forskarna inom sitt fält. Hans arbete inom Explainable AI, Internet of Things och digitala tvillingar har lagt grunden till de system vi använder idag världen över.
Nu har han tillsammans med internationella forskare uppmärksammat det vakuum som uppstått mellan de verktyg och system som finns för att förklara hur AI-modeller på företag och myndigheter resonerar – och hur de tar beslut.
– Vi ser att förklaringsmodellerna främst riktar sig till professionella, som med sina kunskaper får insikt i AI:s svarta låda. Men de som drabbas av myndighetsbeslut eller får avslag på lån har inte möjlighet att ta till sig och förstå informationen, säger Kary Främling.
Han har tillsammans med professor Katharina Rohlfing vid Paderborns universitet och Brian Lim vid National University of Singapore, samlat ett stort antal forskare inom flera fält för att skapa en gemensam vision. Resultatet är den nya boken ”Social Explainable AI” en handbok med 30 kapitel som har skapat uppmärksamhet, bland annat i Tyskland. Boken sammanför insikter från AI-forskning, lingvistik, filosofi, psykologi och samhällsvetenskap för att ompröva begreppet förklarbarhet som en social, interaktiv process.
– I stället för att enbart fokusera på AI-modeller sätter den användarna, sammanhanget och kommunikationen i centrum, förklarar Kary Främling.
AI-förordningen ställer krav på transparens – att vanliga användare ska få insyn i beslut som påverkar deras liv, till exempel varför de nekas lån, inte får ett arbete eller hur de kan höja värdet på sin bostad. Inom det nya forskningsfältet Social Explainable AI vill experterna säkerställa att AI-modellerna verkligen anpassar sina förklaringar efter mottagarens kunskapsnivå och behov.
–Vi vill att modellerna ska använda ett språk och en detaljnivå som är begriplig och hanterbar. Att informationen ges i lagom stora steg, och att man ska kunna interagera och ställa frågor om mer specifika detaljer. Kary Främling ger ett exempel:
– Om en AI värderar en villa till fem miljoner bör den först förklara beslutet med begripliga fakta som skick, storlek och läge och inte, som fallet är nu, att förse frågeställaren med en lista på tiotals tekniska parametrar.
– Slutanvändaren ska få större insyn i beslut som påverkar dem och här finns det idag ett behov och stort intresse. Vi hoppas att både forskare och företag inom Explainable AI uppmärksammar boken och utvecklar sina metoder i en riktning som bättre beaktar slutanvändare. Men också att slutanvändare, företag och andra organisationer inser att de kan och borde kräva mera av AI-system vad gäller förklaringar i syfte att följa AI-förordningen, säger Kary Främling.
Social förklarbar AI, sXAI, ska inte bara ge förklaringar, utan också interagera med användarna och anpassa sig till deras behov, mål och situationer över tid. – Förklarbarhet handlar mindre om att leverera den ”perfekta” förklaringen och mer om att skapa meningsfull förståelse genom interaktion.
Kary Främling verkar vid institutionen för datavetenskap vid Umeå universitet som under de senaste åren växt i rekordfart. Flera internationella forskare specialiserade inom bl a AI, integritet, datasäkerhet och autonoma distribuerade system, verkar nu här i Umeå. Kary Främling är en av de som är kopplade till WASP – Wallenberg AI, Autonomous Systems and Software Program, Sveriges enskilt största forskningsprogram.
Den undervisning som bedrivs vid institutionen för datavetenskap har en stark koppling till forskningen och Kary Främling håller bl a. i kursen Bearbetning och visualisering av data. Här får studenter får lära sig att analysera och presentera data och statistik på ett korrekt och mänskligt förståeligt sätt, så att beslut och åtgärder kan fattas baserat på rationell information.
2025 lanserade han också en ny kurs om Explainable AI som går igenom grundläggande principer, metoder, utmaningar och även sXAI.
– Data Science är en av de viktigaste domänerna för att bestämma hur vårt nuvarande och framtida samhälle ska byggas. Oavsett bransch eller storlek måste organisationer som vill vara konkurrenskraftiga hänga med för att inte hamna på efterkälken, säger Kary Främling.
Se forskargruppen Förklarande AI vid Umeå universitet. Läs boken Social Explainable AI. Ytterligare frågor, vänligen kontakta Kary Främling, via uppgifterna nedan.
