Förklarande artificiell intelligens 7,5 hp

Om kursen

Kursen utforskar principer, metoder och tillämpningar av förklarande artificiell intelligens (XAI). I takt med att AI-system blir mer komplexa och mer brett använda i kritiska sammanhang som sjukvård, ekonomi och autonoma system blir det viktigt att förstå deras beslutsprocesser för att nå transparens, opartiskhet och tillit. 

Studenterna kommer att lära sig olika sätt att ta sig an XAI, vilket inkluderar modell-specifika, modell-agnostiska, tolkningsbara maskininlärningsmodeller samt post-hoc förklaringsmetoder. Kursen behandlar även människocentrerad konstruktion av förklarande artificiell intelligens och fallstudier där förklaringar är viktiga. 

Genom praktiska övningsuppgifter, projekt och diskussioner kommer studenterna att erhålla praktisk erfarenhet av att implementera XAI-tekniker, utvärdera mått på förklaringsförmåga samt bedöma validiteten, realibiliteten och användbarheten av XAI-förklaringar. Särskilt fokus läggs på att identifiera målgruppen och att skräddarsy förklaringar till olika användargrupper. Kursen kommer också att utforska hur förklaringar behöver anpassas till det sammanhang i vilket de förekommer. 

Modul 1, teori, 4.0 hp.

Den här modulen ger en teoretisk grund för förklarande artificiell intelligens, med fokus på principer, metoder och tillämpningar. Genom föreläsningar och övningsuppgifter får studenterna utforska olika sätt att ta sig an XAI, vilket inkluderar tolkningsbara maskininlärningsmodeller, post-hoc förklaringsmetoder samt användarcentrerad konstruktion av AI-system. Modulen behandlar även etiska överväganden, regulatoriska ramverk samt förklarandets roll i olika applikationer. 

Olika AI-, maskininlärnings- och XAI-metoder kommer att användas. Avsikten är att göra studenterna skickliga i hur dessa metoder kan tillämpas i verkliga miljöer. Därför åtföljs föreläsningar av övningar där studenterna övar på att tillämpa några av de metoder som behandlats under föreläsningarna.

Kursen använder huvudsakligen programmeringsspråken Python och R för föreläsningarna och de exempel som ges. Studenterna kan fritt välja vilket språk de föredrar att använda för övningarna.

En viktig del av modulen är lärandedagboken, där studenterna kritiskt kommer att reflektera över föreläsningsinnehåll, övningar och nyckelläsningar. Denna bedömning uppmuntrar till djupare engagemang med materialet, vilket gör det möjligt för studenterna att uttrycka sin förståelse, analysera olika XAI-tekniker och utvärdera deras praktiska konsekvenser.

Nyckelämnen som behandlas är:

• Introduktion till förklarande AI: Betydelse, definitioner och utmaningar
• Tolkningsbara vs. svartlåde-modeller
• Modell-agnostiska förklaringsmetoder (t.ex. LIME, SHAP, CIU)
• Förklarbarheten hos djup maskininlärning och neurala nätverk
• Människocentrerad XAI och användbarhetsaspekter
• Opartiskhet, fördomar och etiska överväganden inom XAI
• Fallstudier och industriella tillämpningar

Modul 2, praktik, 3,5 hp.

Denna modul fokuserar på den praktiska implementeringen av förklarande artificiell intelligens genom ett grupprojekt, utfört i grupper om 1-4 studenter. Projektteman och datamängder kommer att tillhandahållas av kursansvariga, men studentförslag är välkomna. Varje grupp presenterar sina framsteg, planer och öppna frågor till kursansvariga och medstudenter i intermediära "mentorsessioner" och i en slutlig presentation. Genom detta mentorskap kommer studenterna att spela en aktiv roll i att utveckla en XAI-lösning, kritiskt utvärdera dess användbarhet och anpassa förklaringar till olika intressenter.

Syftet med mentorsessionerna är att ge konstruktiv feedback och vägledning till studenterna i deras lärandeprojekt. Istället för traditionella föreläsningar kommer studenterna att delta i självstyrt lärande med stöd från mentorer, som kommer att vägleda diskussioner, ge feedback och hjälpa till att förfina projektresultaten. Den slutliga leveransen är en projektrapport, där studenterna kommer att dokumentera sin metodik, motivera sina val, utvärdera effektiviteten av sina förklaringar och reflektera över de bredare implikationerna av deras arbete.