Kursen utforskar principer, metoder och tillämpningar av förklarande artificiell intelligens (XAI). I takt med att AI-system blir mer komplexa och mer brett använda i kritiska sammanhang som sjukvård, ekonomi och autonoma system blir det viktigt att förstå deras beslutsprocesser för att nå transparens, opartiskhet och tillit.
Studenterna kommer att lära sig olika sätt att ta sig an XAI, vilket inkluderar modell-specifika, modell-agnostiska, tolkningsbara maskininlärningsmodeller samt post-hoc förklaringsmetoder. Kursen behandlar även människocentrerad konstruktion av förklarande artificiell intelligens och fallstudier där förklaringar är viktiga.
Genom praktiska övningsuppgifter, projekt och diskussioner kommer studenterna att erhålla praktisk erfarenhet av att implementera XAI-tekniker, utvärdera mått på förklaringsförmåga samt bedöma validiteten, realibiliteten och användbarheten av XAI-förklaringar. Särskilt fokus läggs på att identifiera målgruppen och att skräddarsy förklaringar till olika användargrupper. Kursen kommer också att utforska hur förklaringar behöver anpassas till det sammanhang i vilket de förekommer.
Modul 1, teori, 4.0 hp.
Den här modulen ger en teoretisk grund för förklarande artificiell intelligens, med fokus på principer, metoder och tillämpningar. Genom föreläsningar och övningsuppgifter får studenterna utforska olika sätt att ta sig an XAI, vilket inkluderar tolkningsbara maskininlärningsmodeller, post-hoc förklaringsmetoder samt användarcentrerad konstruktion av AI-system. Modulen behandlar även etiska överväganden, regulatoriska ramverk samt förklarandets roll i olika applikationer.
Olika AI-, maskininlärnings- och XAI-metoder kommer att användas. Avsikten är att göra studenterna skickliga i hur dessa metoder kan tillämpas i verkliga miljöer. Därför åtföljs föreläsningar av övningar där studenterna övar på att tillämpa några av de metoder som behandlats under föreläsningarna.
Kursen använder huvudsakligen programmeringsspråken Python och R för föreläsningarna och de exempel som ges. Studenterna kan fritt välja vilket språk de föredrar att använda för övningarna.
En viktig del av modulen är lärandedagboken, där studenterna kritiskt kommer att reflektera över föreläsningsinnehåll, övningar och nyckelläsningar. Denna bedömning uppmuntrar till djupare engagemang med materialet, vilket gör det möjligt för studenterna att uttrycka sin förståelse, analysera olika XAI-tekniker och utvärdera deras praktiska konsekvenser.
Nyckelämnen som behandlas är:
Introduktion till förklarande AI: Betydelse, definitioner och utmaningar
Förklarbarheten hos djup maskininlärning och neurala nätverk
Människocentrerad XAI och användbarhetsaspekter
Opartiskhet, fördomar och etiska överväganden inom XAI
Fallstudier och industriella tillämpningar
Modul 2, praktik, 3,5 hp.
Denna modul fokuserar på den praktiska implementeringen av förklarande artificiell intelligens genom ett grupprojekt, utfört i grupper om 1-4 studenter. Projektteman och datamängder kommer att tillhandahållas av kursansvariga, men studentförslag är välkomna. Varje grupp presenterar sina framsteg, planer och öppna frågor till kursansvariga och medstudenter i intermediära "mentorsessioner" och i en slutlig presentation. Genom detta mentorskap kommer studenterna att spela en aktiv roll i att utveckla en XAI-lösning, kritiskt utvärdera dess användbarhet och anpassa förklaringar till olika intressenter.
Syftet med mentorsessionerna är att ge konstruktiv feedback och vägledning till studenterna i deras lärandeprojekt. Istället för traditionella föreläsningar kommer studenterna att delta i självstyrt lärande med stöd från mentorer, som kommer att vägleda diskussioner, ge feedback och hjälpa till att förfina projektresultaten. Den slutliga leveransen är en projektrapport, där studenterna kommer att dokumentera sin metodik, motivera sina val, utvärdera effektiviteten av sina förklaringar och reflektera över de bredare implikationerna av deras arbete.
Förväntade studieresultat
Kunskap och förståelse Efter avslutad kurs ska studenten kunna:
(FSR 1) Förklara behovet av och utmaningarna med förklarande artificiell intelligens (XAI) i AI-tillämpningar.
(FSR 3) Förstå vikten av att skräddarsy förklaringar till olika användargrupper och sammanhang.
Färdighet och förmåga Efter avslutad kurs ska studenten kunna:
(FSR 4) Tillämpa olika XAI-metoder på maskininlärningsmodeller.
(FSR 5) Utvärdera förklaringsteknikers ändamålsenlighet genom lämpliga mått.
Värderingsförmåga och förhållningssätt Efter avslutad kurs ska studenten kunna:
(FSR 6) Utveckla en användarcentrerad attityd till konstruktionen av förklarande artificiell intelligens.
(FSR 7) Inse vikten av opartiskhet, transparens och tillit till AI-system.
Behörighetskrav
Minst 90 hp. Minst 7,5 hp artificiell intelligens (5DV243 eller liknande). Antingen 7,5 hp maskininlärning (5DV238 eller liknande) eller 7,5 hp bearbetning och visualisering av data (5DV217 eller liknande). Engelska för grundläggande behörighet för högskolestudier.
Undervisningens upplägg
Kursen undervisas genom föreläsningar, individuella övningsuppgifter samt ett projekt som utförs i grupper om upp till fyra studenter. Utöver schemalagda aktiviteter krävs även individuellt arbete med materialet.
Examination
Bedömningen av Modul 1 (FSR 1-7) består av en skriftlig lärandedagbok, som inkluderar skriftliga labbrapporter. Betygen som ges i denna modul är Underkänd (U), Godkänd (G) eller Väl Godkänd (VG).
Bedömningen av Modul 2 (FSR 4-7) består av en skriftlig projektgruppsrapport. Examinationen utformas så att en individuell bedömning kan ske. Betygen som ges i denna modul är Underkänd (U), Godkänd (G) eller Väl Godkänd (VG).
För hela kursen ges ett av betygen Underkänd (U), Godkänd (G) eller Väl Godkänd (VG). Om båda modulerna betygsätts som VG, kommer kursen som helhet också att betygsättas som VG.
Anpassad examination Examinator kan besluta om avsteg från kursplanens examinationsform. Individuell anpassning av examinationsformen ska övervägas utifrån studentens behov. Examinationsformen anpassas inom ramen för kursplanens förväntade studieresultat. Student som har behov av en anpassad examination ska senast 10 dagar innan examinationen begära anpassning hos Institutionen för datavetenskap. Examinator beslutar om anpassad examination som sedan meddelas studenten.
Övriga föreskrifter
Om kursplanen har upphört att gälla eller kursen slutat erbjudas garanteras en student som någon gång registrerats på kursen minst tre provtillfällen (inklusive ordinarie provtillfälle) enligt denna kursplan under en tid av maximalt två år från det att kursplanen upphört att gälla eller kursen slutat erbjudas.
Litteratur
Litteraturlistan är inte tillgänglig via den webbaserade utbildningskatalogen.
Kontakta aktuell institution.
