Design av interaktiva AI-system 7,5 hp
Om kursen
Denna kurs på avancerad nivå syftar till att fördjupa kunskaper och färdigheter i dels designmetodik för ansvarsfull utveckling av interaktiva, intelligenta system och miljöer med fokus på människo-centrerad artificiell intelligens (AI), och dels i teorier för människa-datorinteraktion (MDI) och ny teknologi för att interagera och samarbeta med intelligenta mjukvaruagenter och miljöer. Kursen bygger på forskning och teoribildning i gränssnittet mellan AI och MDI, med särskilt fokus på socio-tekniska system som innefattar AI, människa-AI-samarbete och relaterade etiska och sociala aspekter. Några centrala frågeställningar som kommer att behandlas under kursen är följande:
- Hur kommer vi att samarbeta med AI-system i framtiden?
- Vad händer med kontroll och autonomi när systemet lär sig och ändrar beteende över tid?
- Hur designar vi ett interaktivt, intelligent system på ett sådant sätt så att vi bygger in i systemet mekanismer som väger samman olika intressenters värderingar i multikulturella kontexter (t.ex. moral och etik); samt förklarar sitt resonerande och garanterar transparens?
- Hur möjliggör vi en kontinuerlig, ansvarsfull och deltagande designprocess under både utveckling och användande av socialt intelligenta system som samarbetar med människan?
Kursen är indelad i följande två delar:
Modul 1: Teori och metod (4.5 hp)
Den teoretiska delen tar upp teoretiska ramverk och metoder för att designa och utvärdera interaktiva, intelligenta system och antar ett ansvarsfullt perspektiv på design av AI-baserade system. Det socio-tekniska systemperspektivet kommer att tillämpas genomgående med teoribildning som stödjer utveckling av socialt intelligenta system. Det innefattar människo-centrerade faktorer som är vitala vid design av AI-baserade interaktiva system, såsom effekter av användning, mekanismer för människans utveckling, motivation, beteendeförändring, autonomi, empowerment, kompetens, relevans, värde för individ och samhälle, ansvar och etik.
Metodik innefattar särskilt ansvarsfull AI-design, deltagande aktionsforskningsmetodik, aktivitetscentrerad design. Teorier och metoder appliceras i gruppövningar och i interdisciplinära projektarbeten i modul 2.
Modul 2: Praktisk tillämpning av teori och metod i ett projektarbete (3.0 hp)
Teorier och metoder som tas upp i Modul 1 appliceras i ett projekt som genomförs parallellt med den teoretiska delen. Projektet motiveras av en samhällsutmaning och fokuserar på att engagera möjliga slutanvändare och andra intressenter i en interdisciplinär deltagande-designprocess. Designaktiviteter kan ske i labb med teknologi och material för prototyputveckling och utvärdering och i miljöer utanför universitetet som intressenter tillhandahåller.