Livliga samtal när AI möter vardagen

Varierande grader av teknikoptimism blandades med betänksamhet när ett 70-tal deltagare fyllde Vardagsrummet i Humanisthuset för att prata om möjligheter och utmaningar med artificiell intelligens. Tekniken utvecklas snabbt – och det gör också behovet av att förstå den.  

– Ingen vet exempelvis varför språkmodeller som ChatGPT producerar de svar de gör. Ibland känns det som att vi studerar en ny typ av varelse. Det är mer psykologi, eller rentav zoologi, än teknisk vetenskap, sade Thomas Hellström, professor i datavetenskap.  

Ibland känns det som att vi studerar en ny typ av varelse

Under dagen diskuterades tolv konkreta frågor, inskickade av organisationer i regionen – från kommuner till privata företag. De allra flesta kretsade mindre kring vad som är tekniskt möjligt, och mer kring hur AI påverkar förtroende, lärande, demokrati och relationer. 

– Vi famlar alla i det blå. Utvecklingen går så fort att varken slutanvändare eller forskare egentligen har några klara svar, sade Thomas Hellström, professor i datavetenskap.

BildLena Holmberg

Kan vi lita på AI? 

En av dem som deltog i AIMday var Umeå kommun. De ser stor potential i att använda språkmodeller för att effektivisera servicen och hjälpa såväl invånare som medarbetare att snabbare få svar på sina frågor. Men med möjligheterna följer också utmaningar. AI-system kan ge olika svar på snarlika prompter, översätta fel i känsliga sammanhang – och ibland hitta på fakta, så kallade hallucinationer. 

– Om ett AI-system först säger en sak, för att sedan ändra sig och be om ursäkt när man synar svaret med en följdfråga – hur ska användaren då veta vad som stämmer? Går det att mäta sanningshalten på ett strukturerat sätt?, undrade Andreas Hed, systemutvecklare vid Umeå kommun.

Umeå kommun ser möjligheter att använda AI för att effektivisera sitt arbete – men samtidigt finns farhågor. Vad händer exempelvis om ett språkmodellbaserat system ger fel svar i situationer som rör liv och hälsa? Systemutvecklaren Andreas Hed deltog tillsammans med kollegorna David Krasowski, produktägare för digitala plattformar, och Hannes Fries, Chief Data Officer (CDO). 

BildLena Holmberg

Att använda AI utåt i offentliga tjänster kan vara riskfyllt

Diskussionen rörde sig mellan konkreta förslag – som att låta AI guida användare till tillförlitliga källor istället för att själv ge svar, eller att låta flera modeller granska samma information – och mer övergripande frågor om transparens, mänsklig kontroll och rättssäkerhet. Samtalet visade att det inte bara handlar om vad som är tekniskt möjligt, utan också om ansvar och förtroende.

– Att använda AI utåt i offentliga tjänster kan vara riskfyllt, sade Dimitri Coelho Mollo, biträdande universitetslektor i filosofi med inriktning mot AI. 

Han tog upp ett uppmärksammat rättsfall där en AI-baserad kundtjänst hos ett flygbolag givit felaktig information. När företaget försökte skylla på AI:n, konstaterade domstolen att ansvaret alltid ligger hos organisationen bakom tekniken.

AI i skolan – risk för ökade klyftor? 

En annan fråga som väckte stort engagemang handlade om hur AI:s intåg påverkar skolan och grundtanken om en likvärdig utbildning. Några utforskade balansgången mellan att kunna få hjälp och risken att viktiga färdigheter går förlorade om AI-verktyg gör för mycket av jobbet. Hur säkerställer vi att eleverna fortfarande lär sig att tänka, skriva och räkna – inte bara använda rätt hjälpmedel?

Andra var mer rädda för ökade klyftor i klassrummet. Skellefteå kommun lyfte att elever med starka språkfärdigheter och förmågan att ställa rätt frågor gynnas av generativa AI-verktyg – medan de med lägre digital kompetens tydligt halkar efter.

– Elever som inte klarar att använda AI-stöd tenderar att bli ännu mer håglösa: "Inte ens med det här verktyget kan jag ...". Gör vi ingenting kommer klyftorna att öka. Så, hur kan vi göra en medveten insats för att minska dem?, sade Anna Larsson, digitaliseringsutvecklare i Skellefteå.

– Oavsett vad man tycker om det så lever dagens barn och unga i en digital värld. Vi behöver ge dem verktyg att hantera den världen, menade Anna Larsson, digitaliseringsutvecklare på Skellefteå kommun. Till höger kollegan Peter Degerman.

BildLena Holmberg

Inte ens med det här verktyget kan jag …

Diskussionen landade i att tekniska lösningar i sig inte räcker – det krävs också förändrade arbetssätt, pedagogiskt stöd och organisatorisk utveckling för att AI ska bli ett verktyg för alla elever.

– Jag tycker att ni sätter fingret på en viktig fråga inom utbildning: Vad behöver man utveckla för kunskaper för att kunna ta till sig nya tekniker?, kommenterade Lars Norqvist från Centrum för skolledarutveckling.

Här betonade flera deltagare behovet av kompetensutveckling. Inte bara för eleverna, utan också för lärare och skolledare. En grundläggande AI-litteracitet behövs för att kunna navigera både möjligheter och fallgropar – och skapa trygghet snarare än osäkerhet i klassrummet.

Samtal som gör skillnad

AIMday Perspektiv på AI visade att kraften i tvärvetenskapliga samtal inte ligger i att hitta snabba svar, utan i att ställa rätt frågor tillsammans. När forskare och samhällsaktörer möts med nyfikenhet och öppenhet kan något hända: missförstånd reds ut, idéer föds, och vägen framåt blir lite tydligare.

– Jag tar med mig att vi behöver vara fler som tänker tillsammans. Ingen aktör klarar de här frågorna själv, konstaterade Peter Degerman från Skellefteå kommun.

Teknik är inte svaret på allt

För några deltagare blir nästa steg att söka såddpengar – upp till 85 000 kronor – för att vidareutveckla de idéer som föddes under dagen. För andra kanske det viktigaste är något mer stillsamt: ett nytt perspektiv, en väckt tanke – eller insikten att AI är ett verktyg som bör stärka det mänskliga, inte ersätta det.

– AIMday är ett fantastiskt forum för att samla olika idéer, människor och roller. Dagen skapade utrymme för viktiga samtal – och synliggjorde flera missförstånd kring tekniken. Jag tror att vissa kan ha varit lite för naiva i sin tro på vad AI kan och bör göra. Teknik är inte svaret på allt, menade Pamela Gil-Salas, doktorand vid Designhögskolan.

BildLena Holmberg