Samarbete ska främja säker AI inom offentlig sektor

När Umeå universitet och Skellefteå kommun ingick ett strategiskt partnerskap 2020 beslöt man att fördjupa samarbetet kring ansvarsfull digitalisering och AI i norra Sverige. Via projektet Enaibler breddar parterna perspektivet till EU. Med finansiering från Interreg Europe ska de tillsammans med regioner och kommuner i Polen, Irland, Frankrike och Spanien ägna de kommande fyra åren åt att ge den offentliga sektorn verktyg för att ta steget in i en framtid där AI spelar en central roll. I juni möttes parterna på campus i Umeå.

– På sistone har det rasat intensiva debatter om AI – om risker, vinster och det växande behovet av styrning och samordning. Inte bara i Sverige, utan runtom i världen. Det här projektet ligger verkligen helt rätt i tiden, inledde Mikael Söderström, universitetslektor vid Institutionen för informatik som stod värd för mötet.

Enaibler strävar efter att bygga upp den offentliga sektorns förmåga att dra nytta av AI:s fördelar, leda införandet av etiska policyer och tjänster och främja ansvarsfull användning av artificiell intelligens i samhället. 

Sarah Pineau Poupelin och Vanda Turczi jobbar båda med digital integration i Frankrike. De tror att transparens och kommunikation är viktiga bitar för att såväl de egna medarbetarna som EU-medborgarna ska kunna förstå och lita på AI-baserade lösningar.

BildLena Holmberg

Mycket att vinna  

Under dagarna i Umeå pratades mycket om norra Sveriges pågående samhällsomvandling. Här brottas vi just nu med en kombination av snabb tillväxt, kompetensbrist och låg arbetslöshet. Skellefteå har rentav lägst arbetslöshet i hela landet. Samtidigt ökar välfärdskostnaderna i takt med att befolkningen åldras och färre arbetsföra behöver ta hand om fler. Det är en tuff ekvation att få ihop.

– Sverige har en otroligt låg nivå av automatisering i offentlig verksamhet. Knappt hälften av vad den kunde vara. Därför är vi är ett av de länder som har mest att vinna på att automatisera mer. Till exempel för att underlätta sådant som schemaläggning, planering, logistik och beslutsfattande, sade en av de inbjudna talarna, Theo Andersson, omvärldsbevakare på Myndigheten för digital förvaltning (DIGG).

Sverige har en otroligt låg nivå av automatisering

Sveriges Kommuner och Regioner (SKR) bedömer att det måste rekryteras 500 000 personer till skola, vård och omsorg fram till 2026. Den arbetskraften finns inte att tillgå. Inte pengarna heller. Men enligt DIGG:s beräkningar skulle offentlig sektor kunna spara 140 miljarder kronor på att införa AI-teknik.

Rätt använd skulle AI alltså kunna frigöra nödvändiga resurser för att möta svåra samhällsutmaningar. Men hur säkerställer man att AI-lösningar faktiskt gör nytta istället för skada när tekniken utvecklas snabbare än de guidande riktlinjerna? Det är ett frågetecken som projektet Enaibler hoppas räta ut. 

Rustar inför världens första AI-lag 

– För oss på Umeå universitet är det särskilt intressant att samarbeta med Skellefteå kommun, då de ligger tämligen långt framme inom AI-området. Vi kan både studera och utveckla praktiska tillämpningar tillsammans och föra mer strategiska diskussioner, fortsatte Mikael Söderström.

– Umeå universitet har en lång historia av gott samarbete med Skellefteå kommun. Inte minst vad gäller AI och ansvarsfull digitalisering. Det samarbetet fortsätter vi nu i Enaibler som verkar för samsyn och erfarenhetsutbyte inom EU, sade Mikael Söderström, universitetslektor i informatik.

BildUlrika Bergfors

Samtidigt underströk han att det är högintressant att samarbeta med partners inom EU.

– Vi väntar alla på att EU-parlamentet ska fastställa världens första förordning för artificiell intelligens, AI Act. Den väntas innebära rätt långt gångna regleringar av applikationer och system som kan innebära oacceptabla eller höga risker.

När AI-lagstiftningen träder i kraft framåt 2026 blir det upp till verksamheter själva att se till att alla system och applikationer man använder överensstämmer med reglerna. Annars finns risk för kännbara böter.

Dags att lämna baksätet

Men att ha järnkoll på hur system tränats att fatta beslut eller vilka data de bygger på är inte helt enkelt. Särskilt som offentlig sektor sällan utvecklar sin IT själv. Skellefteå kommuns strategiska IT-chef, Michael Carlberg Lax, berättade hur man inom alla kommunens uppdrag uppvaktas av leverantörer som vill sälja in AI-lösningar. Över en natt kan AI-funktioner dessutom ha tillkommit i system som de redan har köpt in.

Vi måste börja nu och hitta sätt att hantera detta idag

– Det är som att dammen har brustit. Vi kan inte vänta i tre år på att få det perfekta ramverket på plats. Vi måste börja nu och hitta sätt att hantera detta idag. Att någonstans sätta en accepterad förstanivå för allt från kravställningar i IT-upphandlingar till vårt sätt att jobba med AI i vardagen, konstaterade han.

– Vi har sett vad som kan hända när offentlig sektor misslyckats med att kvalitetssäkra sina AI-lösningar på ett tillräckligt bra sätt. I Nederländerna anklagades exempelvis låginkomstfamiljer felaktigt för bidragsfusk på grund av en diskriminerande algoritm, berättade Michael Carlberg Lax, strategisk IT-chef i Skellefteå kommun.

BildJenny Karlsson

Många deltagare delade känslan av att befinna sig i baksätet. Att överrumplade titta på medan utvecklingen skenar framåt.

– För ett år sedan kändes det som att det var för tidigt för oss att jobba med AI-frågor. Nu känns det nästan som att det är för sent, instämde Tomas Relin från Digital Nièvre Joint Authority i Frankrike.

Via Enaibler vill parterna ta kontroll för att kunna styra över den egna digitaliseringsresan. Här lyfte Michael Carlberg Lax att universitetets forskare framför allt bidrar med värdefull kunskap kring de ”mjukare frågorna”. Där man inte enbart fokuserar på tekniken i sig, utan också på sammanhanget och relationen med användarna.

Användningen i fokus

Umeå universitet är framstående inom etisk AI och människa-AI-interaktion. En av flera forskare som presenterade under mötet var Mikael Wiberg, professor i informatik. Han har följt samhällets digitalisering under de senaste tjugo åren och menar att användningen av AI bör vara föremål för eftertanke och kritisk analys.

– Att försöka stoppa AI är som att försöka stänga ner internet. Det går inte. Däremot behöver vi öka medvetenheten om riskerna och fördelarna och föra en diskussion kring när, hur och varför vi använder AI, sade han.

Att försöka stoppa AI är som att försöka stänga ner internet

Medan somlig säkerhet kan byggas in i system och applikationer är annan avhängig användare och policyer. Det kan till exempel behöva klargöras att kommunmedarbetare inte bör lägga in vissa uppgifter i en stor språktjänst som ChatGPT, eftersom man inte kan vara säker på hur informationen nyttjas eller av vem.

Flera var överens om att de tuffaste frågorna inte nödvändigtvis handlar om verktygen i sig, utan om hur vi använder dem. Men då den offentliga sektorn långtifrån är homogen hade vissa ändå lättare att se nyttan med AI än andra. 

– I skolans värld ligger vi steget efter hela tiden. Hur ska vi exempelvis kunna examinera och undvika fusk med tjänster som ChatGPT, Bing och virtuella tangentbord som gör det möjligt att söka info på nätet och svara på frågor samtidigt? Skolverket har inte heller hängt med, så just nu finns få riktlinjer att gå efter, suckade gymnasieläraren Daniel Strömberg från Skellefteå kommun. 

– Skellefteå är en kommun där det är lätt att få jobb, även utan utbildning. Och vi har ett accelererande problem med hög frånvaro. När AI kan lösa en restuppgift på tio minuter som tidigare skulle ha tagit dig tio timmar, vad har vi då som hindrar dig från att utebli från skolan för att arbeta och tjäna pengar istället? undrade gymnasieläraren Daniel Strömberg.

BildLena Holmberg

Vill föregå med gott exempel

I Enaibler möter regioners och kommuners verklighet den senaste AI-forskningen. Förväntan samsas med frågor och farhågor, precis som i den senaste tidens debatter. Men om projektet lyckas med sin föresats kan det ge ringar på vattnet.

Den offentliga sektorn har generellt sett stort förtroende bland medborgarna. Genom att agera tidiga användare som visar vägen till att införa AI-lösningar på ett ansvarsfullt sätt är förhoppningen att kunna sprida kunskap om etisk AI i samhället, samt gå i bräschen för en bredare acceptans och användning.

– Att satsa på AI kan förstås innebära ökad kvalitet och effektivitet inom den offentliga sektorn. Men Enaibler handlar om mer än att förbättra den egna verksamheten. Vi vill skapa en miljö där AI medvetet används för att främja en hållbar och inkluderande digitalisering som gynnar hela samhället, avrundade Mikael Söderström.