Forskningsprojekt Vi tar fram ansvarsfulla AI-system som i kombination med Mixed Reality-teknik ska underlätta och utveckla polisers arbete i kritiska situationer. Projektet är unikt då det syftar till att förbättra säkerhet och effektivitet samtidigt som vi tar största möjliga hänsyn till etiska aspekter.
Poliser i yttre tjänst finns närmast medborgarna. Deras uppgift kan vara att hjälpa en desorienterad äldre person, hantera trafiken eller lösa komplexa, farliga situationer som t ex gängslagsmål eller skjutningar. I detta projekt kommer vi att utveckla ansvarsfulla AI-lösningar i Mixed Reality-miljö i syfte att stärka situationsmedvetenheten ute på fält. Målet är att förbättra förmågan att upprätthålla en klar bild av relevant och uppdaterad information samtidigt som den teknik vi använder inte kränker den personliga integriteten och mänskliga rättigheter.
Anders Schogster och universitetslektor Jonas Hansson från enheten för polisutbildningen samarbetar nu med universitetslektor Juan Carlos Nieves Sanchez vid institutionen för datavetenskap i ett nytt AI-projekt för framtidens polisarbete.
BildVictoria SkeidsvollInstitutionen för datavetenskap vid Umeå universitet bedriver ledande forskning inom verktyg och metoder för att designa, övervaka och utveckla pålitliga och ansvarsfulla AI-system och applikationer. De mest begränsande faktorerna för att utveckla AI-lösningar för polis och allmän säkerhet är transparens och pålitlighet. Tillsammans med enheten för polisutbildningen vid Umeå universitet och Mossos d’Esquadra, polismyndigheten i Barcelona, genomför vi AI-tester i kombination med Mixed Reality, främst HoloLens, i syfte att samla in data, praktisera och utöva, samt bedöma implementeringen av tillförlitliga AI-krav i olika polisinsatsscenarion.
Poliser i radiobilar ställs inför situationer som kan variera från låg risk, t ex brottsförebyggande uppgifter i trafiken, till hög risk, exempelvis följa efter en möjlig misstänkt som färdas i hög hastighet. Vi är intresserade av att förbättra situationsmedvetenheten och studera effekterna av teknik som kan stödja poliser att hantera olika uppgifter. Ur forskningssynpunkt väljer vi detta scenario på grund av dess många konsekvenser. Hur förhåller sig poliser i tjänst till AI och den nya tekniken? Vilka fördelar och negativa följder finns? Projektet syftar även till att ta itu med de etiska och samhälleliga aspekterna av den nya tekniken. Vi vill studera flera möjliga utmaningar, i samhället och rent juridiskt:
Samhällsutmaningar med AI: Användning av AI för att upptäcka potentiellt livshotande situationer eller fordon relaterade till brott. Säkerställa att grundläggande rättigheter som integritet och icke-diskriminering bevaras, samtidigt som den allmänna säkerheten garanteras.
Lagstiftning och AI: Frågor om skydd av personuppgifter, eventuella kränkningar av grundläggande rättigheter i samband med användning av kamera, rättsliga hinder för reglering av drönare och användning av dessa på offentliga platser.
Detta projekt är en del av HumanE AI, ett EU-finansierat forskningsprogram där Umeå universitet leder och koordinerar Workpackage 5, AI Ethics and Responsible AI. Målet är att forma den snabba AI-utvecklingen i en riktning som är till nytta för människor och samhälle, och som följer sociala, kulturella, rättsliga och politiska normer.
Läs mer om projektet: "To develop a trustworthy AI model for situation awareness by using mixed reality in Police interventions". Ytterligare information om forskning och samarbeten vid Umeå universitet finner du i länkarna nedan.
