Ny AI-forskning stärker integritetsskyddet inom hälso- och sjukvården

Integritet handlar inte bara om vem som kan se en uppgift. Det handlar också om vilka slutsatser som kan dras när olika uppgifter kombineras, menar Divya Baura, ny doktor vid Institutionen för datavetenskap. 

BildPrivat

Artificiell intelligens används i allt större utsträckning inom svensk hälso- och sjukvård. Den nya tekniken kan bidra till bättre diagnostik och behandling, effektivisera system och stärka forskningen. Samtidigt medför AI också nya risker.

– I takt med att det blir enklare att använda och kombinera information uppstår nya integritetsutmaningar, särskilt inom vården där informationen ofta är mycket känslig, säger Divya Baura, nybliven doktor vid Institutionen för datavetenskap. I sin forskning har hon undersökt hur hälsodata kan användas utan att känslig information exponeras. 

– Hälsodata är värdefulla. Läkare behöver informationen för att behandla patienter. Forskare behöver den för att förstå sjukdomar och utveckla bättre behandlingar, och sjukhus behöver den för att förbättra sin verksamhet, säger Divya Baura.

Lösningen är därför inte att låsa in all information och begränsa dess användning. Utmaningen är i stället att göra data användbara samtidigt som människors integritet skyddas.

Den spännande forskningen utgår från hälso- och sjukvården, men metoderna kan möjliggör användning även inom andra områden.

Från teori till verklighet

En viktig drivkraft bakom hennes forskning har varit att överbrygga klyftan mellan teori och praktik. Divya Baura har undersökt hur etablerade integritetsskyddande metoder fungerar i så kallade virtuella kunskapsgrafer. Det handlar om ett avancerat "lager" mellan användare och de databaser där informationen finns lagrad.

–  I en sjukhusmiljö kan tekniken hjälpa både människor och AI-system att hitta, förstå och koppla samman information från flera datakällor, utan att den behöver flyttas till en ny databas, förklarar Divya.

Inom området finns redan starka teoretiska modeller. Divya Baura ville förstå hur väl dessa modeller fungerar i praktiken. 

– Jag ville undersöka om metoderna fungerar i verkliga system, om de uppfyller kraven i GDPR och om de kan hantera olika behörighetsnivåer och de nödsituationer som ofta uppstår inom vården, säger Divya Baura.

Fyra delar i forskningen

Hennes forskning består av fyra huvudsakliga delar: För det första implementerade Divya Baura metoden i en öppen källkodsplattform för virtuella kunskapsgrafer i syfte att undersöka hur den fungerar i praktiken.

För det andra studerade hon hur integritetsregler kan användas för att uppfylla dataskyddskrav, såsom de som anges i GDPR, med hjälp av verkliga vårddata och etablerade standarder för hälsoinformation.

För det tredje utökade Divya Baura metoden för att ta hänsyn till olika användarroller.

– En läkare, en forskare och en administratör kan behöva använda samma data, men de behöver inte ha tillgång till samma information eller kunna dra samma slutsatser från den, förklarar Divya.

Slutligen undersökte hon hur systemet kan hantera nödsituationer. Inom vården finns det tillfällen då ett alltför strikt integritetsskydd i sig kan bli ett problem.

– Om en patient till exempel kommer in medvetslös kan en läkare behöva omedelbar tillgång till information om allergier eller medicinering.

För att hantera detta utvecklade Divya en särskild mekanism som möjliggör tillfällig åtkomst i nödsituationer samtidigt som all användning övervakas och dokumenteras.

 AI kräver nya sätt att skydda integriteten

En viktig insikt från hennes forskning är att integritet inte bara handlar om att skydda enskildas information. Det verkliga problemet kan uppstå när flera olika uppgifter kombineras.

– Vi rör oss mot system där människor kan ställa frågor med vanligt språk, och där AI automatiskt hämtar och kombinerar information från många olika källor, säger Divya Baura. I en sådan miljö räcker det inte att enbart kontrollera vem som får öppna en viss databas eller fil. Vi måste också ta hänsyn till vilka slutsatser som kan dras utifrån den information som systemet har tillgång till, säger doktor Baura.

Hon ser sin forskning som ett steg mot att besvara dessa frågor. Den allra viktigaste slutsatsen är att integritet inte bara handlar om vem som kan se dina uppgifter. Det handlar också om vad som kan utläsas när olika uppgifter kombineras. 

– Integritet handlar om mer än en enskild uppgift. Den beror på sammanhanget, vilken information som kombineras och vilka slutsatser som kan dras av den, avslutar doktor Baura.