NYHET I takt med att artificiell intelligens (AI) blir alltmer integrerad i hälso- och sjukvård, finans och andra känsliga områden, blir det allt viktigare att säkerställa att systemen följer dataskyddslagstiftningen. Ayush Kumar Varshney, doktorand vid Umeå universitet, har tagit sig an denna utmaning i sitt avhandlingsarbete genom att utveckla nya metoder för anonymisering och "machine unlearning" – teknologier som gör det möjligt för AI att glömma.
Porträtt: Ayush Kumar Varschney. Doktorand vid Institutionen för datavetenskap
BildHans Karlsson– Känslig information som diagnosrapporter, patienthistorik, kreditbetyg och konsumtionsmönster lagras ofta i AI-system. För att uppfylla kraven i EU:s dataskyddsförordning (GDPR) är det avgörande att användare har möjlighet att anonymisera och radera denna data, förklarar Ayush.
Maskininlärning, en gren av AI, gör det möjligt för datorer att lära sig från stora datamängder. Den används bland annat för att förutsäga sjukdomar, identifiera riskgrupper för exempelvis diabetes eller hjärtsjukdom, samt upptäcka finansiellt bedrägeri. Trots sin kraftfullhet innebär dessa system stora utmaningar när det gäller dataintegritet.
Ayushs forskning introducerar maskinavlärning det vill säga metoder som gör det möjligt för AI-system att verkligen glömma data – även efter att den använts för att träna en modell. Hans lösningar fungerar både i centraliserade miljöer, där all träningsdata lagras på en server, och i decentraliserade miljöer som federerad inlärning, där användare bidrar med modelluppdateringar utan att dela rådata.
– Maskinavlärning är inte bara användbart för att skydda personliga data. Det kan också användas för att ta bort upphovsrättsskyddat material, skadligt eller partiskt innehåll, och till och med illvilliga bidrag, säger han.
En lika viktig del av processen är att verifiera att data faktiskt har tagits bort. Ayush har även utvecklat granskningsmetoder som kan bekräfta om AI-system verkligen har glömt specifika data. Dessa metoder främjar transparens, ansvarstagande och förtroende.
De praktiska tillämpningarna av hans forskning är många. Teknikföretag kan till exempel personanpassa tjänster samtidigt som de följer GDPR, och banker kan samarbeta kring bedrägeribekämpning utan att exponera kunddata.
– Dessa verktyg är utformade för att stödja både användare och organisationer. De tar oss ett steg närmare att bygga AI-system som är säkra, rättvisa och tillförlitliga, säger Ayush.
Måndagen den 26 maj försvarar Ayush Kumar Varshney, vid Institutionen för datavetenskap, sin avhandling med titeln "Navigating Model Anonymity and Adaptability". Disputationen äger rum kl. 10:00 i sal BIO.A.206, Umeå universitet. Fakultetsopponent är professor Eyke Hüllermeier, Ludwig-Maximilians-Universität München, Tyskland.