#frAIday: Datakvalitet för ansvarsfull medicinsk AI
fre
22
mar
Fredag 22 mars, 2024kl. 12:15 - 13:00
Zoom
Datakvalitet är ett av huvudmålen för ansvarsfull AI. Mot bakgrund av EU:s AI-lag blir datakvalitet en viktig rättslig faktor vid utveckling och användning av algoritmiska system inom högriskområden, t.ex. hälso- och sjukvård. Processen för att uppnå lämplig datakvalitet är en källa till aktiv debatt. Forskare inom datavetenskap och i synnerhet datahanteringsstudier har tidigare definierat datakvalitet som konstituerande men omtvistad i sina dimensioner, såsom noggrannhet, struktur, aktualitet och efterlevnad. Trots detta har lite uppmärksamhet ägnats åt hur, under vilka förhållanden och i vilken utsträckning datakvalitet kan uppnås i högriskdomäner.
I det här föredraget kommer jag att visa hur experternas "praktiska logik" grundar och definierar hur och i vilken utsträckning datakvalitetsdimensioner är möjliga att uppnå inom det alltmer krävande imperativet att följa de datakvalitetsstandarder som fastställts av EU AI ACT. Denna presentation baseras på min omfattande etnografiska studie av datapraxis hos experter som skapar medicinska dataset för utveckling av diagnostiska algoritmiska system i två hälsoteknikorganisationer i Västeuropa. Genom att ta reda på hur datakvalitetsdimensionerna ifrågasätts och äventyras i praktiken inom organisationer av olika storlek och kapacitet, hävdar jag att efterlevnad framträder som en logik för praxis som går igenom och definierar resten av datakvalitetsdimensionerna.
Natalia-Rozalia Avlona är advokat (LLM) och Marie Curie Ph.D. Fellow (DCODE) vid den datavetenskapliga institutionen vid Köpenhamns universitet. Hennes nuvarande forskning fokuserar på design och implementering av medicinska algoritmiska system inom den offentliga hälso- och sjukvårdssektorn. Natalia har arbetat i över ett decennium med den juridiska och politiska frontlinjen för öppen och framväxande teknik.