Forskningsprojekt
TAIGA – Centrum för transdisciplinär AI
I den senaste tekniken inom så kallade språkmodeller, LLM, tillsammans med den framväxande tekniken för att förmedla text genom mycket naturtrogna röster, är det nu (eller snart) omöjligt att särskilja om det är en människa eller AI som man samtalar med, åtminstone om man endast har ljud och text att interagera med. Och människor får snabbt en tendens att tillskriva dessa datadrivna processer mänskliga egenskaper. Möjligheten att använda dessa språkmodeller är stora inom både vård, utbildning och arbetsliv, med samtal som kan ge en mycket stark känsla, precis som ett samtal med en människa kan göra. På så sätt kan nu AI få en ny dimension i påverkan, på gott och ont, på ett sätt som skiljer sig från att ta del av en text eller AI-genererad video. Detta eftersom det sker i det gemensamma nuet, interpresence, vilket kan beskrivas som den mest grundläggande sociala mänskliga förmågan. Men i relation till AI kallar vi det Pseudo-Interpresence. Denna utveckling väcker många kritiska frågor om här-och-nu interaktioner mellan människor och AI. För närvarande saknas en tydlig förståelse av dessa relationer, vilket försvårar etisk utveckling och implementering av AI. För att hantera detta undersöker projektet djupet och intensiteten i relationella AI-upplevelser genom att analysera kognitiva och emotionella processer samt identifiera potentiella risker inom olika befolkningsgrupper. Med en nyskapande, tvärvetenskaplig metod som kombinerar neurovetenskap, psykologi, AI-etik och interaktionsdesign strävar vi efter att ta fram praktiska heuristiker för ansvarsfull AI-utveckling.
