Hur avgör vi om ett AI-genererat svar är sant, falskt eller något däremellan? I höstens första #frAIday berättar Ricardo Peraça Cavassane hur formella teorier om sanning kan hjälpa oss att förstå så kallade hallucinationer i stora språkmodeller. Seminariet hålls på engelska.
Du kan delta via Zoom eller hos oss på plats i SAM.B.566 - SAMVETET (Mazemap).
Så kallade "hallucinationer" i stora språkmodeller (LLM:er) beskrivs ofta som svar som är felaktiga eller saknar mening. Men hur avgör vi egentligen om ett AI-genererat svar är sant, falskt eller något däremellan?
I detta seminarium använder Dr. Ricardo Peraça Cavassane formella teorier om sanning för att analysera hur svar från språkmodeller kan bedömas.
Med utgångspunkt i Alfred Tarskis semantiska sanningsteori och Newton da Costas teori om kvasi-sanning presenteras kriterier för när ett svar från en LLM kan betraktas som sant, falskt, kvasi-sant, kvasi-falskt eller varken eller.
Föredraget fokuserar särskilt på generativ frågebesvarande AI inom vetenskapliga ämnesområden och erbjuder ett logiskt och epistemologiskt perspektiv på ett av dagens mest uppmärksammade AI-fenomen.
Seminariet hålls på engelska. Varmt välkommen!
Ricardo Peraça Cavassane är postdoktor vid Centret för Logik, Epistemologi och Vetenskapshistoria vid Campinas universitetet i Brasilien.
Hans forskning fokuserar på logiska och epistemologiska aspekter av stora språkmodeller, särskilt ur perspektivet kvasi-sanningsteori.
Han forskar även inom systemteori, Ludwig Wittgensteins filosofi samt spelbaserade metoder för undervisning i logik.