Medvetande i AI: Insikter från Science of Consciousness

Tillsammans med en grupp kollegor släppte jag nyligen en rapport om möjligheten till medvetande i nuvarande och nära framtida AI-system, som jag kommer att sammanfatta i detta föredrag. Rapporten argumenterar för, och exemplifierar, ett empiriskt grundat förhållningssätt till detta ämne: att bedöma AI-system i ljuset av våra bästa neurovetenskapliga teorier om medvetande. I rapporten kartlägger vi flera framstående neurovetenskapliga teorier, inklusive återkommande bearbetningsteori, global arbetsplatsteori, högre ordningsteorier, prediktiv bearbetning och uppmärksamhetsschemateori. Från dessa teorier härleder vi en uppsättning "indikatoregenskaper": egenskaper som AI-system kan ha som skulle göra det mer troligt att de är medvetna. Vi använder dessa indikatoregenskaper för att bedöma flera befintliga AI-system och diskutera hur framtida system kan implementera dem. Vi finner inte att något befintligt system är en stark kandidat för medvetande, men vår analys tyder på att det inte finns några uppenbara hinder för att bygga system som besitter indikatoregenskaperna.