Hoppa direkt till innehållet
printicon

Autonoma systems förmåga att inse sina egna begränsningar

Forskningsprojekt Projektet ingår i ett större forskningsinitiativ av 8 postdoc-projekt om autonoma system för framtidens industri och samhälle.

Autonoma system, som autonoma fordon eller robotar i hushåll och hälsovård, kommer att bli integrerade delar av vårt liv och samhälle. De kommer att utföra uppgifter i våra vardagliga miljöer som kan innebära mycket tvetydig eller osäker information och därmed utmana sina kompetenser. Ett sätt att lösa dessa problem är att få hjälp från en människa. För att framgångsrikt göra detta måste systemen först förstå när sådant stöd skulle gynna dem, och sedan behöva kunna begära stöd på användbara sätt. Båda aspekterna kommer att undersökas i detta projekt för några exempeluppgifter.

Projektansvarig

Kai-Florian Richter
Universitetslektor
E-post
E-post
Telefon
090-786 68 31

Projektöversikt

Projektperiod

2018-02-01 2020-01-31

Finansiering

Kempestiftelserna, 2018-2020: 600 000 kr

Forskningsämne

Datavetenskap

Projektbeskrivning

En människas vetskap om när den kan agera helt autonomt, och när den måste samarbeta med andra för att utföra en given uppgift är grundläggande för god effektivitet, säkerhet, och till och med överlevnad. Denna mänskliga förmåga är lika viktig för autonoma system, i synnerhet för de artificiella kognitiva agenter som nu introduceras allt mer i våra offentliga och privata miljöer.

Utan denna förmåga kan dessa system lätt ”gå vilse” - bokstavligen för autonoma robotar och autonoma fordon, och likaledes problematiskt för mer abstrakta system som lätt kan bli förvirrade i situationer där många åtgärder eller beslut är möjliga. För att ett autonomt system ska kunna veta att det behöver stöd - vanligtvis från en människa - behöver det metoder för att inse att dess nuvarande plan inte kommer att resultera i de avsedda resultaten, eller att det inte kommer att kunna fatta korrekta beslut i den aktuella situationen. Det behöver vidare kunna kommunicera denna insikt och dess orsaker till en mänsklig operatör.

Detta projekt kommer att utveckla och undersöka mekanismer för denna typ av funktionalitet, med fokus på principer för samspelet mellan system och människa i kritiska situationer. Tänkbara scenarier inkluderar spatial navigering, manipulering av föremål i inomhusmiljöer (t.ex. i samband med äldrevård), och mer generella planeringsproblem.