Artificiell intelligens (AI) i Institutionen för datavetenskaps forskning.
Forskningen inom artificiell intelligens (AI) vid Umeå universitet formas av ett livligt forskarsamhälle som tar sig an grundläggande utmaningar i att utveckla ny teori, metoder och tekniker för att driva AI‑fältet framåt, och utforskar hur intelligenta system kan gynna samhälle, miljö och mänsklighet. Umeå universitets AI‑forskning omfattar ett brett spektrum av AI, från att vidareutveckla maskininlärning, optimering och teknologier för naturligt språk, till att förstå AI‑stödd mänsklig beslutsfattning och bygga tillförlitliga autonoma system som är pålitliga, transparenta och hållbara, samtidigt som de är förankrade i aktuella samhälleliga behov.
Genom samarbeten över forskningsområden och samhällsorganisationer utforskas nya forskningsvägar där AI kan användas som ett verktyg för att stödja människor i att fatta bättre beslut, förbättra hälsa och välbefinnande, samt hantera grundläggande forskningsutmaningar inom områden som livsvetenskap, medicin, socialt arbete, utbildning, juridik och reglering, säkerhet och hållbarhet.
Feras M. Awaysheh : Samarbetsinriktade och integritetsbevarande intelligenta system
Forskningsbeskrivning
Min forskning fokuserar på design och utveckling av intelligenta system som kan lära sig, skalas upp och samarbeta i distribuerade miljöer samtidigt som de bevarar integritet, säkerhet och tillit. Jag undersöker federerat lärande, edge‑intelligens och distribuerade AI‑tekniker som gör det möjligt för flera parter att gemensamt bygga AI‑modeller utan att dela känsliga data. En central del av mitt arbete är att hantera utmaningar kopplade till dataheterogenitet, resursbegränsningar, kommunikationseffektivitet och tillförlitlig AI‑implementering i verkliga miljöer. Det övergripande målet är att möjliggöra skalbara, effektiva och ansvarsfulla AI‑system för tillämpningar inom allt från sjukvård och cybersäkerhet till smarta städer och industriell automation.
Nyckelord
federated learning, edge intelligence, distributed and trustworthy AI, privacy-preserving analytics
Mina forskningsintressen kretsar kring hybrida metoder för att representera och bearbeta multimodala data, där symboliska och neurala metoder kombineras på både grundläggande och tillämpad nivå. Jag arbetar även aktivt med principfast och ansvarsfull utvärdering av generativ AI och var med och grundade Measuring What Matters-initiativet, som syftar till att höja kvaliteten och genomslaget i utvärderingspraxis. Utöver forskningen är jag programansvarig för WARA Media and Language och ordförande för den vetenskapliga gruppen inom SELLMA‑LLM‑projektet.
Nyckelord
LLMs, multimodal systems, evaluation, graph-structured data
Timotheus leder gruppen för Agent och Resonemang. Ett av hans fokusområden ligger i skärningspunkten mellan processer och genAI‑agenter som för närvarande förändrar vetenskapliga arbetsflöden. Timotheus har omfattande erfarenhet inom data science och datadriven AI, särskilt från sin roll som Principal Scientist på SAP, Europas största programvaruleverantör. Gruppen Agents and Reasoning samarbetar ofta med forskare inom olika discipliner i AI‑projekt, liksom med industrin. Bland tidigare och nuvarande samarbetspartners finns organisationer som IBM, SAP, Ericsson, Oxford University, Tekniska universitetet i München och Imperial College London.
Helena Lindgren : AI‑baserade bedömnings-, beslutsstöds- och interventionsstudier inom medicin och hälsa
Forskningsbeskrivning
AI‑baserade bedömnings-, beslutsstöds- och interventionsstudier inom medicin och hälsa
Vi designar, utvecklar och utvärderar AI‑baserade system i samarbete med forskare inom medicin och hälsa, och utforskar hur agentisk AI och andra typer av interaktiva AI‑system bör utformas för att stödja en persons lärande, resonemang och beslutsfattande i den kontext där systemen är avsedda att användas. Representation och användning av situationsspecifik domänkunskap är avgörande. Exempel på tillämpningar är beslutsstödsystem för demensdiagnostik, bedömning av risk för arbetsrelaterade skador inom gruv- och byggindustrin, samt personanpassat agentbaserat stöd för beteendeförändring för att förbättra hälsa och förebygga hjärt‑kärlsjukdom och utmattningssyndrom.
Nyckelord
knowledge representation and reasoning, machine learning, human-AI collaboration and teaming, user modeling and personalisation, agentic AI, participatory design
Forskningsbeskrivning
AI för att identifiera fenotyper som påverkar plasticitet och lärande hos människor
Vi utforskar hur rika datamängder som samlas in i studier såsom Västerbottens Intervention Program (VIP) kan informera design och implementering av personanpassade interventioner som syftar till att förbättra lärande hos människor. Förändringsbanor över tid, liksom specifika fenotyper, kan identifieras och användas för att mäta effekter av interventioner samt för att informera individen om framsteg och hälsa.
Nyckelord
neurology, brain plasticity, human learning, machine learning, causal reasoning
Forskningsbeskrivning
Agentisk AI för människa‑AI‑teamarbete inom medicin och hälsa
Vi utforskar hur agentisk AI kan utvecklas och användas i specifika situationer för att stödja samarbetsuppgifter och teamarbete, inklusive stöd för dagboksstudier inom rehabilitering och hälsa. Vi har undersökt konceptet och tillämpningen av den virtuella fysioterapeuten i en fallpreventiv intervention, och arbetar för närvarande med den Virtuella Arbetsterapeuten (VOT) för att bistå datainsamling i dagboksstudier med äldre vuxna. Tillämpningsområden är demensdiagnostik och stöd till individer i deras strävan efter livsstilsförändringar för att förbättra hälsan.
Nyckelord
large language models, generative AI, human-AI teaming, digital health coaching, multi-agent systems, diary studies
Vicenç Torra: Integritetsbevarande maskininlärning / Approximerat resonerande och beslutsfattande
Forskningsbeskrivning
Integritetsbevarande maskininlärning
Vi studerar integritetstekniker längs hela kedjan från data till maskininlärningsmodeller. Detta inkluderar integritetsmodeller (såsom k‑anonymitet, differentiell och integral integritet), integritetsmetoder, högkvalitativa integritetsbevarande generatorer av syntetiska data samt metoder för att mäta utlämningsrisk (inklusive olika typer av attacker).
Nyckelord
data privacy, privacy-preserving machine learning, disclosure risk, membership inference attacks, synthetic data generators
Forskningsbeskrivning
AI‑säkerhet
Forskningen fokuserar på aspekter relaterade till informationsläckage, membership inference‑attacker, och på senare tid arbetar vi med ämnen kopplade till memory poisoning‑attacker. För vart och ett av dessa områden är vi också intresserade av strategier för att motverka och mildra riskerna.
Forskningen fokuserar på matematiska formalismer för att modellera resonerande och beslutsfattande under osäkerhet. Vi arbetar med verktyg kopplade till fuzzy‑mängder samt icke‑additiva mått och integraler.
Nyckelord
fuzzy sets and systems, non-additive measures and integrals, multi-criteria decision making, game theory
Jag har tillgång till ett omfattande arbetsflöde för att tillämpa AI-metoder inom kvalitativ forskning, vilket inkluderar: transkribering av intervjuer eller inspelningar samt analys av kvalitativa data, däribland induktiva analyser (via t.ex. ämnesmodellering) och deduktiva analyser (via klassificering av naturligt språk) — allt i full överensstämmelse med GDPR. Detta arbetsflöde gör det möjligt att minska tidsåtgången för kvalitativ kodning och samtidigt skala upp kodningen till större datamängder. Detta möjliggör i sin tur statistisk validering och ett uttömmande utnyttjande av data. Specialiserade kvalitativa analyser kan utföras efter behov för specifika frågeställningar (t.ex. icke-verbal kommunikation).
Nyckelord
transcription, qualitative research, inductive analyses, deductive analyses, large qualitative analyses
