Camilla skal utforske bruken av KI-modeller i helsevesenet

25-åringen er en biomedisinsk ingeniørstudent ved Universitetet i Pavia (Italia). Hun kom nylig til Bergen for å samarbeide med Pandemisenteret mens hun fullfører masteroppggaven. 

– Mitt fagområde er kunstig intelligens og helsetjenester. I oppgaven min vil jeg evaluere effekten av forklarbar KI på beslutningstaking i helsevesenet.

– Hva er forklarbar KI?

– Forklarbar KI er et felt som oppsto med behov for å gjøre komplekse KI-modeller mer transparente og forståelige for sluttbrukere og utviklere. KI-modeller blir ofte referert til som "black-box-modeller". Dette betyr at du ikke kan forstå hvorfor den kommer med en bestemt løsning. Dette er avgjørende dersom det skal benyttes i beslutningstaking i helsevesenet.

– Kan du komme med et eksempel?

– For eksempel når klinikere skal bruke KI-modeller for spesifikke pasienter, må han eller hun kunne forstå hvorfor modellen foreslår en spesifikk diagnose eller behandling. KI-modeller er ikke alltid riktige, så vi må vite vite hva de gjør feil, forklarer Simonelli.

Hjelp til å ta beslutninger

KI-modellene hun skal utforske er foreløpig ikke tatt i bruk i helsevesenet, men vil trolig bli implementert en gang i fremtiden.

Som en del av oppgaven, vil Simonelli gjøre en spørreundersøkelse blant 161 innlagte ved sykehuset i Pavia. Nøkkelspørsmålet er hvordan KI-modellene kan hjelpe i beslutningsprosessen når de vurderer om pasienter som oppsøkte akuttmottaket bør legges inn på sykehus eller sendes hjem.

– Modellene ble trent ved hjelp av data fra covid-pasienter under den første bølgen av pandemien. Disse dataene er basert på røntgenbilder og undersøkelser.

De kliniske vurderingene rundt hvilke pasienter som trengte behandling på sykehuset var svært relevante under pandemien. Med begrensede ressurser var det avgjørende å vite hvilke pasienter som kunne sendes hjem og ikke.

Ikke en erstatning

KI-modellene kan potensielt bli et viktig verktøy i denne typen beslutningstaking i fremtiden, men ikke som en erstatning for menneskelige ressurser.

– Det er derfor det er så viktig med forklarbar KI og å bygge KI-systemer som er brukervennlige og transparente. Du ønsker ikke å erstatte klinikere, men å øke deres evner ved å hjelpe dem til å forstå hva modellen tenker eller sier, påpeker Simonelli.

Ved Pandemisenteret vil hun bli fulgt opp av Esperanza Diaz, Guttorm Alendal, Anna Oleynik og Prabhjot Kour. 

– Jeg vil prøve å ha en tverrfaglig tilnærming til arbeidet mitt ved å intervjue ulike interessenter i prosessen, for eksempel juridiske eksperter. Ved å gjøre dette kan jeg undersøke de lokale følgene av å innføre et beslutningsstøttesystem som dette på et ekte sykehus, avslutter Simonelli.