Professor Slavkovik tror kunstig intelligens er fremtidsløsningen vi har ventet på

For noen år siden traff en kunstig intelligens-revolusjon verden med et brak, og bruken av verktøy som ChatGPT skjøt i været.

Noen er bekymret for konsekvensene, som at jobber kan forsvinne, og at stadig flere studenter blir tatt for fusk med kunstig intelligens (KI). Men en av UiBs ledende KI-forskere, professor og leder for Institutt for informasjons- og medievitenskap, Marija Slavkovik, mener det først og fremst er en kostnad knyttet til å ikke omfavne KI. 

Slavkovik forsker på feltene multi-agent systemer, maskinetikk og beregningsorientert sosialt valg. Hun mener det stort sett er fordeler med det teknologiske skiftet vi er midt oppi.

– Europa får færre og færre mennesker, men vi vil samtidig at disse menneskene skal kunne fortsette å trives og ha sine friheter. Det vil være en kostnad knytte til å ikke automatisere. Det vil bety at vi får dårligere og dårligere opplevelser i samfunnet med de offentlige tjenestene – rett og slett fordi vi går tom for folk, sier hun.

Å endre samfunnet til det bedre

– Vi vil ha gode tjenester i samfunnet, jobbe et rimelig antall timer og ha muligheten til å følge våre lidenskaper. Hvordan kommer vi dit? På samme måte som vi har kommet dit tidligere. Ved å automatisere ting, sier hun, og legger til:

– Men selvfølgelig kan vi ikke ha blind automatisering, uten å vurdere de kortsiktige individuelle og samfunnsmessige kostnadene.

– Hva med produktivitet? Hva med jobber som forsvinner?

– Jeg tror dette er en veldig kortsiktig perspektiv. Poenget er å skape mer produktivitet ved å bruke AI. Det finnes en systematisk måte å gå frem på. Det vil fortsatt være behov for jobber, men hva vi gjør i de jobbene kommer til å være litt annerledes, sier hun.

Teknologi har vanligvis endret samfunnet til det bedre, ifølge Slavkovik.

– Du kommer ikke til å overbevise meg om at vi levde bedre før i tiden. Noen mennesker gjorde det, men ikke de fleste. Folk har en veldig optimistisk oppfatning av fortiden og en pessimistisk oppfatning av fremtiden, sier hun.

Tillitt og algoritmisk beslutningstaking

Det er for tiden et skrikende behov for forskning på kunstig intelligens. Slavkovik ønsker å være en del av løsningen. Hun håper å få et ERC Synergy Grant for å studere algoritmisk beslutningstaking i offentlige institusjoner. Hun er nå i den siste runden av intervjuer.

– Spesielt ønsker vi å se på tillitsforholdet mellom borgere og offentlige institusjoner, og hvordan dette kan bli forstyrret når KI er involvert, forklarer Slavkovik.

Algoritmisk beslutningstaking (ADM) er når noen bruker beregninger for å ta eller hjelpe til med å ta beslutninger om borgere. Noen land bruker dette i ansettelser, noen i identitetskontroller av migranter, og noen for å vurdere kvalifisering til økonomisk strømstøtte. Slavkovik forteller at fra rundt 2020 har det vært en utbredt bruk av ADM i offentlige institusjoner.

– ADM er ikke bare KI. Det bruker KI, men det er litt mer enn det. Det er i utgangspunktet noe som bruker en statistisk modell, trent av KI for å generere informasjon om atferd. Det er en veldig stor dataanalyse, og analysen brukes algoritmisk for å gjøre vurderinger. Ideelt sett vil det da være en offentlig tjenesteperson som ser på dette og sier ok, forklarer Slavkovik.

Riktig mengde tillit

En maskin kan gjøre feil eller ta uetiske beslutninger. Så hvorfor vil offentlige institusjoner bruke algoritmisk beslutningstaking?

– Det gjør arbeidet i offentlig administrasjon mye mer effektivt, men det er samtidig problematisk, fordi offentlig administrasjon har mer makt enn private selskaper. La oss si at dagligvarebutikken din bruker ADM for å forutsi om du kommer til å stjele eller ikke. Du kan alltids gå til en annen butikk. Hvis Nav bruker det for å forutsi om du kommer til å være arbeidsledig lenge eller ikke, kan du ikke bruke et annen Nav, sier Slavkovik.

Hun er interessert i spørsmål som: Hvordan får vi borgerne til å ha riktig mengde tillit til dette? Hvordan bruker vi politikk til å gjøre borgerne i stand til å ha kontroll over prosessen sin og forholdet sitt til de offentlige institusjonene?

– Vi må øke mengden ADM i de offentlige tjenestene slik at vi kan ha fungerende offentlige tjenester som tjener borgerne, men vi vil også at borgerne skal oppleve å ha innflytelse. For å få mest mulig ut av dette, og vite når og hvordan de kan bestride og klage på avgjørelser de offentlige institusjonene tar, sier Slavkovik.

– Jeg vet ikke hva den overordnede løsningen skal være, men vi kan gi folk et utgangspunkt. Å gjøre folk oppmerksomme på hva de bør følge med på, og gi en forståelse av hva dette betyr, er et viktig skritt fremover.

Den første artikkelen fra Maggetti, Lahusen og Slavkovik-teamet, om tillit og automatisering av beslutninger kom ut 5. september. Den kan leses her.