Skal utforske hvordan KI kan brukes til å ta rettslige avgjørelser

Forskningsrådet kunngjorde i forrige uke at de gir 12 millioner kroner i finansiering til prosjektet «Explainability requirements for AI used in legal decision-making» (LEXplain). Forskningsprosjektet, som er et samarbeid mellom UiB og Københavns Universitet, tar mål av seg å gi et bedre kunnskapsgrunnlag for hvordan kunstig intelligens praktisk kan brukes som et effektiviserende hjelpemiddel for å ta juridiske beslutninger i rettsvesenet og i offentlig forvaltning.

KI er nøkkelen for å effektivisere

I prosjektgruppen fra Det juridiske fakultet ved UiB deltar Ragna Aarli og Synne Sæther Mæhle, samt Henrik Palmer Olsen som har sin hovedstilling ved Københavns Universitetet, men som også er tilknyttet UiB gjennom en professor II-stilling.

Palmer Olsen, som leder prosjektet, mener det er viktig med mer spesifikk forskning på hvordan KI kan brukes i arbeidet med å fatte juridiske beslutninger.

– Det er stort politisk ønske å gjøre saksbehandlingsprosessene i offentlig forvaltning mer effektiv og mindre ressurskrevende. I manges øyne er KI nøkkelen for å få dette til, forklarer Palmer Olsen.

«Black box»-problemet

Palmer Olsen trekker frem at rettslige avgjørelser som tas i domstolene og i offentlig forvaltning er underlagt strenge begrunnelseskrav. Disse er igjen forankret i grunnleggende rettsstatlige prinsipper om at en beslutningsprosess skal være forståelig, gjennomsiktig og etterprøvbar. Slike prinsipper står i sterk kontrast til det iboene «Black box»-problemet som kjennetegner storparten av dagens KI-teknologier – nemlig at prosessene og algoritmene som KI-verktøyene baserer seg på er skjulte og utilgjengelige.

Dette er nettopp dette motsetningsforholdet LEXplain-prosjektet vil forsøke å forene.

– Utviklingen innen KI-teknologien gjør det nå mulig å bruke KI til å understøtte juridisk arbeid. Per i dag har vi imidlertid ikke nok kunnskap om det er mulig å bruke teknologien som et hjelpemiddel til å ta avgjørelser som ikke bare er raske, men som også er riktige og godt begrunnet. Vi vet heller ikke nok om hvordan personene som til syvende og sist tar de juridiske avgjørelsene blir påvirket av å samarbeide med KI-systemer, sier Palmer Olsen.

Skal teste ny KI-teknologi

Et viktig ledd i prosjektet er å bygge opp en tverrfaglig forskergruppe av både rettsforskere og IT-utviklere. Sammen skal de vurdere hvordan nye hybride KI-teknologier kan brukes for å støtte juridiske beslutningsprosesser.

Ragna Aarli forteller at såkalt ”forklarbar kunstig intelligens” (XAI) er en sentral komponent i prosjektet. Forklarbar kunstig intelligens er betegnelsen for KI-verktøy som er utviket for å gi brukeren forståelige forklaringer på prosessene som kjøres i verktøy, i tillegg til at det gir raske resultater.   

– Vi skal undersøke hvor langt det lar seg gjøre å bruke forklarbar kunstig intelligens i juridiske beslutningsprosesser uten å gå på akkord med de rettsstatlige kravene til begrunnelsen for beslutningen, forklarer Aarli og utdyper:

– Det empiriske grunnlaget vil vi hente fra skatte- og trygdeforvaltningen i Norge og Danmark. Vi vil blant annet kode et utvalg avgjørelser fra disse rettsområdene og gjennomføre intervjuer med et utvalg beslutningstakere som skal få treffe avgjørelser med en «KI-assistent» i konstruerte test-saker. Resultatene fra disse kan vi deretter sammenlikne med de «ekte» sakene. 

Bedre på prosjektsøknader

Forskningsrådet tildeling til LEXplain-prosjektet føyer seg inn i en voksende katalog av spennende forskningsprosjekter som Det juridiske fakultetet har skaffet finansiering til de siste årene. Senest i slutten av forrige måned fikk Linda Gröning og Henriette Tøssebro tildelt til sammen 19 millioner kroner til to prosjekter som skal gi ny kunnskap om straffegjennomføring og kriminalitetsforebygging. 

Dekan ved Det juridiske fakultet, Karl Harald Søvig, er strålende fornøyd med tildelingene og mener det viser at forskningsmiljøene på fakultetet har tilpasset en ny hverdag hvor konkurransen om forskningsmidler stadig tilspisser seg.

– Disse tildelingene viser at fakultetet har blitt flinkere til å utforme søknader. Prosjektleder må selvsagt ha en god idé, men dette er lagarbeid hvor mange bidrar inn mot endelig søknad. Tildelingen skjer i konkurranse med andre fag enn juss som bygger på andre metoder. Vi må jobbe ekstra for å få frem hvordan det rettslig interessante fortjener støtte, sier Søvig.