Mottok pris for ti-årets forskningsartikkel om KI

Prisen ble delt ut av NORA for artikkelen “Formal Verification of Ethical Choices in Autonomous Systems”. Artikkelen ble skrevet sammen med forskere fra University of Liverpool og publisert i 2016.

Prisen anerkjenner forfatternes arbeid med å sikre at autonome systemer tar etiske beslutninger i tråd med menneskelige verdier.

- Jeg er takknemlig for prisen. Det gir en skikkelig godfølelse når ens arbeid blir løftet frem på denne måten. Selv forskningsfelt som beveger seg hurtig, som kunstig intelligens, bygger på tidligere arbeid. Jeg vil også understreke at artikkelen er resultatet av teamarbeid, forteller Slavkovik etter tildelingen, og peker i retning av de øvrige forfatterne av artikkelen; Dennis, Fischer og Webster.

Anerkjennelsen høster også lovord fra resten av universitetet.

- Prisen viser at våre fagmiljøer er langt framme når det gjelder forskning på kunstig intelligens. Det lover godt når vi dette året skal konkurrere om tildeling av 4-6 nasjonale KI-sentre. Marija er sentral i ett av initiativene fra UiB, og det er også andre sterke initiativer på gang, sier Dag Stenvoll, koordinator for UiBs satsning på kunstig intelligens, UiB AI.

Om artikkelen

I artikkelen har forfatterne sett nærmere på en ny tilnærming til formell verifikasjon av etiske algoritmer i autonome systemer, og presenterer et teoretisk rammeverk for etisk planvalg som kan bli formelt verifisert. Forfatterne har utviklet en metode som kombinerer formelle metoder fra datavitenskap med etisk teori for å sikre at autonome systemer handler i samsvar med forhåndsdefinerte etiske retningslinjer.

Forfatterne utforsker også utfordringene knyttet til å balansere autonomi og etikk. De argumenterer for at autonome systemer må være i stand til å ta raske beslutninger, men samtidig respektere menneskelige verdier og moralske normer. Ved å bruke formell verifikasjon, kan man sikre at disse systemene ikke bare er effektive, men også etisk ansvarlige.

Forfatternes arbeid har allerede hatt stor innflytelse på feltet, og artikkelen har blitt mye sitert og diskutert. Det ble også lagt til grunn i juryens begrunnelse, "For pioneering the formal verification of ethics in AI, an essential yet underexplored area. (…) It has recently influences several research works on machine ethics, as recognized by 238 citations on Google scholar”.

Prisen for "Publication of the Decade" er en velfortjent anerkjennelse av Slavkoviks bidrag til autonomisk teknologi og etikk.