Studenter i kunstig intelligens vant pris

Fungerer maskinlæringsløsningen din likt på ulike personer? Du tenker kanskje, hvorfor skulle den ikke det? En maskinlæringsalgoritme anvender data for å bygge modeller, som igjen identifiserer hendelser basert på dens funksjoner. Si at du ønsker å gå gjennom en bunke med CV-er og identifisere de mest lovende kandidatene. Du kan «trene» en maskinlæringsmodell til å gjøre nettopp det, slik Amazon gjorde. Om du ved et uhell ender opp med en modell som gir et utvalg mennesker fortrinnsrett i bunken, hvordan kan du da begrense partiskhet og hvor mye krever dette av nøyaktighetene til modellene?

Dette er spørsmålet Knut T. Hufthammer, Tor H. Aasheim, Sølve Ånneland og Håvard Brynjulfsen stilte seg som en del av studentprosjektet i faget kunstig intelligens og etikk, våren 2020. De tok i bruk et åpent kildekode-verktøysett, AI Fairness 360 produsert av IBM. Ved hjelp av verktøysettet bygget de et test-eksempel på et ansettelsessystem. De tok utgangspunkt i amerikanske folketellingsdata, og resultatet viste at begrensingen av partiskhet har en mild innvirkning på nøyaktigheten. Enda viktigere var at de lærte om begrensninger for algoritmer som målbevisst reduserer partiskhet i dag. Prosjektrapporten til studentene ble publisert som en artikkel på Norsk Informatikkonferanse, hvor den ble tildelt prisen for beste vitenskapelig artikkel. Du kan lese artikkelen her.

Der kan du også lese om et annet prosjekt fra vårkurset: en undersøkelse av hvor mye den Norske nasjonale strategien for kunstig intelligens kan oppfylles i et automatisert fordelingssystem for en barnehage i Bergen Kommune.

Er du nysgjerrig på kunstig intelligens og etikk? Institutt for informasjons- og medievitenskap har kurset INFO383 Forskningstema i kunstig intelligens og etikk neste semester også. Om du ellers har stor interessere for kunstig intelligens, tilbyr instituttet i samarbeid med Institutt for informatikk en bachelorgrad i kunstig intelligens fra høsten 2021.