Kan flere komitémedlemmer gjøre forskning mer etisk og inkluderende?

Den International Joint Conference on Artificial Intelligence (IJCAI), etablert i 1969, har i mange år vært en ledende møteplass for AI-forskere og -praktikere fra hele verden. Konferansen ble i år arrangert for 33. gang.

Årets arrangement mottok over 5600 artikler, med en akseptprosent på 14% fordelt på hovedsporet og tre spesialiserte spor: AI, kunst og kreativitet; AI for sosialt gode; og menneskesentrert AI.

AI-konferanser anses ofte som preget av et sterk fokus på teknologiske fremskritt, der forskere primært konsentrerer seg om matematiske og tekniske aspekter ved sin forskning, mens viktige etiske hensyn ofte blir oversett. Som svar på dette har rollen som etikkomiteutvalgte (ethics chairs i engelsk) på vitenskapelige konferanser blitt stadig mer vanlig.

Marija Slavkovik, instituttleder ved Institutt for informasjons- og medievitenskap var ethics chair på den siste IJCAI-konferansen.

- Utnevnelsen av ethics chairs på konferanser er ikke alltid standard praksis, og innenfor AI-feltet er denne rollen fortsatt relativt ny, forklarer hun.

Etikkkomiteutvalgte fungerer som dommere. Når fagfellevurderere reiser spørsmål knyttet til etiske aspekter ved en forskningsartikkel, trer ethics chairs inn og i samarbeid med konferanselederen avgjører hvordan spørsmålet skal håndteres og besvares.

Slavkovik utdyper:

- Mange AI-prosjekter kan brukes både til nytte og til skade. Å avgjøre hva som er uetisk er ofte vanskelig og kan være subjektivt, da det påvirkes av personlige skjevheter og kulturelle forskjeller. Denne subjektiviteten gjør det utfordrende å konsekvent vurdere om en forskningsartikkel bør avvises på etisk grunnlag, og det reiser spørsmål om slike beslutninger bør overlates til én enkelt person, da det kan svekke tilliten til ethics chairs.

Infomedia-lederen peker på at vitenskapelige tidsskrifter og flere ledende AI-konferanser har innført etiske retningslinjer som fastsetter klare forventninger til forfattere, inkludert kravet om å tydeliggjøre både kjente og mulige virkninger av deres forskning.

- Men for å motvirke uetisk forskning bør vi også åpne for en diskusjon om rollen, innflytelsen og effektiviteten til ethics chairs på konferanser, legger Slavkovik til.

Bare en del av ligningen

Vurdering av etiske spørsmål og forskningens påvirkning er viktige oppgaver, men de utgjør bare noen av de mange ansvarsområdene som må håndteres.

Det er like viktig å prioritere mangfold og inkludering, og å sikre at forskningsmiljøet reflekterer et bredt spekter av perspektiver og bakgrunner.

Førsteamanuensis Samia Touileb, som blant annet er ethics reviewer ved Conference on Empirical Methods in Natural Language Processing og diversity and inclusion chair ved European Conference on Artificial Intelligence, understreker dette poenget:

- Å adressere etiske spørsmål i forskning er avgjørende, men det er bare én del av ligningen. For å fremme vitenskapen må vi også adressere ubalansen i representasjon. Å styrke mangfold og inkludering i forskning beriker faglig dialog og legger til rette for mer nyskapende og rettferdige forskningsresultater.

Men hvordan bidrar egentlig mangfolds- og inkluderingschairs til å skape mangfoldig forskningsmiljø? Touileb forklarer:

- Mangfolds- og inkluderingschairs jobber ofte med å sikre finansiering fra sponsorer for å støtte deltakelse fra underrepresenterte grupper i forskningsmiljøet, og dermed fremme lik tilgang til konferanser, uavhengig av deltakernes geografiske plassering. I tillegg utformer og gjennomfører de aktiviteter som styrker mangfold og inkludering, som for eksempel nettverksarrangementer som 'Birds-of-a-feather'-sesjoner, som bidrar til å skape en følelse av tilhørighet blant alle deltakere på tvers av ulike karrierestadier.