Hvordan kunstig intelligens kan påvirke valg

Når amerikanerne går til valgurnene, er det ikke bare kandidatene som kjemper om velgernes gunst. I kulissene kan kunstig intelligens spille en avgjørende rolle i å påvirke utfallet. Førsteamanuensis Pål Grønås Drange ved institutt for informatikk forklarer hvordan kunstig intelligens (KI) kan brukes til å manipulere valg og hvorfor dette er en bekymring.

– Hvordan kan en tredjepart bruke kunstig intelligens til å påvirke et valg?

Når en falsk video går viralt er skaden skjedd. Såkalte deepfake-videoer og -bilder kan fabrikkere skandaløse situasjoner for å stille motpartens kandidat i et dårlig lys – hvor en kandidat eksempelvis sier noe provoserende eller oppfører seg upassende. Selv om den avsløres som falsk, kan videoen allerede ha påvirket hva velgerne stemmer.

KI muliggjør skreddersydd manipulasjon i stor skala, ved å automatisere og forsterke strategier som tidligere var vanskelige og kostbare. Ved å opprette et nettverk av falske profiler på sosiale medier – såkalte «bot-nettverk» – kan en tredjepart bruke språkmodeller til å subtilt fremme narrativer, støtte synspunkter, eller til og med diskutere seg imellom for å etterligne ekte samfunnsdebatt. Slik kan historier fremstå som delt av folk over hele det politiske spekteret. Det gir en falsk følelse av troverdighet.

Det finnes flere dokumenterte desinformasjonskampanjer som arbeider for å påvirke presidentvalget i USA. Tidligere i høst ble det kjent at det amerikanske justisdepartementet har stengt 32 domener som imiterer anerkjente medier som Washington Post og Fox News, hvor det blant annet blir sådd tvil om det amerikanske demokratiet og støtten til Ukraina. Den russisk-tilknyttede gruppen Storm-1516 peker seg ut som spesielt aktive. De spesialiserer seg på å lage sofistikert falskt innhold, inkludert deepfake-videoer og fabrikkerte varslersaker, for å fremme splittende og misvisende narrativer som retter seg mot amerikanske politiske skikkelser og destabiliserer amerikansk demokrati. Deres aktiviteter er vanligvis koordinert gjennom et nettverk av falske nyhetssider og anonyme sosiale mediekontoer, som brukes til å distribuere og forsterke deres innhold for å nå bredt ut.

Her er tre tilfeller av denne russiske innblandingen som vi kjenner til:

1. En fabrikkert historie hevdet at presidentkandidat Harris var involvert i en påkjørsel (hit-and-run) i San Francisco i 2011. Denne falske påstanden ble spredt gjennom et falskt nyhetsnettsted og støttet av en iscenesatt video der en skuespiller utgir seg for å være offeret. Målet var å skade Harris' rykte og så tvil blant velgerne.
2. En annen fabrikkert historie er den falske «whistleblower»-saken hvor en deepfake-video anklaget Minnesotas guvernør og visepresidentkandidat Tim Walz for å ha seksuelt misbrukt en tidligere student. Denne historien ble forsterket av kjente MAGA-figurer og spredt bredt på sosiale medieplattformer, inkludert X, med mål om å undergrave tilliten til demokratene.
3. Nylig dukket det også opp en falsk video med haitiske velgere som tilsynelatende stemte flere ganger. En manipulert video viste at en angivelig nylig haitisk immigrant uten stemmerett hadde stemt på Kamala Harris i Georgia flere ganger. Videoen ble raskt identifisert som russisk propaganda av amerikansk etterretning og avvist som «åpenbart falsk» av Georgias Secretary of State. Dette forsøket var rettet mot å svekke tilliten til presidentvalget.
    

Med de rette verktøyene kan en liten gruppe, eller til og med en enkeltperson, automatisere alle deler av oppsettet som kreves for å skape illusjonen av en veletablert nyhetskanal. KI er et kraftfullt verktøy til å skape bedrag i flere lag. Med genererte bilder, journalistprofiler og troverdige innslag i alle genrer fra leserinnlegg til toppsaker, kan man skape en overbevisende kilde til desinformasjon. Ettersom det er automatisert, kan det settes opp et multippelt antall nettsteder skreddersydd mot spesifikke publikum på tvers av regioner. For de fleste vanlige lesere vil det ved første øyekast virke autentisk – og det kan være nok til å påvirke amerikanerne i valgavlukket.

– Hvilke andre KI-verktøy kan de bruke for å påvirke et valg?

Stemmesyntese er et annet kraftfullt virkemiddel. Tenk deg et falskt lydklipp der en kandidat tilsynelatende støtter et kontroversielt standpunkt. Det kan spres raskt og nå ut til publikum som kanskje aldri får med seg at klippet er falskt. I dag trenger man bare noen sekunder med tale for å kopiere en persons stemme. For en presidentkandidat vil man selvsagt ha tilgang til timevis av stemmemateriale.

Verktøyene for å oppdage slik manipulasjon finnes, men det er et katt-og-mus-spill. KI blir stadig bedre til å etterligne virkeligheten og det produseres stadig mer fabrikkert innhold. Følgelig blir det stadig vanskeligere å bevise at noe er generert. Dette problemet har egentlig ikke noen teknologisk løsning. Folk må bli flinkere til å bruke sunn fornuft, kildekritikk, og stille spørsmål ved autentisiteten av alt de ser og hører, spesielt rundt valgperioder.

Vi må skille mellom misinformasjon og desinformasjon:

• Misinformasjon er falsk eller unøyaktig informasjon som deles uten onde hensikter, ofte fordi noen tror det er sant.
• Desinformasjon er derimot bevisst skapt og spredt for å villede, og brukes ofte for å manipulere offentlig oppfatning av politiske eller ideologiske årsaker.

De siste årene har det vært etterforskninger som avslørte at bot-nettverk postet KI-generert innhold for å påvirke offentlig mening i forkant av valg i flere land. Disse nettverkene drev ikke bare ensidige narrativer, men plantet polariserende saker for å forsterke splittelse i velgermassen.

– Hva er menneskehetens håp i en verden fylt med feilinformasjon?

Journalister og pålitelige nyhetskanaler er avgjørende i en tid der innhold blir KI-generert for å viske ut skillet mellom sant og usant. Journalister fungerer som et kritisk filter når de verifiserer kilder, faktasjekker og setter informasjon i kontekst. Dette blir enda viktigere ettersom folk nå strever med å avgjøre hva som er ekte.

KI kan skape overbevisende narrativer, falske personer, og til og med hele medieøkosystemer, helt uten forankring i virkeligheten. Videre kan disse narrativene få styrket troverdighet når mennesker man har tillit til går på limpinnen ved å dele i sosiale medier og dermed bidra til å spre desinformasjon. Derfor er åpenhet og verifisering fra legitime journalister og pålitelige medier viktigere enn noensinne.

Journalister er unikt posisjonert til å motvirke dette ved å tilby en grundig prosess som ingen algoritme kan erstatte; samle førstehåndsinformasjon, intervjue ekte mennesker og holde kilder ansvarlige. Deres rolle vil innebære enda mer verifisering og faktasjekking i årene framover. Ikke bare av deres reportasjer, men også av virale historier og utbredt innhold på nettet. Når man kommer dit at KI-generert informasjon blir normalen, vil journalister være essensielle veivisere. Pålitelige nyhetskanaler kan i så måte bli fyrtårn for faktabasert informasjon som hjelper publikum kritisk vurdere det de ser.

– Hva er ditt råd til velgerne der ute?

Møt alt med en sunn dose skepsis. Når KI-innhold blir mer utbredt er det viktig å verifisere informasjon før du aksepterer den som fakta. Hold deg til pålitelige ansvarlige nyhetskilder med et godt rykte, som sjekker fakta. Kryssjekk historier fra ukjente nettsteder med andre anerkjente medier.

Se etter tegn på troverdighet – byline med ekte journalister, detaljerte kilder og artikler som er bekreftet av andre nyhetskilder. Vær på vakt mot kanaler som bare gjentar ett synspunkt eller bruker sensasjonelt språk uten bevis.

Unngå å spre informasjon med mindre du er overbevist om at den er korrekt. Feilinformasjon lever på folks vilje til å dele uten å verifisere. Hvis du konsumerer nyheter i sosiale medier, husk at bot-kontoer kan forvrenge engasjementsdata. Bare fordi noe har mange likerklikk eller delinger, betyr det ikke at det er sant.

Vi må bli mer bevisst på hva vi deler.