Studenters bruk av kunstig intelligens
Denne nettsiden gir en oversikt over de vanligste verktøyene basert på generativ kunstig intelligens og rammene rundt bruken av disse verktøyene ved UiB.
Bruk av tekst - og samtaleverktøy som ChatGPT og lignende tjenester har fått allmenn utbredelse siden lanseringen i 2022. Verktøy basert på generativ kunstig intelligens (KI) bringer med seg mange muligheter, men gir også noen utfordringer.
Som student må du forsikre deg om hvilke regler som gjelder for ditt fag. Det enkelte fakultet og institutt kan ha egne retningslinjer for bruk av KI-baserte verktøy for de ulike fagene. Generelt gjelder god siteringsskikk, også for bruk av digitale verktøy inkludert KI-baserte verktøy.
Hva mener vi med KI-baserte verktøy?
Generativ kunstig intelligens
Dette er en fellesbetegnelse for verktøy som kan frembringe tekst, bilder, lyd, videoer osv. Generativ KI kan også skape nyttige strukturer som proteiner, enzymer, bygningskonstruksjoner og løsningsforslag og på den måten bidra til vitenskapelige fremskritt. På denne siden omtaler vi kun tekst - og samtaleverktøy.
ChatGPT er et eksempel på et verktøy som lager tekst basert på input fra brukeren, og verktøy som Microsoft Copilot og Google Gemini fungerer på lignende måte.
Trening av modellen
For å lage innhold må KI-verktøyet trenes opp ved å lære fra data. Modellen som verktøyet er basert på, finner mønstre i dataene som gjør at den kan gi gode oversikter og oppsummeringer, og ofte kan lage innhold som fremstår som nytt.
Pålitelighet
Det er viktig å være klar over at disse verktøyene ikke er pålitelige kilder til informasjon. De frembringer svar basert på sannsynligheter, og fungerer ikke som en vanlig søkemotor. De kan feilkoble informasjon som ikke i utgangspunktet er relaterte, noe som resulterer i såkalte "hallusinasjoner".
Hvilket potensial har KI-verktøy?
Metoder og verktøy basert på kunstig intelligens bringer med seg muligheter for store vitenskapelige fremskritt, spesielt innen naturvitenskap, teknologi og medisin. Eksempler på slike blir stadig vist frem og diskutert på seminarserien til UiB AI, som er åpne for alle studenter. Tekst - og samtaleverktøy ble først diskutert på UiB AI's seminar om ChatGPTs rolle i forskning og utdanning.
Hvilke KI-verktøy kan jeg bruke?
Alle studenter ved UiB har tilgang til Microsoft Copilot for web som en del av Microsoft-pakken til UiB. Microsoft sin samtalerobot bruker Open AI sin GPT 4-modell. Dette er den samme modellen som blir brukt i den betalte versjonen av ChatGPT, og gjør det mulig å bruke som promt og frembringe både tekst og bilder.
Fordi UiB har en databehandleravtale med Microsoft, kan du trygt bruke copilot, men du bør alltid være forsiktig med å dele egne eller andre sine data. UiB har også utviklet sin egen GPT-løsning UiBchat. UiB anbefaler at studenter og ansatte bruker Microsoft copilot eller UiBchat, for da har brukeren og UiB kontroll over data (prompts) som er innsendt til verktøyene. Av samme grunn fraråder vi bruk av ChatGPT. Merk deg at ingen av disse løsningene er godkjent for fortrolig eller strengt fortrolig informasjon.
Les mer om Microsoft Copilot for web (tidl. Bing chat enterprise) i nyhetssaken Trygg ChatGPT-tjeneste for alle.
Hva skiller UiBchat fra ChatGPT?
- Data blir ikke lagret andre steder enn på egen datamaskin når du bruker UiBChat
- Chat-logger blir lagret i nettleseren du bruker, og er ikke tilgjengelig fra andre enheter.
- Ved bruk av UiBchat er du trygg på at det du skriver til chatboten ikke blir delt eller brukt for å trene modellen videre.
- Data du legger inn i chatten blir behandlet i Microsoft sitt datasenter i Stockholm, men blir ikke lagret hos Microsoft etter at svaret fra GPT er levert. Dette er i tråd med inngått databehandleravtale.
Vær oppmerksom på at utfordringene knyttet til hvor mye du kan stole på verktøyet og alle spørsmål om faglige retningslinjer osv. gjelder uansett hvilket verktøy du bruker, også dem fra UiB. UiBchat er kun til bruk for grønne data.
For mer informasjon om hvordan du bruker UiB chat, gå til brukerdokumentasjonen for UiBchat
Fallgruver ved bruk av tekst - og samtaleverktøy basert på KI
Du vet aldri hvilke data modellen er trent på
Enhver generativ KI-modell som et tekst - og samtaleverktøy er basert på, må bli trent på et sett med data. Hvilke data som blir brukt under opplæringen vil i svært stor grad kunne påvirke hvilke resultater vi får ut, og dette er noe vi må være bevisste på når vi mottar en respons fra den generative modellen.
På samme måte som at meningene og holdningene våre kan bli formet av informasjonen vi har, vil generative modeller produsere innhold i tråd med dataene de er trent på. Som bruker av disse tjenestene kan du aldri være sikker på hvilke data som er blitt brukt i opplæringen, med mindre tjenestene har gjort dette tilgjengelig på en måte som kan gjennomgås.
Selv om KI kan gi oss nyttige verktøy, er kunnskap og ekspertise i det aktuelle fagområdet helt nødvendig for å kunne vurdere påliteligheten til innholdet disse verktøyene produserer.
For mer informasjon om hvordan data kan, og har påvirket kunstig intelligens til å gjøre feilslutninger, se f.eks. Rise of AI Puts Spotlight on Bias in Algorithms - WSJ
Modellen er et resultat av dataene den er trent på
Selv om vi vet hvilke data en modell er trent på, er det ikke nødvendigvis slik at den produserer fornuftige resultater. Forenklet sagt kan vi si at en modell som benytter data av høy kvalitet, som oftest vil produsere innhold av høy kvalitet. Tilsvarende vil en modell som er trent på data av lav kvalitet, som oftest produsere innhold av lav kvalitet.
Som brukere av disse tjenestene kjenner vi ikke til kvaliteten på dataene eller hvordan disse er prosessert. Dersom vi stoler blindt på resultatet av en generativ modell, risikerer vi å ta i bruk upålitelige svar. Spør du ChatGPT hvem som var rektor ved UiB i 1955, får du som svar at dette var Asbjørn Øverås, og ikke Erik Waaler som er riktig. Dette er et eksempel på faktafeil, noe du kan lese mer om i professor Jill Walker Rettberg sin kronikk i NRK.
Du har ikke kontroll på data du sender inn
Ved å ta i bruk generative modeller på internett sender du informasjon til servere du ikke nødvendigvis vet hvor befinner seg. EU har et svært strengt regelverk som regulerer hva bedrifter kan og ikke kan gjøre med opplysningene dine, men for nettbaserte tjenester er det er ingen garanti for at de opererer i EU/EØS i henhold til dette regelverket.
Med mindre bedriften som leverer modellen du bruker har forpliktet seg til å håndtere dataene dine på en lovlig og etisk måte, risikerer du at dataene blir brukt for å trene opp andre modeller, eller av ulike grunner kommer på avveie. Det er derfor svært viktig at vi er bevisste på hvilke data vi sender, i likhet med de fleste andre tjenester på internett.
Eksempelvis er studentarbeid som eksamensbesvarelser ikke lov å sende til generative modeller, ettersom eksamensbesvarelser er å regne som personopplysninger. I alle tilfeller hvor UiB skal sende personopplysninger til en tredjepart, må det foreligge en databehandleravtale.
Språkmodeller har et begrenset virkeområde
Digitalisering, teknologi og kunstig intelligens er i ferd med å endre fagene våre og arbeidslivet på tvers av bransjer. Kunstig intelligens, også i andre former enn generative modeller, blir tatt i bruk i mange sammenhenger. I fremtiden vil kombinasjonen av spesialisert fagkunnskap og digital forståelse inkludert kjennskap til kunstig intelligens, være avgjørende i både arbeid – og samfunnsliv.
Fremveksten av nye og tilgjengelige verktøy har ulike implikasjoner for ulike fag- og disipliner, og ulike fakultet og institutt kan dermed ha ulike tilnærminger til bruken. Uavhengig av dette er det juridiske rammer, regelverk for plagiat og fusk, og for kildeføring som må respekteres.
Juridiske rammer
Verktøy for kunstig intelligens og GDPR
En av utfordringene med bruken av kunstig intelligens verktøy som ChatGPT og personvernregelverket (GDPR), er at dataene som blir brukt til å trene verktøyene, inneholder personopplysninger. Personopplysning defineres som informasjon i enhver form som kan knyttes, direkte eller indirekte, til en enkeltperson. Disse personopplysningene er hentet inn i verktøyet fra ulike kilder, både fra internett og fra brukerne, med eller uten deres kjennskap til dette.
Det er svært usikkert om disse personopplysningene er hentet inn på lovlig vis, og datatilsyn fra flere land har vært skeptiske til slike tjenester av denne grunn. Etter GDPR er det svært vanskelig å anse at en slik samling av personopplysninger, noe som kalles for dataskraping, kan være lovlig. Det gjelder særlig sensitive personopplysninger som opplysninger om rase, etnisitet, religion, helse, politiske oppfatninger eller seksuell orientering.
Brukere må vite at løsninger som bygger på kunstig intelligens bruker det som skrives inn eller lastes opp til å forbedre tjenesten, og at de deles med tredjeparter som kommersielle aktører og myndigheter. Det vil si at personopplysninger som legges inn blir lagret og brukt videre. Det er ikke mulig å rette eller slette dem fra modellen. Vær klar over at forespørsler som sendes inn i tjenesten kan inneholde sensitiv personinformasjon og at modellen kan utlede sensitiv informasjon om deg utfra oppgitt informasjon.
Plagiat og fusk
Akademisk redelighet er en overordnet norm som styrer hva som er forventet av blant andre UiB sine studenter. Vi forventer at studentene stoler på egne ferdigheter, gjør selvstendige vurderinger og tar standpunkt. Tekst - og samtaleverktøy basert på KI og andre digitale verktøy, reiser spørsmål knyttet til både kildebruk og krav om selvstendighet. Som hovedregel er det et krav om at svaret på eksamen er en selvstendig produsert tekst.
Dette gjør at å levere en tekst som helt eller delvis automatisk frembragt vil regnes som fusk, med mindre det er sitert på redelig måte.
Les mer på nettsiden Reielegheit og fusk.
Om fusk og redelighet i ph.d.-utdanningen
Akademisk redelighet er en overordnet norm som styrer hva som er forventet av også UiB sine ph.d.-kandidater. For ph.d.-kandidater består ph.d.-programmet av to deler, opplæringsdelen og avhandlingsarbeidet. Eksamener i opplæringsdelen er underlagt de samme juridiske rammer, regelverk for plagiat og fusk, og for kildeføring som studenter. Arbeidet med avhandlingen er et forskningsarbeid som er underlagt de samme rammene for vitenskapelig redelighet som all forskning ved UiB.
For mer informasjon om vitenskapelig redelighet, se Forskningsetikk.
Kildeføring
Når programvare påvirker resultater, analyser eller funn i akademisk arbeid, skal du referere til den. KI-verktøy blir regnet som programvare og ikke som medforfatter, fordi programvaren ikke kan ta ansvar for arbeidet.
KI-generert tekst kan ikke bli gjenskapt av andre. Derfor bør det i akademiske arbeider bli oppgitt hvordan KI-verktøyet ble brukt, inkludert tidspunkt og omfang, og hvordan resultatet ble inkludert i teksten. Ofte er det nyttig å vise hva som ble skrevet inn i chatten. Lange svar fra KI-verktøyet kan legges som vedlegg. Vær oppmerksom på at det kan være fagspesifikke regler for dokumentasjon av KI-bruk.
Eksempel på referanse i APA7-stil:
- I teksten: tekst (OpenAI, 2023)
- I referanselisten: OpenAI. (2023). ChatGPT (20. april-versjon) [Stor språkmodell]. https://chat.openai.com.
Veiledning for KI-verktøy ved fakultetene
Flere fakulteter har utviklet egne veiledere for bruk av språkmodeller og annet KI-verktøy. UiB er et stort universitet som dekker mange svært forskjellige fagområder. Bruken av slike verktøy varierer stort utfra fagområdet, og UiB legger derfor til grunn at det er fagmiljøene som selv vurderer bruken av slike verktøy på sine fagområder.
Du som student må orientere deg om føringene for ditt studieprogram og emner.