NTNU med restriktive KI-retningslinjer: — Kan ikke kose på serveren

«Er det behov for retningslinjer for bruk av kunstig intelligens på NTNU?»

Det er det første spørsmålet universitetet selv ønsker svar på i sitt utkast til retningslinjer for kunstig intelligens, som har vært ute på høring i organisasjonen.

Retningslinjene er både «vurdert og konsolidert med hva andre offentlige virksomheter gjør», skriver NTNU i saksdokumentet som følger utkastet. Men holder det mål?

— Det de skriver er veldig generelt. Det er jo åpenbart at de trenger retningslinjer, men det er ikke så trivielt å vite hva disse retningslinjene skal være, sier Morten Goodwin, professor i kunstig intelligens ved Universitetet i Agder.

Ny måling

Hver fjerde student bruker ChatGPT ukentlig

— Typisk IT-avdelingen

Goodwin forteller at han ikke vet om andre norske høyere utdanningsinstitusjoner som har slike felles retningslinjer, men at NTNUs utkast er i tråd med  retningslinjene Oslo kommune og Digitaliseringsdirektoratet har.

Han mener retningslinjene bærer preg av å være utarbeidet av en IT-avdeling og ikke eksperter på kunstig intelligens.

— Den typiske IT-sikkerhetstankegangen gjennomsyrer det. De er jo redde for hacking, redde for å miste data. Det er enkelt å forstå at de tenker sånn, men kunstig intelligens er jo så mye mer enn et IT-verktøy, sier Goodwin.

Han skulle helst ha sett at retningslinjene var mindre restriktive, slik som kulepunktet hvor «NTNU anbefaler at kunstig intelligens ikke brukes som verktøy i forbindelse med beslutninger eller å fatte avgjørelser som involverer andre personer eller beslutninger som påvirker NTNUs virke.»

— Det er veldig restriktivt. Alt vi gjør påvirker jo vårt virke. Jeg evaluerer studenter, underviser... Alt det påvirker jo et universitets virke. Derfor synes jeg det er en veldig streng advarsel. Jeg ville heller anbefalt de ansatte å ta kunstig intelligens i bruk der de kan, men å samtidig vise varsomhet, sier Goodwin. 

Det vil kunne føre til bedre forskning og undervisning, ifølge professoren.

— For eksempel kan en bruke kunstig intelligens til å finne vitenskapelig arbeid for seg, eller i verktøy som hjelper til med å skrive eller finne svakheter i eget arbeid. «Bruk kunstig intelligens som måter som gjør jobben du gjør bedre og gir utvikling» burde vært et punkt. 

JUBILEUM

Et år med ChatGPT i akademia: Slik svarer ekspertene nå

Trengs bevisstgjøring

Ifølge Heine Skipenes, en av faggruppelederne ved NTNUs IT-avdeling, er det restriktive utgangspunktet for retningslinjene bevisst. 

— Det vi ser er at vi har spennet fra de som aldri har prøvd ChatGPT før, til de som er langt inne i det, og det gjør at vi må være restriktive nå i starten og ha bremsene på, så får vi heller legge til rette for å utforske mulighetene etter hvert, sier han.

For det å sette en masse sikkerhetsbegrensninger på forskjellige tjenester kommer ikke til å fungere, sier han. IT-avdelingen kan ikke kontrollere bruken av for eksempel ChatGPT. Det var også derfor de i september innførte Bing Chat Enterprise, Microsoft sin løsning for generativ kunstig intelligens. 

I tillegg ønsker de å unngå at en hopper rett til enkeltproblemer, som eksamen og juks. Spørsmålet er mye større, sier Skipenes. Det handler om hvordan beslutninger tas, notater skrives og forskning utøves. Men det er greit å vite hvordan sand ser ut, føles og fungerer før en hopper ut på de endelse sandstrendene med paraplydrinker og tvilsomme Lolex og BayBan-selgere for å bygge sandslott.

— Det er derfor vi har laget oss en første tryggere sandkasse i form av Microsoft sin løsning. Det trengs rett og slett en bevisstgjøring og kompetanseheving blant våre brukere, og det er den reisen vi er på nå, sier han.

PLAGIAT

Sikt inngår avtale med Kopinor som gjør det lettere å avsløre fusk

Kan ikke kose med serveren

Skipenes forteller at retningslinjene for generativ kunstig intelligens, altså dataprogrammer som kan levere innhold på bestilling, kommer som en følge av en (trekk pusten) personvernkonsekvensvurdering som personvernforordningen er tydelig på at skal gjennomføres når man tar i bruk generativ kunstig intelligens.

Et av de foreslåtte tiltakene som dukket opp etter den vurderingen var nettopp et sett med retningslinjer.

Også såvidt Skipenes vet er NTNU først ute blant landets utdanningsinstitusjoner til å jobbe med slike felles retningslinjer.

— Dette er jo verktøy en forer med data, uten at vi kan gjøre helt rede for hvor de blir av, sier Skipenes.

For selv om Microsoft garanterer for at dataene slettes etter bruk, vet man jo aldri, ifølge Skipenes.

— Så lenge vi ikke kan «kose på serveren», kan vi ikke garantere at vi har kontroll på hvor dataene er. Da må vi være forsiktige. Det er også derfor vi sier at bare åpne og interne data kan fores inn i den løsningen, og ikke det som er fortrolig eller strengt fortrolig etter retningslinjene.

— Har det skjedd noen enkelthendelser som også gjør at dere er ekstra forsiktige?

— Jeg kan ikke gå inn i detaljer her, men det jeg kan si er at det dukker opp en del problemstillinger som viser at vi trenger det. Som for eksempel hvis en forer ChatGPT med en klasseliste og ber den lage grupper på fire med lik kjønnsfordeling. Gjør du det har du jo plutselig delt personopplysningene til studentene dine, og da er du i strid med personvernreglene. Men bytter du ut navnene med koder som for eksempel «Kvinne 32» er du innenfor.

Et annet problem er manglende kontroll, sier faggruppeleder Skipenes.

— Det at noe har fungert en gang betyr ikke at det fungerer igjen. For eksempel når en bruker et sånt verktøy til å oversette fra bokmål til nynorsk, så må en kontrollere at alt ble rett. Hvis du tenker at det sikkert er rett fordi det gikk bra sist, og det dukker opp en endring i meningsinnholdet i en eksamensoppgave, da har du jo trøbbel.

NTNU

Ber studentene fylle ut «selvangivelse» for bruk av kunstig intelligens