KI-detektorer: Hva om sensor fusker?

Denne teksten er et debatt­inn­legg. Inn­holdet i teksten uttrykker forfatterens egen mening.

Khronos oppslag om NLA-studenten som ble anklaget for fusk etter at foreleseren lastet hennes besvarelse opp i en KI-detektor, var forstemmende lesning. Dersom det er korrekt at foreleseren truet studenten med å opprette formell fuskesak dersom hun krevde innsyn programvarens rapporter, bør NLA-høyskolen gi foreleseren en advarsel. Slik kan vi ikke ha det.

• Les NLA Høgskolens tilsvar til Magnus Stray Vyrje.

Saken er dessverre ikke unik. For å avdekke mulig KI-fusk, er det ikke uvanlig at sensorene laster opp studentenes arbeid i eksterne deteksjonsverktøy – som sensorene anskaffer selv. 

Det følger riktignok av institusjonenes retningslinjer at dette ikke skal skje. Men institusjonene kjenner til ordningen, og medvirker også til å holde den skjult. 

Opphavsrettslig innebærer opplastingen en krenkelse av studentens rettigheter. 

Dette fordi det skjer eksemplarfremstilling og tilgjengeliggjøring av åndsverk. EtterS personopplysningsloven medfører opplastingen ulovlig behandling iht. GDPR. EU-domstolen fastslo i C-434/16 (Nowak) at eksamensbesvarelser er personopplysninger.

Opplastingen i deteksjonsverktøy som GPTZero krever hjemmel. Noen slik hjemmel finnes verken i åndsverkloven eller personopplysningsloven. Det er nettopp derfor institusjonene ikke tilbyr sensorene tilgang til eksterne KI-detektorer. 

Institusjonene vet at bruken er ulovlig.

Likevel fortsetter sensorene å bruke verktøyene. Ikke som del av en regulert og institusjonelt forankret praksis, men i det skjulte – for å spare tid og arbeid. 

At ordningen krenker studentenes rettigheter, ser verken sensorer eller institusjoner ut til å bry seg nevneverdig om. Illustrerende er NLA-høyskolens kommentar i den aktuelle saken: «Det vil alltid være mennesker som foretar vurderingene av studentarbeid hos oss. Dette kan våre studenter være trygge på.»

Etter å ha bistått en rekke studenter i fuskesaker om KI, har jeg sett hvordan institusjonene stilltiende aksepterer sensorenes bruk av deteksjonsverktøy. 

Kuns­tig in­tel­li­gens

An­kla­get for fusk av KI-detektor. — Folk er redde

Bekymringsmeldinger som åpenbart bygger på bruk av slike verktøy, tas til behandling uten spørsmål. Jeg har til og med sett eksempel på at institusjonen har bedt sensor inngi ny og omarbeidet bekymringsmelding, slik at deteksjonsbruken ikke skal gjøres kjent for studenten.

Konsekvensene av dagens praksis er alvorlige. Realiteten er at institusjonene og sensorene fusker. Studentene gis ikke innsyn i bekymringsmeldingens reelle grunnlag, og gis derved ikke mulighet til reell kontradiksjon. 

Og kanskje mest alvorlig: Den svakhet som i tilfeller som dette hefter ved hele grunnlaget for fuskesaken holdes også skjult for det organ som skal avgjøre saken; institusjonens nemnd for studentsaker. Heller ikke den blir informert.

Debatt ● Tone C. Gadmar

Studentene er redde for å bli beskyldt for KI-fusk. Det er vårt ansvar

Dersom institusjonene ønsker å gjennomføre maskinell kontroll av studentenes besvarelser, må dette skje innenfor lovens rammer. 

Studentenes rettigheter må overholdes. 

Institusjonenes nemnder må sikres tilgang til relevante opplysninger. Dersom så ikke skjer, blir nemndens vedtak ugyldige. 

Dersom institusjonen blir kjent med at sensor har lastet opp studentens besvarelse i et eksternt deteksjonsverktøy, må institusjonen informere studenten. Informasjonsplikten følger av flererettsgrunnlag, og den gjelder selv om fuskesaken er avgjort, selv om klagefristen er utløpt og selv om studenten allerede har vært utestengt.

• Les NLA Høgskolen sitt tilsvar til Magnus Stray Vyrje.