Sensorer kritiseres for lovbrudd ved vurdering

— Konsekvensene av dagens praksis er alvorlige. Realiteten er at institusjonene og sensorene ofte fusker selv, sier Magnus Stray Vyrje.

Uttalelsen kommer i kjølvannet av Khronos nylig publiserte sak om Mathilde Rebord, som ble anklaget for KI-fusk etter at foreleseren hennes brukte en KI-detektor. 

— Spissformulert kan man godt si at Mathilde Rebnords foreleser «fusket» ved behandlingen av hennes besvarelse, mener Vyrje.

Ifølge ham er det imot norsk lov at ansatte i UH-sektoren laster opp studenttekster til eksterne plattformer, da blant annet KI-detektorer. I et debattinnlegg til Khrono skriver han:  

«Opplastingen i deteksjonsverktøy som GPTZero krever hjemmel. Noen slik hjemmel finnes verken i åndsverkloven eller personopplysningsloven.»

Kuns­tig in­tel­li­gens

An­kla­get for fusk av KI-detektor. — Folk er redde

UH-sektoren svikter

Vyrje opplever at ansatte i UH-sektoren ikke vet hva som utgjør fusk innenfor lovverket som de er ment til å følge. 

Han mener alle som vurderer studenttekster, er nødt til å kunne lovverket før de melder inn saker.

— Her svikter de, sier Vyrje.

Saken til Rebnord er ikke unik. 

— Jeg har sett dette gå igjen, i sak etter sak. Sensorene melder inn handlinger som mulig KI-fusk, uten først å avklare hva som var institusjonens regelverk for angjeldende eksamen. Når misforståelsene påtales, er sensorene ikke villig til å trekke bekymringsmeldingen tilbake.

Vyrje retter konkret kritikk mot håndteringen av saken som utløste debatten.

— NLA bør beklage foreleserens opptreden, som er uakseptabel. NLA bør samtidig pålegge sine forelesere og sensorer å avstå fra å laste studentenes arbeider opp i eksterne deteksjonsverktøy.

 Samtidig understreker han at han ikke tror ansatte handler i vond vilje.

— Dette handler ikke om onde hensikter, men om dårlige rutiner, praksis og oppfølging.

Debatt ● Magnus Stray Vyrje

KI-detektorer: Hva om sensor fusker?

NLA: Tar det på alvor  

Jan Inge Jenssen, avdelingsleder ved Hauge School of Management ved NLA Høgskolen, sier at de tar dette på største alvor.

— Studentenes rettssikkerhet, personvern og opphavsrett skal ivaretas gjennom hele vurderingsprosessen. Retningslinjene er klare: studentbesvarelser skal ikke lastes opp i eksterne verktøy uten et tydelig rettslig grunnlag. Slike verktøy er ikke en del av vår praksis.

Han understreker at høgskolen er enige i vurderingene til Vyrje, og takker for en betimelig påpekning til oss og sektoren. 

— I den konkrete saken ble et arbeidskrav dessverre lastet opp i et slikt verktøy for å vurdere sannsynlig bruk av KI. Dette skulle ikke ha skjedd og er ikke i tråd med våre retningslinjer. Det ble ikke opprettet en fuskesak på dette grunnlaget. Den aktuelle ansatte, sammen med øvrige ansatte i avdelingen, har fått beskjed om at slik praksis ikke skal skje igjen, sier han og legger til at saken i utgangspunktet  handlet om at foreleser hadde benyttet KI til vurdering av kandidaten. 

— Vi vil derfor understreke at vurdering og sensur alltid gjøres av fagpersoner, slik vi også tidligere har påpekt i denne saken.

Det er menneskelig, men ulovlig

Vyrje peker på at sensorene er preget av mye å gjøre, er dårlig betalt og jobber mot klokken, samtidig som de prøver å være oppmerksom på KI-fusk.

— I en hektisk hverdag kan det være fristende for sensoren å laste besvarelsen opp i en KI-detektor, for å se hva den finner. Det er menneskelig, men likevel ulovlig, konstaterer han.

Det rettferdiggjør dog ikke handlingen.

— Det skjer ofte lovbrudd, og man opplever ofte manglende forståelse for studentenes lovbestemte rettigheter. 

Vyrje mener praksisen preges av tidspress og manglende kunnskap.

— Sensorene er for raske til å mistenke mulig KI-fusk. Mange sensorer er heller ikke er klar over at deres opplasting i eksterne KI-detektorer er ulovlig, fortsetter han.

kunstig intelligens

Studenter skriver bevisst dårligere for å unngå KI-mistanke. — Ikke gjør det

Saker som ikke burde eksistert

Konsekvensene kan bli store for studentene det gjelder.

— Disse sakene oppleves svært ubehagelig for studentene. Mange saker som blir meldt inn som mulig fusk, skulle aldri ha vært videreført. 

Når en fuskemistanke går til institusjonene som ikke har nødvendig kompetanse, tid og ressurser, blir resultatet ofte at saken bare skyfles videre til institusjonens nemnd for studentsaker, ifølge ham.

— Fra mistanken blir meldt inn til studenten blir «frikjent», kan det ofte gå mange måneder. Studentene må i mellomtiden leve med usikkerhet. 

Ifølge Vyrje er det studentene som betaler prisen.

— Studentene står i en svært krevende situasjon og har det vanskelig over lang tid mens de venter på avgjørelsen av fuskesaken mot dem, trekker Vyrje frem.

Han etterlyser skolering av de ansatte i UH-sektoren.

— Institusjonene er nødt til å informere sensorene om hva som er fusk samt om hvorledes fuskemistanken skal — og ikke skal — avklares.

Han peker også på et misforhold i forventningene:

— Studentene forventes å ha full kontroll på KI-regelverket. Da må det samme gjelde for sensorene.

Kritisk til institusjonene

Vyrje mener også institusjonene har et ansvar for praksisen som har utviklet seg.

— Institusjonene vet at detektorene blir brukt, men velger å se gjennom fingrene med bruken.

Samtidig peker han på det han mener er inkonsekvent håndtering.

— Jeg har til og med sett et eksempel på at institusjonen ba sensoren skrive om sin rapport, slik at studenten ikke skulle oppdage bruken av KI-detektor. Opptreden som dette er naturligvis fullstendig uakseptabel, fastslår Vyrje. 

Han mener UH-sektoren mangler oversikt.

— Institusjonenes håndtering av saker om mulig KI-fusk oppleves ofte å være ute av kontroll.

Debatt ● Tone C. Gadmar

Studentene er redde for å bli beskyldt for KI-fusk. Det er vårt ansvar

— Setter studentenes rettssikkerhet i fare

Leder i Norsk studentorganisasjon, Sigve Næss Røtvold, er tydelig i sin kritikk av hvordan verktøyene brukes i universitets- og høgskolesektoren.

— KI-detektorer fungerer ikke. Likevel ser vi at studenter blir mistenkt for fusk på bakgrunn av dette. 

Han påpeker videre:

— Denne praksisen setter studentenes rettssikkerhet i fare.

Røtvold mener veldig merkelig at detektorene fortsatt brukes. 

— Vi vet at de ikke er pålitelige, men likevel fortsetter ansatte i UH-sektoren å bruke de, sier Røtvold.

— Konsekvensene kan være enorme

Ifølge Røtvold får dette reelle og alvorlige følger for studentene det gjelder.

— Mistanke om fusk kan føre til at eksamener ikke blir behandlet. Studenter rekker dermed ikke å søke videre studier fordi saken pågår, forteller han, og fortsetter.

— Dette medfører at studieløpet deres kan bli utsatt i opptil ett helt år.

Selv når studenten blir frikjent, kan skaden allerede være skjedd.

— I flere tilfeller viser det seg at det ikke har vært fusk, men da er det for sent. Konsekvensene kan være enorme.

På spørsmål om bruken av KI-detektorer er ulovlig, er han klar:

— Det er svært alvorlig hvis det stemmer. 

Han mener årsaken delvis ligger i en bredere usikkerhet i sektoren.

— Det er mye KI-frykt og skepsis i UH-sektoren. De ansatte henger etter i hvordan teknologien faktisk bør brukes, mener NSO-lederen.

Han etterlyser en mer grunnleggende endring i hvordan sektoren håndterer KI.

— Vi må utvikle nye vurderingsformer og sørge for et mangfold som gjør at studenter ikke feilaktig mistenkes.

NSO landsmøte

Studenter er kritiske til at NSO vil forby digital overvåking

— Skader tilliten

Røtvold advarer om at utviklingen også påvirker relasjonen mellom institusjon og student.

— Dette er med på å svekke tilliten. Slike verktøy signaliserer at man ikke stoler på studentene, påpeker Røtvold.

Han trekker paralleller til andre tiltak, som overvåking av hjemmeeksamen.

— Det er hårreisende at man vurderer overvåking i studentenes private hjem, med lyd og bilde som lagres. Det er svært inngripende, mener han.

Røtvold mener ansvaret ligger tydelig hos universitetene og høgskolene.

— De må gi klar beskjed til de ansatte: Ikke bruk verktøy som ikke fungerer.

Til slutt er han tydelig på hva som må skje dersom studentarbeider er delt med eksterne verktøy:

— Da må studentene informeres. Vi forventer at institusjonene følger regelverket.

Kunstig intelligens

Avviste 500 konferanseartikler