Mener akademia ikke har peiling på KI-juks. — Store sjanser for justismord

De siste årene har det vært en jevn strøm av saker i Khrono og andre medier om studenter som er tatt i eller er mistenkt for juks med kunstig intelligens (KI). Nylig saksøkte en student ved Universitetet i Sørøst-Norge (USN) staten, representert ved Kunnskapsdepartementet, etter at hun ble utestengt i ett semester på grunn av en mistanke om at hun hadde brukt ChatGPT ulovlig på en hjemmeeksamen.

Dom i saken falt 11. juni, der retten sa seg enig i USNs vurdering om at det hadde skjedd KI-juks.

I retten kom det fram at studenten i besvarelsen blant annet hadde brukt ordene «karakter­design» og «bildebok­mediet», noe som fikk sensor til å reagere og mistenke bruk av KI.

Det fikk gründer og KI-ekspert Lars Rinnan til å gripe til tastaturet:

«Universitetet i Sørøst-Norge sparket nylig en student ut i ett semester fordi sensor mente ordene «karakterdesign» og «bildebokmediet» «hørtes ut som ChatGPT». Bevisføring? Tett på frysepunktet. Dommeren stolte mer på magefølelsen til sensor enn på to AI-eksperter som vitnet i retten. Jeg er SÅ oppgitt over undervisningssektorens holdning til AI og alt maset om "juks"!», skrev han på sin LinkedIn-profil.

— Det som skjedde der var synsing på et veldig tynt grunnlag. Og nettopp det er et problem over hele feltet, sier Rinnan, som var en av de to nevnte fagvitnene i saken.

Han har jobbet med kunstig intelligens i ti år i en rekke ulike sammenhenger, blant annet som styreleder og invester i 12 KI-fokuserte startups. Han startet Norges første KI-konsulenthus, med 40 ansatte, med Elkem, Equinor og Aker som kunder. Han jobber nå som selvstendig rådgiver i KI-spørsmål, og har over 20 000 følgere på LinkedIn.

Kunstig intelligens

Mener kunstig intelligens bør tillates på flere eksamener

Inflasjon i begrepet

Det som utløste saken ved USN var at sensor mente at språket i oppgaven skilte seg tydelig fra pensumlitteraturen, blant annet fordi begrepene studenten brukte var lignende dem KI bruker.

— Faktum er at det er svært vanskelig å bevise at en gitt tekst er generert av ChatGPT kun ved å vise til skrivestil. Språket derfra kan ofte virke «generisk-akademisk», men mange studenter og andre, kan formulere seg på tilsvarende måte, sier Rinnan.

— Det finnes tekniske verktøy som kan indikere om en tekst er skrevet av et språkmodellverktøy, men selv disse er ikke sikre bevis. De gir sannsynligheter, ikke entydige konklusjoner. Selv OpenAI har uttalt at det er vanskelig å gi et pålitelig «fingeravtrykk» for KI-generert tekst.

Rinnan er oppgitt over dommen i saken mot studenten ved USN. Han skriver i sin LinkedIn-kommentar:

«"Beviset" holder ikke vann. Språklig stil, pluss et par Google-søk er ikke digitale fingeravtrykk. Modeller oppdateres, prompts varierer, og gode studenter kan faktisk skrive avansert språk på ett tema og rufsete nynorsk på et annet — akkurat slik denne studenten forklarte. Å fastslå «ChatGPT-fusk» uten tekniske loggdata er som å dømme noen for doping fordi de løp litt fort.»

Det har gått inflasjon i begrepet KI-juks, mener han.

— Kunstig intelligens er en teknologi som er ideell for å effektivisere læring og undervisning. Både for underviseren og studenten. Men i stedet for å bruke KI som en fantastisk mulighet til å oppgradere undervisningskvaliteten, velger USN og andre å lete med lys og lykte for å sjekke om det er blitt «jukset» med KI, ved å ha brukt tilgjengelig teknologi.

kunstig intelligens

116 studenter felt for KI-fusk i fjor. Særlig én ting avslørte dem

Fare for justismord

Rinnan sier at kunstig intelligens har vært hverdagen hans ti timer om dagen de siste ti årene.

— Hvis jeg skal generalisere litt, så er det to yrkesgrupper som skiller seg særlig ut med veldig lav kompetanse på KI, og det er undervisningssektoren, og advokater og dommere. Jeg har holdt foredrag for over 1000 lærere og rektorer, og alle synes dette er både spennende og litt skummet, men at de skjønner lite av det. Og i rettssalen ble det tydelig for meg at det generelle innsiktsnivået omkring var ganske lavt. 

— Hva bygger du det på?

— Det gikk både på spørsmål og utsagn underveis i saken, og i oppsummeringer i etterkant. Men hva gjelder undervisere og lærer, så er ikke dette noen spesifikk kritikk av dem. De gjør som best de kan. Det er styring ovenfra som mangler. Og det er ingen grunn til alle skoler eller universiteter skal finne opp dette hjulet hver for seg. Hjulet vil se likt ut for alle, men selvsagt med hver sitt «design». Dette er synd på et systemnivå, men enda mer trist er det for individene som får sitt studium torpedert. Tenk på studenten i USN-saken; vil hun noensinne starte opp studiet igjen etter å ha blitt utestengt?

— Hva tenker du skal til av bevisførsel for at en undervisningsinstitusjon eller rettsapparatet skal være sikre på at det har foregått KI-juks?

— For å være helt ærlig: Jeg tror det er veldig vanskelig, både den ene eller den andre veien. Dermed blir det også litt tilfeldig hvordan utfallet blir i slike saker. Og det synes jeg er en rettsstat uverdig. Det er store sjanser for et justismord, hvis jeg kan bruke et så sterkt ord i denne sammenhengen. Og det er naturligvis et farlig spor, for slik det er per i dag har ikke akademia peiling på hva som er KI-juks eller ikke.

fusk

Student brukte KI og fikk tidenes strengeste fuskestraff

Ny tankegang

— Men egentlig er jeg litt uenig i spørsmålet du stiller, fortsetter Rinnan.

— Jeg tror vi må lære å tenke helt annerledes enn vi gjør i dag om disse tingene. Vi må tenke nytt rundt både undervisning, evalueringer og i det hele tatt hvilket forhold vi skal ha til kunstig intelligens. Vi må jobbe for å finne andre evalueringsformer, hvor «juks» ikke er et tema, men heller hvordan kunstig intelligens kan brukes til andre former for læring, forståelse, innsikt og refleksjon. Hvordan det kan brukes til å tilpasse undervisningssituasjonen til det samfunnet som studentene skal komme ut i, når de er ferdige med utdannelsen. 

— Det må utvikles en helt ny tankegang om hvordan vi forholder oss til læring generelt. For det virkelige problemet er ikke at studenter «trykker på ChatGPT-knappen». Problemet er et utdanningssystem som fortsatt later som knappen ikke finnes. Alternatives finnes der ute, med tilpassede løsninger, som ikke gir studentene svar, men som hjelper dem med å finne svaret selv, som en god lærer eller underviser. 

Rinnan sender ut følgende oppfordring i sin LinkedIn-melding:

«I stedet for å sette ut snubletråder, burde vi integrere KI som læremester. La ChatGPT stille sokratiske motspørsmål, og ikke levere ferdige svar. Teste ferdigheter, ikke tekstproduksjon. Vurder det som faktisk viser tankegangen. Lære kildekritikk og fornuftig bruk av AI. Det er dette som er 2025: å kunne bruke en språkmodell er like grunnleggende som å bruke kalkulatoren var i 1985.»

fusk

Over 3000 studenter tatt for fusk på fem år. Her ble flest tatt

— Gode forslag

KI-eksperten får delvis støtte ved Universitetet i Sørøst-Norge (USN).

— Jeg synes det er gode forslag Lars Rinnan kommer med, og jeg mener vi i stor tenker likt om dette. Jeg er ikke enig i at det er en generell kompetansemangel om KI i akademia, sier Vibeke Bredahl, studiedirektør ved universitetet.

— Jeg kan være enig i at det er store forskjeller mellom fagområder i akademia, og at vi på noen fagområder mangler kompetanse. Det er mye svært sterk fagkompetanse i akademia, også på KI-feltet. Vi på USN jobber kontinuerlig med opplæringer og faglig utviklingsarbeid for å møte framtidas behov, enten det er KI eller andre utfordringer som dukker opp.

— Det er en utfordring å utvikle nye undervisningsformer og vurderingsmetoder, og studieprogrammer for en framtid som vi ikke helt vet hvordan kommer til å se ut. Derfor er vi bare glade for å bli utfordret på dette av representanter fra arbeidslivet og andre samfunnsaktører. Det er gjennom diskusjoner som disse vi utvikler oss, sier Bredahl

— Har dere på USN per i dag det som skal til for å behandle saker som gjelder mistanke om ulovlig bruk av KI i studentarbeider? 

— Ja, jeg tenker vi kan nok om akademisk uredelighet til å understøtte de beslutningene som faller i nemnd. Men jeg tenker at vi har mye å videreutvikle oss på. Det er et stort ansvar rundt dette, som vi er veldig bevisst. Dette er krevende saker å håndtere, og som gjør at vi må ha svært gode rutiner rundt saksbehandlingen. Og så er jeg er glad for at studentene har mulighet for å klage inn vedtak som gjøres, og så eventuelt ta sakene videre til retten.

— Hva tenker du om dommen i den omtalte USN-saken, som altså falt i deres favør?

— Saken har nå vært behandlet i tre instanser, og vi forholder oss til denne siste og endelige beslutningen i Buskerud tingsrett. I alle saker er det læringspunkter for USN, også i denne, sier Vibeke Bredahl.

Kunstig intelligens

Refser akademia for angst­preget KI-tilnærming. — Går baklengs inn i fremtiden