Mener KI-utvalg overser rettslig problem

Tidligere denne uken publiserte Malthe-Sørenssen-utvalget, som er regjeringens utvalg for kunstig intelligens i høyere utdanning, sine foreløpige vurderinger. Blant annet oppfordrer utvalget til at utdanningsinstitusjoner tester ut KI-systemer til arbeid med begrunnelser og sensur. 

— Utvalget framstiller det som om det viktigste med en begrunnelse er at studenten får informasjon som kan brukes i en klage. Men den andre, viktige delen av saken, som utvalget ikke i tilstrekkelig grad tar høyde for, er at en begrunnelse også handler om kommunikasjon, sier førsteamanuensis Tarjei Ellingsen Røsvoll ved Universitetet i Innlandet. Hans sentrale fagområder er offentlig rett og forvaltningsrett. 

Riktignok legger utvalget til grunn at om man skal helautomatisere sensur og begrunnelser, så krever det lovhjemmel. Men ifølge Røsvoll undervurderer utvalget problemene ved kun å få støtte, ikke automatisering, fra kunstig intelligens. 

I et debattinnlegg i Khrono skriver Røsvoll at utvalget har oversett «forvaltningsrettens dypere kommunikative rasjonale: Hvor mye av sensors vurdering kan bli erstattet av KI før man kommer på kant med forvaltningens evne til å kommunisere?»

Khrono har kontaktet utvalgsleder Anders Malthe-Sørenssen, som ikke ønsker å kommentere saken.

Debatt ● Tarjei Ellingsen Røsvoll

KI-utvalget: Skal teknologien få overta vurderings­arbeidet?

Må reflektere menneskelig vurdering

Helt konkret anbefaler KI-utvalget at universiteter og høgskoler bør gjøre forsøk med KI-systemer i arbeidet med sensur, og at de bør gjøre forsøk med automatiserte KI-genererte begrunnelser. 

Utvalget skriver også at det vil vurdere å anbefale lovhjemmel for automatiserte karakterbegrunnelser. Slik loven er utformet i dag, kan universiteter og høgskoler bruke KI som hjelp i begrunnelsesprosesser, heter det i utvalgets rapport. 

Røsvoll mener utvalget har oversett et rettslig problem.

— Når det gjelder de forvaltningsrettslige spørsmålene, har utvalget i hovedsak ikke vurdert dem. De legger til grunn at KI kan tas i bruk til støtte så lenge man er i stand til å etterleve saksbehandlingsreglene, men de tar ikke stilling til om man faktisk har realistiske muligheter til å gjøre nettopp dette.

Begrunnelser kommuniserer en anerkjennelse til studenten, mener han, om at deres behov er grundig vurdert. 

— For det andre handler det om hva vi, som fellesskap, mener er riktig. Da må begrunnelsen reflektere en menneskelig vurdering, sier Røsvoll.

Det er ikke slik at man kan fatte et vedtak, sette inn en standardformulering og mene at det er tilstrekkelig, mener førsteamanuensen. 

— Man skal ta stilling til individuelle forhold i individuelle saker, og det forutsetter en menneskelig, intensjonell aktør som kommuniserer med borgeren som en likeverdig part. Et førsteutkast skrevet ved hjelp av KI gjør ikke dette mulig, sier Røsvoll. 

Kunstig intelligens

KI-utvalg vil teste bruk av kunstig intel­ligens i eksamens­sensur

Bør inn i sensorkontrakter

Selv om KI-utvalget tar for seg argumenter både for og mot KI-bruk i sensur og begrunnelser, har det ikke tatt dem på alvor, mener Røsvoll. Utvalget vektlegger ikke argumentene, og forklarer ikke hvordan mekanismer rundt organisatorisk læringsarbeid skal erstattes.

— Samtidig går de ut sammen med statsråden og sier at universiteter og høgskoler bør begynne å bruke KI til begrunnelser. De kunne alternativt ha sagt at de er usikre på i hvilken grad dette er lovlig, men at institusjonene kan arbeide med dette som prøveprosjekter for å forbedre modellene sine.

Røsvoll mener utvalget ikke engang har vurdert om man heller bør ta til orde for å innføre begrensninger i sensorkontrakter, heller enn å åpne opp for mer KI-bruk. 

— Et eksempel kan være ordninger der det presiseres at når man gir begrunnelse eller vurderer en oppgave, skal man ikke bruke KI. Dersom sensorer har spørsmål, eller er usikre på hvordan de bør kommunisere med studenter på en god måte, kan det i stedet legges opp til at de tar kontakt med emneansvarlig og diskuterer dette som fagfeller, foreslår førsteamanuensen. 

EKSAMEN

Frykter at KI-utvalgets forslag vil gjøre det dyrere å avvikle eksamen

Kan ikke erstatte fagfellesskap

Han er skeptisk til at KI kan erstatte fagfellesskapet som sensorer tar del i når de gjør vurderinger. 

— Det er ikke slik at alle automatisk er skikkelige og dyktige folk som kan sitt fag. Historisk sett er det fagfellesskapet og sensormøtene, og arbeidet som ligger i å røkte et godt sensorkorps, som er grunnlaget for at alle sensorer har den faglige og rettssikkerhetsmessige forankringen som trengs for å ta de vanskelige vurderingene av hva som er en god og en dårlig vurdering av en oppgave, sier Røsvoll.

Hvis en sensor kan sitte helt alene og få hjelp av KI, vet vi ikke lenger om sensoren faktisk er i stand til å gi en faglig forsvarlig begrunnelse, mener han. 

— Jeg er jurist, og er sammen med en annen jurist. Dersom jeg hadde fått henne til å skrive begrunnelsene til mine studenter, ville folk oppfattet det som rart, selv om jeg hadde lest dem etterpå. Poenget er at det skal være mine vurderinger som kommer til uttrykk, ikke bare noen vurderinger som kan fungere som en begrunnelse, sier Røsvoll.

Kunstig intelligens

Også «prompter» fra KI-verktøy skal arkiveres. — Trenger bevisstgjøring