Starter nytt opprop: 
— Mange som ikke tør ytre seg kritisk offentlig om KI

«Vi trenger en kritisk og faglig forankret diskusjon om bruk av KI i norsk offentlig sektor», skriver trioen Maria Danielsen, Knut Ørke og Holger Pötzsch, alle ansatt ved UiT Norges arktiske universitet i Tromsø.

De har nå tatt initiativet til et nasjonalt opprop for å belyse de mange problematiske sidene de mener KI representerer. 

«Det kan virke som at man har valgt å sette søkelyset mest på mulighetene KI gir uten å ta nok høyde for faktorer som etikk, klima, sikkerhet, suverenitet, demokrati, autonomi», skriver de.

Debatt ● Egil Kristensen

Mer KI, mer universitet

Kritikken har ingen plass

— Det som har utløst oppropet, er at vi over et par år har sett stadig mer bruk av KI, og vi har merket en optimistisk innstilling, først fra regjeringen, og etter hvert også fra universitetene, sier Maria Danielsen ved Institutt for filosofi og førstesemesterstudier ved UiT. Hun snakker også på vegne av de to andre som står bak initiativet. 

Danielsen har skrevet en doktorgrad om etisk risiko knyttet til KI og har flere kritiske innvendinger om hvordan KI nå blir integrert ved universitetene og i samfunnslivet for øvrig. 

— Vi er flere som har forsket på KI, som har noen kritiske innfallsvinkler. Hvorfor blir ikke disse løftet fram? Hvorfor snakker man mest om mulighetene teknologien gir? De problematiske sidene blir ikke løftet fram i tilstrekkelig grad i offentligheten eller ved forskningsinstitusjonene. Etisk og annen risiko er ikke nok tatt inn i KI-arbeidet.

— Hva slags risiko er det dere mener her?

— Mange typer. Sikkerhetsrisiko knyttet til suverenitet og data, særlig siden mange teknologiselskaper er amerikanske. Det er personvernrisiko. Det er risiko for livskvalitet, fordi mennesker kan bli manipulert av systemene, noe vi allerede ser i KI-boter som er lagt for å danne emosjonelle relasjoner til menneskelige brukere. Dessuten er det store økologiske risikoer knyttet til strøm-, areal- og vannforbruk til de store datasentrene.

 — Det er også risiko med hensyn til kompetanse: at man ikke utvikler den kunnskapen man burde. Studenter kan fullføre videregående eller ta en grad ved hjelp av KI uten å oppfylle de faglige kravene, sier Danielsen.

Debatt ● Jan Frode Haugseth

KI-milliarden kan gi Norge kompetanse. Men hvem eier stillaset?

Kritikere blir satt på sidelinja

Trioen bak oppropet mener implementering av KI krever en dyptgående innsats fra norske universiteter og høgskoler.

— Det er ikke tilstrekkelige med enkelte åpne KI-dager eller enkeltmøter, der man kan komme med innspill. Det er naivt å tro at man ved slike møter får fram forskningsbasert kritikk fra salen som vil lede til endringer i allerede etablerte implementeringsstrategier. 

Danielsen og de andre initiativtakerne mener det må jobbes mer systematisk, med å arrangere konferanser og seminarer om tema, invitere relevante forskere og etablere egne komiteer,

— I slike sammenhenger kan det legges veldig konkrete føringer for praktisk implementering. Man må få folk med kompetanse inn i de organene der beslutningene tas, og sørge for at disse beslutningene er forskningsbaserte, sier de tre. Hvis KI skal bli infrastruktur, som er det selskap som OpenAI vil, så er det viktig å ha et solid forskningsbasert grunnlag før det implementeres.

— Er dere teknologipessimister?

— På ingen måte. Dette er ikke et opprop mot KI. Det er et opprop om hvordan KI skal brukes i høyere utdanning, og det er en debatt vi trenger å ta. Men når optimismen er så stor at folk blir tilbakeholdne med kritikk, da er vi ikke på rett vei. Vi har snakket med flere som sier at de ikke tør utfordre rådende diskurser og praksiser rundt KI, fordi de er redde for konsekvenser, for eksempel at de skal bli satt på sidelinjen, sier Maria Danielsen.