Granskerne: — Tromsø kommune ikke moden for å ta i bruk KI

Tromsø kommune gikk på ei skikkelig blemme da de brukte kunstig intelligens for å utarbeide et kunnskapsgrunnlag i en omstridt sak om nedlegging av skoler og barnehager. Dokumentet skulle ut på høring. 

iTromsø avslørte at bare sju av 18 referanser i dokumentet kunne spores opp. Skandalen skjedde ved at ansatte brukte kunstig intelligens som igjen diktet opp referanser. 

En av forskerne som ble misbrukt, var professor Thomas Nordahl ved Universitetet i Innlandet. I kunnskapsgrunnlaget sto det at han har vært med å skrive boka «Kvalitet i skolen: Læring, trivsel og relasjoner». Dette er ei bok som ikke finnes.

KI

Forsker ble misbrukt i KI-skandale. Nå skal han hjelpe kommunen å rydde opp

— Ikke moden for KI

Det ble bestilt en ekstern gransking og rapporten er nå klar. Evalueringa er gjort av advokatfirmaet PwC, som konkluderer med at det var feil i kildehenvisningene i kunnskapsgrunnlaget, skriver Nordlys

En av hovedkonklusjonene er at Tromsø kommune tok i bruk kunstig intelligens før organisasjonen var moden for det. 

— Dette er viktige læringspunkter for oss, sier kommunedirektør Stig Tore Johnsen til Nordlys. 

Granskerne peker på kommunen mangler en strategi for kunstig intelligens, retningslinjene var mangelfulle og ikke tilstrekkelig implementert og opplæring i bruk av kunstig intelligens ble ikke gjennomført. 

kunstig intelligens

Denne boka er full av oppdiktede referanser

— Ikke nok kontroll

De skriver at det var etablert retningslinjer for KI, men disse ga ikke føringer for hvilke systemer med KI som kunne brukes i kommunen:

«Dette resulterte i en praksis hvor kommunen godkjente og betalte for at ansatte fikk kontorer i åpne løsninger, registrert med sin jobbe-postadresse. Kommunen hadde da ikke tilstrekkelig kontroll på dataflyten eller informasjonssikkerheten». 

Videre var det opp til enkeltpersoner å etterspørre og stå for opplæringa av kunstig intelligens i kommunen. 

publisering

Universitetet gransker hvordan denne setningen endte opp i boka

Påvirket ikke konklusjon

Førsteamanuensis Jonas Stein ved Universitetet i Tromsø var svært krass da han i mars kommenterte skandalen i Khrono.

— Dette er en av de større skandalene som har skjedd i offentlig sektor, sa han — og viste til at det ikke var en fillesak det dreide seg om. Kunnskapsgrunnlaget handlet om en av de største politiske konfliktene de siste ti årene med enorm debatt og mange avisinnlegg. Da var innbyggerne helt avhengige av at administrasjonen legger fram et kunnskapsgrunnlag som alle kan stole på. 

PwC skriver imidlertid sin granskingsrapport at bruken av kunstig intelligens ikke hadde betydning for konklusjonen om å legge ned skoler og barnehager. I et prinsippvedtak fra 2021 hadde Tromsø kommune vedtatt at en ny skolestruktur skulle ha større og færre enheter. Derfor var føringa fra kommunestyret klart. 

Likevel mener granskerne at de hallusinerte referansene generert av KI har betydning for arbeidet med nedlegginger av skoler og barnehager. Dette kan svekke tilliten til Tromsø kommune. 

Den tredje hovedkonklusjonene er at kommunen hadde manglende mekanismer for prosjektstyring. Dette gjør det uklart om arbeidet med skolestruktursaken er i tråd med bestillinga fra kommunestyret. Blant annet manglet mandat og roller og ansvar var ikke tydelige nok.