Debatt ● Anja Salzmann og Barbara Wasson
Akademia i Norge har ikke sovet i timen når det gjelder KI-forskning
Silvjia Seres burde ha litt mer tillit til arbeidet og forståelsen av KI i norske forskningsmiljøer.
Publisert
Sist oppdatert
Denne teksten er et debattinnlegg. Innholdet i teksten uttrykker forfatterens egen mening.
Silvija Seres fra Tankesmien Langsikt skriver et debattinnlegg i Khrono der hun mener at Norge burde etablere et nytt forskningsinstitutt for «KI-sikkerhet». Hun argumenterer for at man trenger et nytt forskningsblikk som ikke bare burde se på hva KI kan, men på hva den er.
Hun mener at regjeringens KI-milliard har styrket anvendt teknologiutvikling, men altså at investeringene mangler perspektiver som utforsker hvordan kunstig intelligens lærer (forståelse), hva systemer vektlegger (verdier) og hvordan det påvirker samfunnets institusjoner (risiko).
Vi er usikre på hvorvidt Seres har hatt mulighet til å sette seg inn i allerede eksisterende akademiske forskningsmiljøer eller om hun har vært involvert i prosjektutvikling og forarbeid til de nye nasjonale KI-sentrene som er under etablering. Men mye tyder på at det ikke har vært tilfelle.
Uansett, så kan vi betrygge henne med at akademia i Norge ikke har sovet i timen når det gjelder KI-forskning. Arbeidet som nå finansieres gjennom regjeringens KI-milliard vil går langt utover «bare teknologiutvikling».
Vi har selv vært tett involvert i søknadsprosessen og arbeidet med prosjektene som har vunnet frem i den tøffe konkurransen om de nasjonale KI-kunnskapssentrene gjennom prosjektet «AI LEARN: AI Centre for the Empowerment of Human Learning» (eller på norsk «Nasjonalt senter for KI og læring»).
Både AI LEARN (med oppstart den 1. desember) og flere av de andre KI-sentrene og eksisterende forskningsmiljøene tar opp flere av de sentrale utfordringer som Seres etterspør i sitt innlegg. Også det hun kaller «et nytt forskningsblikk», altså å ikke bare se på hva KI kan, men på hva den er.
Men er dette et nytt forskningsblikk?
Å forstå hva «KI» er, er nok ikke forbeholdt teknologer. Det berører kjerneoppgavene til (kritisk) samfunnsvitenskap og humaniora. Det er ingen hemmelighet lenger at KI er mye mer enn avansert statistikk, regelbaserte algoritmer eller nevrale nettverk, sistnevnte gjerne nå også koblet i flere lag med hverandre.
KI har tydelige idéhistoriske og militærhistoriske røtter, det har epistemologiske og ontologiske fundamenter (som er i friksjon med demokratiske prinsipper), det kan kobles til ulike eldre og nyere ideologier, og det forskyver maktstrukturer i samfunnet. Og ja, KIs underliggende kybernetisk-epistemologiske logikk vil utfordre norske verdier, dersom man ikke ta grep og automatiserer offentlig sektor med omhu.
Alle disse perspektivene vil komme frem i arbeidet til flere av de nye KI-sentrene og det er selvsagt lagd opp til tett samarbeid mellom KI utviklere og et bredt spekter av ulike brukere av teknologi både fra privat og offentlig sektor.
Seres mener også at KI blir vår neste samfunnsinfrastruktur, men da tar hun dessverre feil — det er den for lengst. I årtier har KI vært dypt integrert i en rekke sentrale infrastrukturer i samfunnet — for eksempel i finansindustrien, i sikkerhets- og forsvarssektoren, i infrastrukturer for kommunikasjon og samhandling. Noen stikkord: sosiale medier, netthandel, eller strømmetjenester, osv.
Men slike KI-systemer er gjerne mindre synlige og offentlig tilgjengelige enn de generative språkmodellene som nå uheldigvis og problematisk nok er hva folk flest assosierer med (markedsførings)begrepet «kunstig intelligens».
Vi kan forsikre Seres med at KI-senteret AI LEARN, for eksempel, skal nettopp ta utgangspunkt i det transformative potensial av KI-teknologien for samfunnet. Vi argumenterer for at den økende integreringen av KI-baserte systemer og den underliggende algoritmiske logikken som nå invaderer alle hjørner av samfunnet skaper et stort behov til å forstå hvordan vi samhandler med maskiner (co-learn, co-work, co-create, co-lead …) og hvordan dette vil påvirke blikket på oss selv og verden rundt oss.
Vi skal belyse synergieffekter mellom menneske og maskin med et fokus på «læring» gjennom tverrfaglige perspektiver på teknologi, menneske og samfunnet og fra et teoretisk synspunkt som diskuteres under begrepet «hybrid intelligens». Vi er klar over at KI som teknologi, ideologi, kunnskapsgrunnlag eller maktinstrument kan åpne for helt nye muligheter, men også føre til massive og omfattende utfordringer og negative utviklinger både på individ og samfunnsnivå.
Vi ser at den enorme populariteten, det store potensialet og de teknologiske og psykologiske finessene som ligger bak de nye generative modellene ikke bare utfordrer norske verdier, men tillit og samhold i samfunnet på en fundamental måte.
Vi vet at vi ikke bare trenger mer innsikt om «hva KI er» eller hva «KI fører til» (samfunnskonsekvenser), men hva den enkelte borger burde vite om KI og regulering for å ha en meningsfull sjanse til å forsvare seg og sine borgerlige rettigheter dersom vi ønsker å fastholde på demokratiet og ovenfor aktører som bruker abstrakte og høy-rasjonelle maskinsystemer for avgjørelsesprosesser i private og offentlige tjenester.
Vi tar ansvar ved å utforske og utvikle ansvarlig teknologidesign, forske på etiske, juridiske, kulturelle og pedagogiske aspekter ved KI-menneske samhandling og setter mye ressurser på kapasitets- og kompetansebygging som danner grunnlaget for et aktivt medborgerskap og demokratisk deltakelse i den digitale tidsalderen.
Vi mener at forskningsblikket som Seres fremmer i Khrono skisserer her ikke er noe nytt. Kanskje burde tankesmien Langsikt prøve å sette seg bedre inn i nasjonalt forskningsarbeid og ha litt mer tillit til eksisterende forskningsmiljøene i Norge?
På et nåværende tidspunkt trenger vi ikke enda et nytt forskningssenter. Det vi derimot trenger, er for eksempel å diskutere et nasjonalt register og en opplysningsplikt for KI-bruk i Norge.
I et demokratisk samfunn burde vi vite hvilke offentlige institusjoner og myndigheter tar i bruk systemer eller applikasjoner som teknologisk sett faller under paraply-begrepet «KI» og hva disse systemene og våre data brukes til. Dette ville ikke bare hjelpe forskningen, men alle borgere her i landet.
Hvorfor? Vi tror nemlig at den største utfordringen vi står ovenfor er ikke nødvendigvis å forstå hva KI er, men å være klar over om det er KI, altså om man faktisk samhandler med en maskin eller ikke.
