Norge samarbeider mest med Kina om KI: — Ikke greit i det hele tatt

Nordisk institutt for studier av innovasjon, forskning og utdanning (Nifu) har kartlagt hvilke såkalte risikoland norske forskere samarbeider mest med innenfor forskning på sensitive teknologier.

Disse teknologiene kan skade Norge hvis de havner i feil hender.

Med risikoland menes de fire landene Etterretningstjenesten har utpekt som ikke-allierte med trusselpotensial: Kina, Iran, Nord-Korea og Russland.

Som Khrono skrev onsdag, har Universitetet i Sørøst-Norge gått til det skritt å utestenge alle jobbsøkere fra disse fire landene. 

Mest KI-forskning med Kina 

Kunstig intelligens (KI) regnes som en sensitiv teknologi. Innenfor KI er Kina det landet norske forskere samarbeider mest med. Det gjelder ikke bare blant risikolandene, men også sammenlignet med alle andre land i verden.

Dette er målt i antall forskningsartikler norske og kinesiske forskere har skrevet sammen.

Det er få felles prosjekter finansiert av institusjoner som Norges forskningsråd og ERC (EUs forskningsråd).

I 2024 skrev norske og kinesiske forskere 78 artikler sammen innenfor dette feltet. På de neste plassene følger India, USA, Pakistan og Saudi-Arabia.

Dette synes Ståle Ulriksen, som er høgskolelektor ved Sjøkrigsskolen ved Forsvarets høgskole, er svært problematisk. 

— Jeg synes ikke det er greit i det hele tatt, sier han om Kina-samarbeidet. 

Ulriksen mener blant annet at man ved å samarbeide med kinesiske KI-forskere, indirekte støtter Russlands krigføring i Ukraina. 

Han viser til at mens Norge støtter Ukraina med 85 milliarder kroner i år, støtter Kina Russland med store leveranser av materiell. 

Han utdyper: 

— I forhold til for eksempel droner, er KI kjempeviktig. Vi ser at krigen i Ukraina har endret seg mye på grunn av KI-bruk. Det neste store som kommer nå, er svermer. Og jo bedre KI du har, jo mer effektivt vil det være. Den som klarer å bruke KI på slagfeltet, vil ha kjempefordeler. Så der hjelper vi Kina i konkurransen, og indirekte hjelper vi rett og slett Russland. 

Nifu-rapporten sier ikke noe om hva konkret samarbeidsprosjektene mellom Norge og Kina går ut på. 

Men det framgår at det største samarbeidsområdet er maskin- og dyplæring, som er KI-metoder der datamaskiner lærer av erfaring.

Plass nummer to er sky- og kantdata, som er ulike former for datalagring og databehandling.

— Ting kan endre seg fundamentalt 

Hvorfor er kunstig intelligens en «sensitiv teknologi»?

Vivi Ringnes Berrefjord, som leder Cyberprogrammet ved Institutt for forsvarsstudier ved Forsvarets høgskole, minner om at KI er en såkalt «fremvoksende teknologi». 

Vi vet ikke hvordan den vil modnes, hvordan den vil brukes eller misbrukes, og hvordan den vil påvirke staters oppførsel.

— Vi må dermed ha mange tanker i hodet samtidig og ta høyde for at ting kan endre seg ganske fundamentalt i årene som kommer, sier Berrefjord, som understreker at hun er statsviter, og ikke teknolog.

Dette er særlig relevant for KI, som er en flerbruksteknologi som kan brukes til et bredt spekter av oppgaver.

Den samme teknologien kan brukes til både overvåking av sårbare dyrearter og fiendtlig troppeforflytning, sier hun. 

Hun minner også om at flere land, inkludert Kina, USA og Russland, samt eierne av de store tek-selskapene, har erklært at KI blir en definerende maktarena i årene som kommer.

— Det gir rik grobunn for snarveier, kappløp og selvoppfyllende profetier.

kontaktkonferansen

To av tre mangler oversikt over sensitive forsknings­data

Noe skadelig kan være lagt inn 

Så hva slags risikoer kan man se for seg innen KI, hypotetisk?

Vivi Ringnes Berrefjord sier at KI er en teknologi der algoritmer lærer gjennom regler, trening og justering. 

Utviklingen skjer ofte i lange kjeder, fra innsamling av data til utrulling av systemene. Da kan det være vanskelig å få full oversikt over hva som er «innbakt» underveis, og det gjør teknologien sårbar for feil, utilsiktede konsekvenser eller bevisst manipulering.

— Det kan være fordi utviklere har andre verdier enn oss, fordi mennesker gjør feil, eller fordi noe skadelig er lagt inn med vilje, sier hun.

Fordi teknologien er rask, billig og lett tilgjengelig, gjør den det enklere for ondsinnede aktører å gjennomføre flere skadelige handlinger.

Ståle Ulriksen på Sjøkrigsskolen mener det er flere grunner til å unngå forskningssamarbeid med Kina 

— Kina er et land som driver med kulturell/etnisk rensing i stor stil internt. Det ignorer vi fullstendig, sier han, med henvisning til Kinas behandling av den muslimske minoriteten uigurene. 

Siden 2017 skal mer enn én million uigurerer ha blitt plassert i det kinesiske myndigheter kaller omskoleringsleire.

Han fortsetter: 

— For Norge er Havretten det aller viktigste dokumentet for vår velferd og inntjening. Kina er det landet i verden som utfordrer Havretten mest. 

Kina i tet på KI 

Men det er ikke tilfeldig at norske KI-forskere samarbeider mye med kinesere. 

— Kina er den ledende nasjonen på forskning på KI, så det er naturlig at norske forskere på feltet har kontakt med kinesiske forskere, sier Nifu-forsker Henrik Karlstrøm, en av forfatterne bak rapporten.

Han sier det er vanskelig å sette grensen for hva ved KI-forskningen som er sensitivt.

— Mye KI-forskning er jo helt uproblematisk, ikke i nærheten av noe som har noe med sikkerhetspolitiske hensyn å gjøre, men ren informatikkforskning. 

Han påpeker at mange er bekymret for et slags KI-våpenkappløp mellom land. 

— I den konteksten kan man spørre seg hvem man burde dele informasjon med. Men mye av det som kommer av ny forskning på KI, kommer fra Kina. Så at Norge samarbeider med Kina om den teknologien, kan være en god ting for Norge, med mindre vi har miljøer som jobber med noe veldig spesielt og sensitivt, som vi ikke ønsker at folk fra spesifikk land skal få tak i. 

Nifu finner også at når norske forskere samarbeider med kinesere, blir artiklene i snitt mer sitert enn for eksempel når de samarbeider med amerikanske forskere. 

I rapporten tar Nifu utgangspunkt i EUs liste over ti sensitive teknologiområder (fordelt på 45 underområder). Disse teknologiområdene mener EU at er kritisk viktige for EUs økonomiske sikkerhet, som henger tett sammen med nasjonal sikkerhet.

Nifu har undersøkt hvor mye norske forskere publiserer innen disse områdene, samt hvor mye av dette som er i samarbeid med de fire «risikolandene».

Nifi har også lagt til enda et område, nemlig undervannsteknologi.

Norge store på undervannsforskning 

Det generelle bildet er at norsk forskning på sensitive teknologier har vokst betydelig i perioden 2015-2024, men det er store forskjeller mellom de ulike teknologiområdene.

Men alt i alt publiserer Norge relativt lite forskning innenfor disse områdene. Kun ett område, nemlig undervannsteknologi, ligger over det globale snittet.

Derimot blir norsk forskning mer sitert enn snittet på åtte av disse elleve områdene, noe som indikerer god kvalitet på forskningen.

Blant de sensitive områdene, er det innenfor KI norske forskere publiserer mest.

Det er også feltet som har vokst mest, men dette har sammenheng med KI-revolusjonen verden har sett de siste årene. 

I 2015 publiserte norske forskere bare 15 artikler om KI, mot 433 i 2024.

Norske KI-artikler blir også mye sitert. Nesten 25 prosent av artiklene er blant de ti prosent mest siterte i verden.

Russland

Russiske forskere vender seg mot Kina

Norge ønsker Kina-samarbeid

Kina er det eneste av de fire risikolandene Norge har betydelig forskningssamarbeid med.

Målt i antall samarbeidsartikler er Kina også største samarbeidsland innenfor energiteknologier, som blant annet omfatter batterier, hydrogen og smarte strømnett, og innenfor robotikk og autonome systemer, som omfatter maskiner og kjøretøy som kan operere selv.

Og selv om de hemmelige tjenestene oppfordrer til varsomhet, ønsker regjeringen forskningssamarbeid med Kina. 

I 2024 undertegnet Kunnskapsdepartementet en revidert handlingsplan for Kina-samarbeid «for å styrke samarbeidet innen forskning, teknologi og innovasjon». 

Kina er også blant de såkalte panorama-landene, som betyr at det er ett av åtte prioriterte land utenfor EU/EØS som Norge vil styrke forsknings- og utdanningssamarbeidet med. 

Samarbeid med Iran 

Samarbeid med Iran er av mye mindre omfang, men dukker opp på topp 10-listen på noen underområder.

Norge hadde for eksempel i tiårsperioden 72 samarbeidsartikler med Iran innen KI-feltet maskin- og dyplæring.

Dette utgjør imidlertid ikke mer enn sju artikler i året, og tallene viser også at dette er store artikkelsamarbeid med forskere fra mange land.

Russland spiller en stadig mer perifer rolle i norsk forskningssamarbeid på sensitive teknologier. Samarbeidet beskrives som «ganske ubetydelig og spredt», men det skjer fortsatt noe sampublisering, blant annet innen undervannsteknologi.

Det er ikke registrert noen sampublikasjoner eller prosjektsamarbeider mellom norske og nordkoreanske forskere i perioden.

publisering

Disse landene trekker tilbake flest forsknings­artikler