Svindel

May-Britt Moser misbrukt i avansert KI-svindel

For første gang er en NTNU-forsker misbrukt i en KI-generert video for vidundermedisin. — Det var et sjokk, sier nobelprisvinner May-Britt Moser.

Kvinne i labklær med hendene til siden
Den ekte forskeren May-Britt Moser, som regel klar for å gå inn i laben.
Publisert Sist oppdatert

— Den første gangen jeg så en av svindelvideoene, var i starten av mai. Da fikk jeg spørsmål fra pasienter som spurte om de kunne stole på det produktet jeg reklamerte for. Da sa jeg bare «what!». Jeg ble både kvalm og sjokkert, sier May-Britt Moser, som har sagt hva hun mener om svindelen på sin egen Facebook-side

Svindelen går ut på at Moser anbefaler flere ulike produkter som blant annet senker blodtrykket, hindrer blodpropp, slag og hodepine. En rekke KI-genererte videoer, bilder og annonser er publisert på Facebook og Instagram.

— Fake, juks og bedrag

Kvinne viser fram juice og sitron og er misbrukt i en reklame
Nobelprisvinner May-Britt Moser takker alle som har reagert, tatt kontakt og forstått at dette er juks og bedrag.

I videoene beveger forskeren munnen i samsvar med innholdet en stemme forfekter. I en video snakker stemmen dansk, i en annen en helt annen dialekt enn sunnmørsdialekten.

I tillegg til å reklamere for vidundermedisin, ytrer den falske May-Britt Moser også skepsis til legene som bare skal tjene penger på å foreslå medikamenter som ikke virker. Folk må klikke seg videre for å finne ut hva produktet består av. Sukkerpiller, kaller Moser det. To vanlige ingredienser alle har hjemme, heter det i reklamen. 

— Dette er faktisk godt arbeid i fake, juks og bedrag. Jeg er imponert over alle som har tatt kontakt fordi de har fått mistanke om at dette er juks, sier Moser. 

Svindelen blir nå politianmeldt.

— Første gang

Stian Husemoen leder NTNUs Seksjon for digital sikkerhet. Metodikken som er brukt i svindelvideoen med May-Britt Moser er ganske vanlig, sier han, ved at man genererer falskt innhold av både lyd, bilder og videoer laget av kunstig intelligens (KI). Da er det gjerne kjente personer som blir involvert for å gjøre svindelen troverdig. 

Tidligere har det blitt kjent i media at blant annet legene Mads Gilbert og Kaveh Rashidi ble utsatt for det samme, men da var det bilder, ikke videoer.

— Det er første gang, så vidt jeg vet, at det er noen av våre egne forskere som blir misbrukt. Kampanjen framstår autogenerert og pushes ut automatisk for å få spredd den mest mulig, sier Husemoen. 

May-Britt Moser skulle gjerne vært foruten denne rekorden:

— Jeg var den første kvinnelige nobelprisvinneren medisin eller fysiologi i Norge. Det kjennes bedre enn å være den første forskeren ved NTNU som blir misbrukt. Det som er fælt er at de bruker min faglige tyngde og vitenskapelige profil for å lure folk til å tro at dette er seriøs vitenskap, sier May-Britt Moser. 

Tas ned og dukker opp

Den anerkjente forskeren holder humøret intakt selv om hun er mektig sjokkert over den svindelen hun er utsatt for i sosiale medier. 

— Men dette sier noe om hvor farlig det er å være kjent, og at jeg er såpass kjent at det er interessant å bruke meg. Her i Trondheim kan jeg gå langs gatene og føle meg anonym, som er veldig deilig. Men her blir jeg eksponert til de grader. Det var et sjokk, gjentar hun. 

Kommunikasjonsleder Rita Elmkvist-Nilsen ved Kavliinstituttet for nevrovitenskap har vært tett på arbeidet med å få fjernet svindelannonsene. 

— Det er vanskelig å si hvor mange versjoner som finnes. De blir tatt ned og kommer tilbake. Det er veldig enkelt å lage nye versjoner og få de til å poppe opp som paddehatter. Det er nesten umulig å bekjempe dem, sier hun. 

Seinest tirsdag denne uken dukket det opp en ny kampanje, der en KI-generert May-Britt forteller at 78 prosent av alle sykdommer skyldes parasitter, med ei oppskrift på en kur som vil fjerne disse. 

— Det triste med svindelen er at annonsene retter seg inn mot de som virkelig lider og som kanskje er gitt opp av helsepersonell. Menneskenaturen er slik at vi vil ikke gi opp. I desperasjon er man villig til å teste ut alt, også løsninger som ikke er seriøse. Det er alltid de svake som blir svakest i slike fæle spill som dette. Det er fryktelig trist, sier Moser. 

— Lei meg hvis noen er lurt

Kavliinstituttet har prøvd å få kontakt med Meta, som eier Facebook og Instagram, uten å få noen støtte derfra. 

— De har ikke vært samarbeidsvillige, konstaterer Moser, som blant annet har prøvd å få selskapet til å fjerne to falske profiler. 

Situasjonen er dermed slik at Meta gjør ingenting, svindlerne er ikke mulige å spore opp og bankene refunderer ikke pengene til dem som blir svindlet. Å skrive i kommentarfeltene at dette er svindel, er de også advart mot å gjøre. Det vil bidra til å spre svindelannonsene enda mer. 

— Det er skremmende. Jeg har ikke fått kontakt med alle som har sett annonsene. Er det noen som ikke har skjønt at de er juks, er jeg fryktelig lei meg for at de har blitt lurt. De som vil lure oss, blir smartere og smartere. Vi må gå med følehorna ute og sveipe fram og tilbake hele tida. Vi må være kritiske og spørre hva dette er for noe. 

— Hva kan vi gjøre for å unngå å bli svindlet på denne måten?

— Jeg tror dette ikke er en krig vi vinner med våpen. Vi vinner den med kunnskap og forskning. Vi som blir misbrukt, må si fra slik jeg gjorde på Facebook, der jeg sa at jeg står for seriøs forskning og at de ikke må tro på useriøs reklame i mitt navn. Dessuten bør kanskje NTNU gå ut hver gang og dementere. 

— Mistet meg selv

Hun ser et håp i at folk reagerer og sier fra. 

— Den generelle befolkninga må bare bli kjempegode, slik de er nå, til å oppdage, klage og si fra. De må være vaktbikkjer sammen med oss. Det ser ikke ut som at vi klarer å beskytte oss mot dette, så vi må bare bli enda tydeligere på at vi står for kvalitet og forskningsbaserte resultater. Vi må stå sammen på barrikadene fordi vi er sterke sammen.

Hun fortsetter:

— Da jeg så meg selv snakke på svindelvideoen, følte jeg at jeg mistet meg selv et lite øyeblikk, men så tok jeg meg selv tilbake. Jeg vil være gatas skrekk og si fra, sier Moser både offensiv og spøkefull, på sin rette dialekt — kav sunnmørsk. 

Hun varsler at det snart kommer en mediesak av det hyggeligere slaget. 

— Da skal vi snakke om forskning igjen. Vi har fått akseptert en artikkel i Science i juni. Det blir gøy. Derfor overlever jeg når slike ubehagelige ting skjer. Jeg er så bortskjemt og takknemlig med alt det fantastiske jeg får oppleve i laben. Det gjør at jeg er godt rustet til å tåle en støyt, sier May-Britt Moser.

Khrono har prøvd å oppspore svindlerne uten å lykkes.

Vet ikke hvem som står bak

Seksjonen Stian Husemoen leder ved NTNU blir ansett som et av de beste cybersikkerhetsmiljøene i Norge. Ha sier kvaliteten på svindelforsøkene har gått betraktelig opp de siste årene.

— Det tar ikke mer enn et par minutter å etterligne en stemme og lage slike videoer vi her ser eksempler på. 

Portrett av en mann. Han har kort, mørkt hår og smiler.
Stian Husemoen sier at NTNU ikke har greid å finne ut hvem svindlerne er.

— Vil vi i framtida ikke ane hva som er svindel eller ikke fordi KI-verktøy bare blir bedre og bedre?

— Ja, det er nok fare for det. Dette diskuteres i trusselvurderingene fra myndighetene. Teknologien kan brukes, ikke bare i ren svindel, men også i påvirkningsoperasjoner, for eksempel at politikerne sier noe man aldri har sagt. Det ser vi allerede nå.

— Hvem står bak denne kampanjen der May-Britt Moser blir misbrukt?

— Det er det svært vanskelig å finne ut av. Svindlerne benytter seg ofte av andre kompromitterte kontoer, der eierne ikke vet at disse blir misbrukt. Vi er helt avhengige av at Facebook, X og Instagram følger med på dette, men vi ser at mengden er så stor at de ikke greier å henge med. De er dessuten vanskelige å få i tale. 

— Kan svekke tillit til forskning

Portrett av Toril Hernes
Toril A. Nagelhus Hernes er ansatt som prorektor for forskning og innovasjon.

Toril Nagelhus Hernes er prorektor for forskning og innovasjon. Hun sier at NTNU ser med dyp bekymring på det som har skjedd. 

— May-Britt Moser er en anerkjent, fremragende og hardtarbeidende forsker. At en av våre egne blir misbrukt på denne måten, er forferdelig. Etter det vi kjenner til, er dette det første kjente tilfellet av deep fake-videoer som har rammet våre ansatte. 

Hernes sier det som er så bekymringsfullt er at teknologien er blitt så bra og ser så virkelig ut. 

— Vi må fortsatt tro på forskning og kunnskapsbasert informasjon, og si fra når vi ser at både våre forskere og kunnskapen vi representerer blir misbrukt, slik det har skjedd med May-Britt Moser, sier Hernes. 

Powered by Labrador CMS