Doktorgrad om datamaskiner:
 — Stupebrett inn i jobben 

— Kan du, helt kort, fortelle hva doktorgradsarbeidet ditt handler om?

FAKTA

Lars Henry Berge Olsen

• Har skrevet avhandlingen «What’s in the Black Box? Improving the Shapley Value Explanation Methodology».

• Disputerte 7. februar 2025 ved Universitetet i Oslo. 

— Doktorgradsavhandlingen min ved matematisk institutt på UiO handler om det som heter forklarbar kunstig intelligens. Det vil si at vi ønsker å forklare og forstå hvordan kunstig intelligens tenker. «Hjernen» til kunstig intelligens er algoritmer og modeller, som er matematiske funksjoner som tar inn data og gir ut prediksjoner, eller beslutninger. Jeg har jobbet med forklaringsmetoder som kvantifisere hvordan forskjellige inputdata påvirker modellens prediksjoner. Dette vil hjelpe oss bedre å forstå beslutningstakerprosessen til komplekse algoritmer og modeller. Ideen er at andre skal kunne anvende min forklaringsmetode på sine egne modeller for å forstå dem bedre. Et eksempel jeg bruker er: Tenk om Finn.no lager en modell for å predikere verdien på din bolig. De har samlet inn masse informasjon om boliger og gir det til modellen. Vi har da lyst til å forstå hva som gjør at akkurat din bolig er verdt fem millioner. Egenskapene til boligen din, som for eksempel hvor mange rom den har, når den sist ble oppusset og geografisk lokasjon, er faktorer som modellen kan vurdere. Ved å bruke min metode kan man finne ut hva slags verdi modellen har gitt disse ulike egenskapene. 

— Hvorfor ble det doktorgrad om akkurat dette emnet?

— Det korte svaret er at jeg snublet inn i doktorgraden. Jeg var ferdig med mastergrad våren 2020, og jeg prøvde å søke jobb fra mars. Da skjedde det jo noe annet også … I privat sektor var de usikre på om de ville ansette, mens i offentlig sektor er det mer sikkerhet. Jeg tenkte at hvorfor ikke da søke på doktorgrad. Det er en spesifikk doktorgrad hvor de ville forske på forklaringer av kunstig intelligens. 

— Jeg har vært låst til en tematikk og et prosjekt, men jeg har hatt rom for utforskning. Det syns jeg er fint, fordi doktorgrad er en stor ting å begi seg ut på. Det første halve året var jeg litt skeptisk, men etter det syns jeg alt var spennende. Vi kan ikke ha datamaskiner som tar valg vi ikke forstår. Du hadde ikke likt å gå til legen og få beskjed om at du kanskje har kreft, uten at legen ga deg en forklaring. Hvis ikke vi forstår logikken bak beslutningene til en modell, så er det en «svart boks». Det er en kompleks modell der man sender inn masse data og får ut et svar, ofte et godt svar — men du må forstå hvorfor svaret er godt. Vi kaller det å forklare modellen for å åpne den svarte boksen. 

— Hva har du gjort med tanke på metode? 

— Jeg har jobbet med en teorioppgave med mange praktiske anvendelser. Dette har jeg gjort med penn og papir, men for det meste på datamaskinen. Jeg har jobbet med Shapley-verdier, som er et konsept fra spillteori som i dag brukes som en metode for å forklare modeller. Forklaringsmetodene som fantes helt i starten antok det vi kaller uavhengighet mellom egenskapene til objektet. For eksempel med modellen som gir boligverdi, så antok metodene at det ikke er noen relasjon mellom antall bad og soverom i boligen. Men vi vet at hvis du har en bolig med tjue soverom, så har du sannsynligvis ganske mange bad også. Metodene antok uavhengighet for å gjøre tekniske beregninger enklere, men da blir også forklaringene feil. Doktorgrad min har handlet om å modellere og ta med disse avhengighetene inn i forklaringene slik at de mer presist forklarer modellens prediksjoner. 

— Shapley-verdier, oppkalt etter Lloyd Shapley, går ut på hvordan man kan rettferdig fordele en gevinst i et spill blant spillerne. Tenk på gevinsten som boligens estimerte verdi og spillerne som egenskapene til boligen. Shapley-verdier baserer seg på rettferdighetsaksiomer og rettferdighetsegenskaper. Si at du har to personer som deltar like aktivt i et spill, da bør de få samme andel av gevinsten. Dersom du har en person som ikke deltar i det hele tatt, burde han ikke få noe av gevinsten i det hele tatt. Så en av egenskapene er at en som ikke deltar, får Shapley-verdi på null. Summen av Shapley-verdien som spillerne mottar er lik gevinsten som skal fordeles. 

— Hva finner du?

— Jeg finner at forklaringsmetoden min estimerer mer korrekte og pålitelige modellforklaringer enn tidligere metoder. I tillegg er forklaringene jeg produserer nærmere den sanne, men ukjente forklaringen, og dette har jeg verifisert gjennom mange eksperimenter og simuleringsstudier. 

— Hva var det mest krevende med doktorgradsperioden?

— Jeg synes egentlig doktorgraden har vært hyggelig hele tiden. Det har vært mange lange kvelder med jobbing, men jeg har fått så mye positivt ut av dette. Jeg er en positiv person av natur, jeg har vokst masse, og jeg hadde et fantastisk forskningsopphold i London. Det har ikke vært noen store negative hendelser. Det har vært en fin akademisk reise, mye takket være tre flotte veiledere. 

— Har du angret på at du gikk i gang med dette?

— Nei. I begynnelsen lurte jeg på hva jeg har begitt meg ut på — men du har en tilvenningsfase, og alt er vanskelig når det er nytt. Da må man stå i det vanskelige og så blir det bedre etter hvert. Det har vært veldig fint samhold med andre stipendiater og veiledere på Blindern, hele miljøet på statistikkavdelingen er veldig koselig. 

— Kom du i mål på normert tid?

— Jeg fikk utsatt 2 måneder. 

— Hva skal du bruke doktorgraden til videre?

— Det har vært et stupebrett inn i jobben jeg har nå, som forsker og konsulent ved Norsk Regnesentral. Her trives jeg veldig godt. To av veilederne mine jobber her, så det har hjulpet meg at de kjenner meg fra før. Vi jobber fremdeles med blant annet tematikken fra doktorgraden min, og jeg har tenkt til å utvide noen av metodene.