NTNU lanserer nytt KI-verktøy. — Tryggeste i Norge

NTNU lanserer i dag et alternativt KI-verktøy for studenter og ansatte. Fire språkmodeller kan brukes, som alle kjører på universitetets egne servere. Den nye GPT NTNU er utviklet i tett samarbeid med Universitetet i Oslo (UiO), som også skal ta den i bruk og benytte datakraft fra NTNUs superdatamaskin Idun.

Etter hvert vil trolig flere universiteter og høgskoler velge å bruke samme tjeneste.

— NTNUs nye GPT lar våre ansatte og studenter kjøre språkmodeller der det er full kontroll over både data og utstyr, sier IT-direktør Håkon Alstad. 

Underdirektør Dagfinn Bergsager i IT-avdelingen ved Universitetet i Oslo sier det slik:

— Dette er den tryggeste GPT-en i Norge.

kunstig intelligens

Lanserer ChatGPT- tjeneste for studenter og ansatte

Data forblir lokalt

 Håkon Alstad forklarer hvordan dette fungerer:

— Det er ferdigtrente språkmodeller som ligger på serverne. Vi laster ned denne språkmodellen og kjører den lokalt, derfor vil den ikke ha noen kontakt med omverdenen. Noen kan være spinkle og gi litt svakere svar, men dette er bare starten. ChatGPT var heller ikke så bra i 2023, så dette vil bli bedre. 

Disse fire modellene vil være tilgjengelige og kjøre på NTNUs servere:

• GPT-OSS 120 B: Utviklet av Open AI (USA). Er best egnet til tekst, en kraftfull modell som er god på omfattende analyse. 
• Kimi K2.5: Utviklet av Moonshot AI (Kina). Er best egnet til tekst og bilder, og en av de beste nye modellene, bra til koding. Er under utprøving. 
• Mistral Large 3: Utviklet av Mistral AI SAS i Frankrike. Best egnet til tekst og bilder, er en stor europeisk modell. Under utprøving. 
• GPT-5.1 Thinking: Resonneringsmodell for dypere innsikt og krevende problemstillinger. Utviklet av Open AI i USA og kjøre på datamaskiner i Microsoft sin sky i Europa. 

Mistral får de spesielt gode tilbakemeldinger på, og det er en stor europeisk modell, så Alstad tror mange kan finne god nytte av denne språkmodellen.

DeepSeeks AI Chatbot er ikke med i denne omgangen. Den er for tung til å kjøre på Idun. Alstad sier de skal vurdere etter hvert om den skal gjøres tilgjengelig. 

Rekruttering

Det renner inn med KI-genererte søknader. — Som en flodbølge av KI-skvip

— Flere modeller kommer

Ved bruk av denne GPT-en minner den innledningsvis om slik de andre fungerer. «Start ny samtale» står det, og så er det bare å gi instrukser. Men før det kan brukeren velge mellom de fire språkmodellene. 

— Dette vil endre seg. Vi ser for oss at flere modeller vil legges til framover, men det avhenger av hva som skjer når vi nå lanserer GPT NTNU.

NTNU samarbeider tett med Universitetet i Oslo, som har arbeidet mye med brukergrensesnitt. 

— Et veldig fruktbart samarbeid, sier Alstad. 

Foreløpig er det NTNU og UiO som skal benytte den nye GPT-en. 

Geopolitikk

Hellestveit: — Dette er ikke tiden for lavere ambisjoner i akademia

— Kan bli ganske stort

Universitetet i Oslo (UiO) lanserte i 2023 den første GPT-tjenesten i Norge som var lovlig å bruke i utdanningssektoren. Blant annet har en lang rekke universiteter og høgskoler tatt i bruk denne tjenesten. GPT UiO har i dag 65.000 brukere totalt. 

Nå tar de dette et hakk videre og vil framover tilby de samme tjenestene som NTNU. 

— Dette er den tryggeste GPT-en. Ingen andre kan få tak i dataene og de ligger innenfor universitetene og flyter der, sier underdirektør Dagfinn Bergsager ved UiOs IT-avdeling.

Bergsager slår fast at UiO er veldig stolt over samarbeidet med NTNU. 

— Dette gjør at vi kan få de nye GPT-modellene tilgjengelig på NTNUs servere, og at de er nesten like gode som de vi kjører i skyløsningene. Men vi er spente på kapasiteten. 

Underdirektøren ser for seg at bruken kan utvides framover. 

— Dette kan bli ganske stort. Vi kan etter hvert bruke de lokale modellene fra NTNU i andre tjenester, som for eksempel for timeplanleggingssystemet eller som studentportal. 

Ifølge Bergsager er det en plan om at alle universiteter og høgskoler som ønsker tilgang til disse tjenestene, skal kunne få det. De må bare først se hvor mye datakraft som egentlig trengs. 

Å kjøre alle disse generative modellene krever enorm datakraft, som det altså er NTNUs  superdatamaskin Idun som bidrar med, opplyser Bergsager. 

Kina og USA får ikke data

Av de fire språkmodellene som er en del av verktøyet, er en kinesisk, en fransk og to amerikansk. Mange er bekymret for at data kan bli misbrukt av Kina, og nå også etter hvert USA. 

 — I og med at vi kjører dette lokalt, så vil det ikke gå data tilbake til Kina, men det kan være ting lagt inn i deres modeller som vi ikke har kontroll på. Der må jeg ta et forbehold, sier NTNUs Håkon Alstad. 

Når det gjelder USA, kjører Open AI på Microsofts servere. Alt med Microsoft er en utfordring, sier Alstad og legger til at det vil ta tid før vi Europa klarer å få på plass løsninger som kan erstatte de amerikanske. Det må satses kraftig i Europa hvis man skal klare å bygge opp alle tjenestene her. 

— Det investeres enorme summer i disse KI-modellene. Men jeg tror det kan bli enda mer legitimt å kjøre de store modellene, for de vil være i front når det gjelder utvikling og gi mest mulig nytte. Å tro at man skal klare å motvirke dette helt, er lite sannsynlig. 

fusk

Økning i fuske­saker — KI er tema i halv­parten av dem

— Gavepakke

Ifølge Håkon Alstad ønsker forskere etter hvert å få laget egne språkmodeller som ivaretar sensitive data innenfor for eksempel helseforskning.

— NTNUs GPT vil gi en unik mulighet for forskere. Dette er en slags gavepakke, der universitetet har en infrastruktur og en viss utviklingskapasitet som gjør at vi faktisk kan tilby dette i en verden der datasuverenitet er viktig, sier han. 

Parallelt med NTNU GPT jobber IT-avdelingen med å få på plass et datasenter i et av de nye byggene som skal komme på Gløshaugen, der humaniora og samfunnsvitenskap skal flytte inn fra Dragvoll. Senteret ønsker de skal være på nesten 1.000 kvadratmeter. 

Dette er ikke vedtatt, men ifølge Alstad jobber IT-avdelingen hardt for at datasenteret skal bli noe av. 

— Det er framtida til NTNU å ha eget datasenter som gjør at forskningen er trygg og at ansattes bruk kan være trygg framover. 

— De er vel strømkrevende disse datasentrene?

— Ja, det er en av grunnene til at vi ønsker å legge det på Gløshaugen. Vi ønsker å lage et energilager, der vi bygger svære «termoser». Når vi har overskuddsvarme, så lager vi energien der. Vi vil varme opp hele Gløshaugen på dette og kanskje enda mer også. Dette gjør at vi kan ha en gjenvinning opp i 70—80 prosent. 

Alstad mener NTNU med dette tar viktige grep. 

— Med egen GTP-løsning og et eventuelt datasenter, tar IT-avdelingen store skritt i retning av digital suverenitet.