«Vannmerke» kan avsløre bruk av kunstig intelligens

Etter hvert som ChatGPT og andre lignende programmer har gjort sitt inntog i den digitale verdenen, har det blitt vanskelig å se om en tekst er skrevet av et menneske eller en maskin.

Forskere fra DeepMind, et datterselskap av Google, mener nå at de har funnet en løsning.

I en studie som nylig ble publisert i Nature, og som er omtalt av en rekke aviser i både Danmark og Sverige, beskriver forskerne et «vannmerke» for KI-generert tekst, som skal gjøre det enklere å identifisere om det er en person eller en maskin som står bak innholdet.

Bruker bestemte ord

Måten dette skjer på er at forskerne får den kunstige intelligensen til å bruke bestemte ord, som samlet skaper et bestemt mønster i teksten. 

Mennesker merker knapt at det er noe galt, men et dataprogram kan gjenkjenne mønsteret, omtrent som en strekkode, og på denne måten avsløre at teksten er KI-generert.

Teknologien har fått navnet SynthID.

Utdatert?

Vannmerket er ikke helt vanntett ennå, innrømmer forskerne bak studien. Selv om ordene som utgjør vannmerket er ukjente for brukeren, er det fortsatt lett å omgå ved å skrive om den KI-genererte teksten nok, forklarer forskerne i en pressemelding.

Studien viser ellers at det er mulig å skape vannmerker i AI-generert tekst uten at kvaliteten på teksten reduseres betydelig.

Studien ble sendt til Nature i april 2024, og forskerne har brukt rundt to år på arbeidet. Dermed mener flere som har kommentert studien at det er rimelig å anta at det nå finnes vannmerke-programmer og andre verktøy som er mer avansert enn den som studien viser til, skriver danske Videnskab.dk.