Studie: 11 av 14 fagfeller skjønte ikke at denne artikkelen var KI-generert

Ville du klart å gjenkjenne en falsk forskningsartikkel, innenfor ditt eget fagfelt, som er generert av ChatGPT?

Det har forskere ved sykehus i Tyrkia, Qatar og Storbritannia undersøkt i et eksperiment. Studien ble nylig publisert i det medisinske tidsskriftet American Journal of Emergency Medicine.

Ved hjelp av ChatGPT laget de en falsk studie om hjertestans utenfor sykehus. Det inkluderte falske data om rundt 1000 pasienter, og språkmodellen analyserte blant annet hvilke faktorer som påvirker sjansen for å få tilbake spontan sirkulasjon og overleve. Alt var bare oppspinn. Ingen reelle pasientdata ble brukt. 

Artikkelen ble så sendt til 14 kompetente fagfeller og redaktører. De visste at de var med på et eksperiment. De ble på forhånd informert om at manuskriptet de skulle vurdere kunne være generert av KI.

KUNSTIG INTELLIGENS

ChatGPT lanserer studie-verktøy

Tror du artikkelen er KI-generert? 

Etter vurderingen ble de spurt om de trodde det var KI-generert. Kun tre av de 14 svarte ja. Altså 21 prosent. 

De hadde blant annet blitt mistenksomme på grunn av den «mal-aktige» språkbruken, mekaniske presentasjonen av data, en overfladisk diskusjonsdel, formateringsfeil og gjentakelser, fortalte de. 

Trolig ville antallet som avslørte artikkelen vært enda lavere hvis de ikke på forhånd hadde fått vite at den kunne være KI-generert.

KUNSTIG INTELLIGENS

Studentene vil ha innebygd KI på datamaskinen. Slår alle salgsrekorder

Bør artikkelen publiseres? 

I eksperimentet ble de 14 deltakerne bedt om å vurdere artikkelen både ut fra perspektivet til en fagfelle og til en redaktør.

Det første som skjer i en publiseringsprosess, er at manuskriptet vurderes av redaktører.

I rollen som redaktører ga de 14 disse vurderingene:

• Seks avviste manuskriptet.
• Seks ville sende det videre til fagfellevurdering.
• To ville akseptere det allerede på dette stadiet.

I rollen som fagfeller ga de disse anbefalingene:

• Fire anbefalte at artikkelen skulle aksepteres etter mindre revisjoner.
• Fire foreslo at det trengtes store revisjoner før en eventuell publisering.
• Seks anbefalte avslag på manuskriptet.

Flertallet var altså innstilt på å publisere en bearbeidet versjon av den falske, KI-genererte artikkelen.

— Må være oppmerksomme 

I artikkelens diskusjonsdel skriver forskerne at fagfeller og redaktører må være oppmerksomme på at KI kan være brukt i manuskripter, og lære seg hvordan KI-tekster kan kjennes igjen basert på språkflyt, struktur og innhold.

De mener videre at forfattere må kunne erklære at manuskriptet ikke er generert av KI, for å motvirke publisering av villedende innhold.

Akademiske tidsskrifter bør etablere tydelige regler, strukturerte erklæringsskjemaer og krav om dokumentasjon av forskningsprosessen for å håndtere KI-bruk på en ansvarlig måte, mener de.

Forfatterne påpeker at noen verktøy kan oppdage KI med høy treffsikkerhet. Men bruk av slike kan også feilaktig mistenke menneskeskrevne tekster og avslører ikke nødvendigvis KI-genererte tekster. 

kunstig intelligens

66 studenter tatt for KI-fusk: — Har ikke kontroll