OpenAI kan upptäcka om ChatGPT används för fusk. Men vill inte släppa ett sådant verktyg.

Teknik

Motor

Samhälle

Spel

Popkultur

Fritid

Tjock

Tester

Dagens fråga

Tipsa!

Skaffa Feber+

Hetaste

Senaste

OpenAI kan upptäcka om ChatGPT används för fusk

Men vill inte släppa ett sådant verktyg

Foto: AI-genererad bild / Dall-e 3

Wall Street Journal skriver i ett reportage att OpenAI har utvecklat ett verktyg som kan visa om en text skapats av deras tjänst ChatGPT. Ett sådant verktyg skulle kunna vara användbart för till exempel lärare som vill undersöka om deras elever använt ChatGPT för olika textbaserade skoluppgifter.

Det aktuella verktyget analyserar texter och försöker hitta olika spår som ChatGPT lagt in i texterna som en mänsklig läsare inte skulle märka av själv. Som det ser ut nu vill dock inte OpenAI släppa verktyget publikt.

Enligt OpenAI finns det flera anledningar till att man inte släpper verktyget. Huvudanledningen är att verktyget i 99,9 procent av testerna kunnat fastställa att ChatGPT skapat en text. Det innebär att var tusende uppsats eller text skulle kunna flaggas som "fusk" trots att inte ChatGPT använts. Det skulle givetvis kunna leda till negativa konsekvenser för en student om denne blev utpekad som fuskare om så inte var fallet.

Vidare säger OpenAI att man tror att de som använder ChatGPT för översättningar för att förbättra sina engelskakunskaper skulle kunna känna sig stigmatiserade om det blev känt att deras texter översatts med ChatGPT. En annan anledning, som OpenAI inte själva nämner men som nämns i WSJ:s reportage, är att upp emot 30 procent av ChatGPT:s användare uppgett att de skulle sluta använda tjänsten om texterna på något sätt försågs med någon typ av "vattenmärkning".

OpenAI har även tidigare uppgett att även om de försåg ChatGPT:s texter med vattenmärkning så skulle denna kunna kringgås om användare till exempel bad en annan AI-tjänst skriva om texter som skapats av ChatGPT.

OpenAI förser idag bilder skapade med deras tjänst Dall-E med olika typer av vattenmärkning så att det går att se att bilderna skapats av deras AI. Det uppges att man arbetar på att hitta liknande lösningar som även skulle kunna användas i texter skapade av ChatGPT.

I början av förra året släppte OpenAI verktyget AI Classifier som uppgavs kunna upptäcka om en text skapats med generativ AI. Detta verktyg skrotades dock efter ett halvår då det ansågs ha haft för dålig tillförlitlighet.

wsj.com

Pryl, Artificiell intelligens,

openai, chatgpt, fusk, generativ ai, vattenmärkning

Via arstechnica.com

OpenAI släpper verktyg för att hitta AI-texter

Slut på fuskandet!