Se caută antidot pentru ChatGPT

Start-upul care a creat ChatGPT, software-ul de succes capabil să genereze articole, precum şi poezii sau eseuri, încearcă să dezvolte un program capabil să detecteze dacă un text a fost scris de o inteligenţă artificială (IA), transmite miercuri AFP.

OpenAI a lansat marţi un nou instrument cu acces liber (open source) pentru a-i ajuta pe oameni să facă distincţia între textele produse cu software bazat pe IA (cum ar fi ChatGPT, dar nu numai) şi cele scrise de persoane.

Acesta ar trebui să ofere posibilitatea de a afla, spre exemplu, dacă dizertaţiile au fost scrise de un program informatic şi nu de un student sau dacă utilizatorul se adresează unei persoane ori unui „chatbot” (robot conversaţional) în cadrul unui serviciu de mesagerie online.

Însă, pentru moment sunt „imposibil de detectat în mod fiabil toate textele scrise cu IA”, a avertizat OpenAI într-un comunicat.

Conform propriei evaluări, noul software identifică în mod corect 26 de procente dintre toate textele scrise de algoritmi ca fiind „probabil scrise cu IA”. Iar în 9 procente dintre cazuri, clasifică textele scrise de oameni ca fiind scrise cu IA.

Vezi si:  Elon Musk, invitat la salonul tehnologiilor digitale de la Paris

Este „mult mai fiabil” comparativ cu versiunea anterioară, a subliniat OpenAI, însă rămâne „foarte nesigur” în cazul textelor scurte (mai puţin de 1.000 de caractere) şi este preferabil să fie utilizat în limba engleză.

Dincolo de ironia acestei situaţii, miza este mare, notează AFP. Mulţi experţi se tem că tehnologiile IA generative, precum cea a ChatGPT, servesc în special la automatizarea creării de escrocherii pe scară largă sau de campanii de dezinformare ultra-credibile.

Instrumente similare au fost deja create cu diferite grade de fiabilitate, cum ar fi GPTZero, dezvoltat de Edward Tian, un student de la Universitatea Princeton.

OpenAI, un start-up co-fondat în 2015 la San Francisco de Elon Musk – şeful Tesla a părăsit compania în 2018 – a lansat ChatGPT în noiembrie anul trecut.

Platforma, uşor de utilizat, are un aspect similar unui chatbot şi generează, la cerere, texte uimitoare. De la lansarea sa, platforma a cunoscut un succes răsunător, transmis prin hiper-mediatizare.