Compania OpenAI va implementa în următoarele săptămâni un sistem inovator prin care textele generate de ChatGPT și Codex vor primi o „amprentă” invizibilă. Această măsură este destinată utilizatorilor eligibili din Uniunea Europeană și face parte dintr-un efort de a respecta cerințele europene privind transparența conținutului produs prin inteligență artificială. Tehnologia, numită textGrain, are scopul de a marca produsele digitale fără a altera aspectul vizual al textului pentru cititor.
Sistemul textGrain nu utilizează caractere ascunse, spații invizibile sau etichete vizibile, ci funcționează prin modificarea subtilă a probabilităților de alegere a cuvintelor în timpul procesului de generare. Această metodă creează un tipar statistic specific, care poate fi identificat ulterior cu ajutorul unui detector specializat. Chiar dacă un text este copiat și lipit într-un e-mail sau pe un site web, semnalul ar putea rămâne detectabil, atât timp cât formularea originală nu este modificată substanțial.
Testele efectuate de OpenAI în toate cele 24 de limbi oficiale ale Uniunii Europene au relevat rezultate foarte diferite, limba română fiind cea mai dificil de identificat. La o rată de fals pozitive de 1%, limba română a înregistrat o rată de detectare de doar 42,2%, în timp ce limba spaniolă a obținut un rezultat de aproximativ 69%. OpenAI a menționat că poate crește intensitatea acestui watermark în limbile unde semnalul este mai slab, după ce a testat deja această abordare pentru limbile cu rate sub 60%.
Eficacitatea detectorului depinde și de lungimea textului, precum și de nivelul de editare aplicat de utilizatori. În teste, detectorul a identificat aproximativ 80% din textele de circa 200 de tokeni și 95% din cele de circa 400 de tokeni. Totuși, procesul de parafrazare poate slăbi considerabil amprenta; înlocuirea a 25% dintre cuvinte cu sinonime a scăzut rata de detectare de la 92% la doar 17%. Din acest motiv, compania avertizează că sistemul nu trebuie utilizat singur pentru decizii importante.
La lansare, detectorul textGrain nu va fi disponibil pentru publicul larg, fiind oferit inițial doar cercetătorilor și organizațiilor specializate pentru evaluarea provenienței textelor. Implementarea va viza toate planurile de utilizare pentru outputurile text generate de ChatGPT și Codex în cadrul Uniunii Europene. OpenAI subliniază că acest sistem nu dovedește identitatea autorului, contul sau promptul utilizat, ci doar faptul că textul provine de la modelele lor de inteligență artificială.
Evoluția tehnologiilor de inteligență artificială este un subiect de interes global, în contextul în care competiția pentru supremația în acest domeniu este intensă. În timp ce companii precum OpenAI dezvoltă instrumente de control și transparență, alte puteri internaționale, precum China, încearcă să reducă diferența față de SUA în această cursă tehnologică. Acest cadru de dezvoltare rapidă pune presiune pe reglementările europene de siguranță și transparență a conținutului digital.