OpenAI a anunțat implementarea unor marcaje invizibile în textele generate de ChatGPT, o măsură luată pentru a asigura identificarea conținutului conform noilor reguli stabilite în Uniunea Europeană. Această inițiativă vizează atât textele simple, cât și codul de programare produs de soluțiile de inteligență artificială ale companiei americane. Prin această decizie, OpenAI urmează modelul stabilit anterior de Anthropic în ceea ce privește transparența conținutului digital.
Tehnologia utilizată pentru acest proces de marcare este denumită textGrain. Aceste semne invizibile au rolul de a separa clar textele create de inteligența artificială de cele scrise de oameni, facilitând astfel verificarea sursei. Pentru a funcționa eficient, sistemul necesită utilizarea unui detector specializat, care va avea sarcina de a identifica marcajele textGrain integrate în documentele respective, oferind astfel un mecanism de trasabilitate a informației.
Deși OpenAI susține că textGrain este un sistem mai performant decât alte metode de marcare existente, compania a subliniat că nu poate garanta o recunoaștere perfectă în toate scenariile. Există riscul ca sistemul să nu depisteze corect textele generate de AI sau, dimpotrivă, să confunde textele scrise de oameni cu cele produse de mașină. Eficacitatea detectării depinde în mare măsură de lungimea textului, fiind mai dificilă în anumite condiții.
În cazul textelor scurte, rata de succes estimată pentru identificare este de aproximativ 80%. Situația devine și mai complexă atunci când textele produse de inteligența artificială sunt ulterior prelucrate de către utilizatori umani, fapt ce scade semnificativ șansele de detectare corectă. Pentru a sprijini comunitatea tehnologică, OpenAI va oferi sistemul de detectare sub licență open-source, permițând dezvoltatorilor și organizațiilor să îl testeze și să îl îmbunătățească.
Implementarea acestor măsuri de siguranță digitală vine într-un context în care reglementările europene devin tot mai stricte în privința tehnologiilor emergente. Uniunea Europeană pune un accent deosebit pe controlul riscurilor aduse de inteligența artificială, încercând să creeze un cadru juridic care să protejeze integritatea informației. Această mișcare a OpenAI reflectă necesitatea companiilor de tehnologie de a se alinia la standardele de transparență impuse de Bruxelles.
Evoluția reglementărilor în Uniunea Europeană reflectă o strategie de control asupra unor domenii critice, de la tehnologie la resurse și securitate. Bruxelles-ul continuă să propună măsuri pentru a gestiona extinderea rapidă a noilor tehnologii și a riscurilor asociate acestora. Această abordare este parte dintr-un efort mai larg de consolidare a normelor de siguranță și de protecție a spațiului informațional european în fața provocărilor digitale.