Compania americană OpenAI a anunțat implementarea unei noi tehnologii menite să identifice conținutul generat de inteligența artificială. Această noutate vizează atât textele simple produse de ChatGPT, cât și codul informatic generat prin soluțiile de programare ale companiei. Măsura urmează o direcție similară cu cea adoptată anterior de Anthropic, încercând să stabilească o barieră clară între produsele digitale și munca realizată de oameni.
Sistemul nou de identificare este numit textGrain și funcționează prin utilizarea unor marcaje invizibile inserate în text. Scopul acestor watermark-uri este de a permite utilizarea unui detector specializat, care să recunoască amprenta digitală a inteligenței artificiale la celălalt capăt al procesului. OpenAI susține că tehnologia textGrain este mai performantă decât alte sisteme de marcare existente pe piață, deși nu oferă garanții pentru o recunoaștere absolută în toate scenariile.
Eficacitatea sistemului poate varia în funcție de lungimea și natura textului procesat. OpenAI estimează că, în cazul textelor scurte, rata de succes a identificării este de aproximativ 80%. Totuși, situația devine mult mai complexă atunci când textele produse de AI sunt ulterior prelucrate de către oameni, fapt ce duce la o scădere semnificativă a ratei de succes a detectării marcajelor invizibile.
Există riscul ca sistemul să nu depisteze corect textele generate de inteligența artificială sau, invers, să confunde textele scrise de oameni cu cele produse de mașină. Pentru a extinde utilitatea tehnologiei, OpenAI a declarat că va oferi sistemul de detectare sub licență open-source. Această decizie permite dezvoltatorilor și organizațiilor externe să testeze și să îmbunătățească instrumentul pentru diverse cazuri de utilizare specifice.
Implementarea unor astfel de metode de marcare digitală reprezintă o încercare de a reglementa utilizarea conținutului sintetic în spațiul informațional. Pe măsură ce modelele de limbaj devin tot mai sofisticate, nevoia de a distinge între autorii umani și algoritmi crește. Această evoluție tehnologică vine într-un context în care integrarea inteligenței artificiale în procesele de redactare și programare devine tot mai frecventă la nivel global.
Dezvoltarea unor instrumente de verificare a autenticității conținutului este o componentă esențială în gestionarea riscurilor legate de dezinformare și manipularea datelor. În cadrul ecosistemului tehnologic actual, companiile de dezvoltare a modelelor de limbaj sunt supuse unei presiuni constante pentru a asigura transparența. Această mișcare a OpenAI reflectă necesitatea de a crea standarde de siguranță pentru utilizatorii care depind de soluțiile de inteligență artificială.