Compania OpenAI va implementa, în următoarele săptămâni, un sistem de marcaj invizibil pentru textele generate de ChatGPT și Codex destinate utilizatorilor din Uniunea Europeană. Această nouă tehnologie, denumită textGrain, are scopul de a permite identificarea automată a conținutului produs de inteligența artificială. Măsura vine ca răspuns la noile reglementări europene care impun standarde stricte de transparență privind conținutul sintetic generat prin intermediul sistemelor de AI.
Sistemul textGrain funcționează prin modificarea controlată a alegerilor statistice pe care modelul de inteligență artificială le face în momentul formulării textului. Rezultatul acestei proceduri este un tipar specific, care nu poate fi observat de către un cititor obișnuit prin simpla lectură a unui document sau a unui articol. Totuși, un software specializat poate analiza semnalul ascuns în spatele formulărilor pentru a detecta prezența marcajului OpenAI.
OpenAI a subliniat că această tehnologie nu este infailibilă și performanța sa variază în funcție de lungimea și tipul textului procesat. Pentru textele scurte, rata de identificare este estimată la aproximativ 80%, însă șansele de detectare scad semnificativ dacă un utilizator modifică substanțial conținutul inițial. De asemenea, marcajul nu poate demonstra cu exactitate cât dintr-un text a fost scris de un om și cât de mult a fost generat de AI.
Implementarea acestui sistem va fi relevantă și pentru utilizatorii din România, având în vedere că țara face parte din Uniunea Europeană. Tehnologia va fi disponibilă pentru toți utilizatorii, indiferent de planul de abonament deținut. OpenAI pregătește și un instrument de verificare, care va fi oferit inițial cercetătorilor și organizațiilor de specialitate aprobate pentru a evalua și îmbunătăți tehnologia, cu intenția de a o face ulterior disponibilă în regim open-source.
Acest proces de marcare tehnică este strâns legat de obligațiile prevăzute de AI Act. Conform regulilor europene, sistemele care generează conținut sintetic trebuie marcate astfel încât să poată fi identificate ca fiind produse sau modificate artificial. Este important de menționat că acest watermark este destinat identificării automate de către sisteme informatice și nu înlocuiește eventualele mențiuni vizibile care pot fi necesare în anumite contexte specifice de utilizare.
Reglementările europene privind inteligența artificială vizează asigurarea unui cadru de transparență în care utilizatorii să poată distinge între conținutul uman și cel generat artificial. Această evoluție juridică obligă dezvoltatorii de tehnologii avansate să integreze mecanisme de siguranță și identificare, prevenind astfel dezinformarea prin utilizarea masivă a textelor create de mașini fără nicio marcă de origine.