OpenAI va începe implementarea unor marcaje invizibile în textele generate de modelele ChatGPT și Codex în cadrul Uniunii Europene. Această nouă tehnologie, denumită textGrain, va fi introdusă treptat în următoarele săptămâni pentru utilizatorii tuturor planurilor de abonament. Scopul principal al acestei măsuri este de a permite sistemelor informatice să identifice materialele create sau manipulate de inteligența artificială, asigurând astfel o transparență sporită a conținutului digital.
Tehnologia textGrain nu utilizează caractere ascunse sau spații invizibile pe care un cititor uman să le poată observa. În schimb, OpenAI modifică subtil modul în care modelul selectează variantele de cuvinte și fragmente de cuvinte din posibilitățile statistice disponibile. Această metodă creează un tipar specific în alegerile modelului, un tipar care poate fi identificat ulterior de către un detector specializat. Totuși, sistemul nu poate demonstra autoratul unui text, ci indică doar prezența unui semnal asociat unui model OpenAI.
Eficacitatea detectorului depinde în mare măsură de lungimea textului analizat. La o rată de rezultate fals pozitive de 1%, sistemul a identificat marcajul în aproximativ 80% din textele de 200 de tokeni, însă rata de succes a crescut la 95% pentru textele de 400 de tokeni. Rezultatele sunt însă mai slabe în cazul domeniilor precum matematica, unde există puține variante naturale de formulare. De asemenea, modificarea textului de către oameni reduce detectarea: înlocuirea a 25% dintre cuvinte cu sinonime a scăzut rata de identificare la doar 17%.
Accesul la instrumentul de detecție va fi oferit inițial doar cercetătorilor și organizațiilor specializate care sunt aprobate de către companie. OpenAI intenționează să pună tehnologia textGrain la dispoziție în regim open-source pentru a permite dezvoltatorilor și cercetătorilor să contribuie la îmbunătățirea sistemului. În ceea ce privește API-ul, clienții din întreaga lume vor putea activa opțional acest watermark pentru anumite modele, însă funcția va rămâne dezactivată implicit pentru acești utilizatori de serviciu.
Implementarea acestor măsuri de siguranță este strâns legată de reglementările europene privind inteligența artificială. OpenAI a subliniat că tehnologia de marcare se află încă într-o etapă timpurie și poate produce atât rezultate fals pozitive, cât și rezultate fals negative. Compania a avertizat că performanța observată în testele de laborator nu garantează aceeași eficiență în situațiile reale de utilizare, unde textele pot fi modificate semnificativ de către utilizatori înainte de a fi publicate.
Această inițiativă vine în contextul AI Act, regulamentul european care impune obligații de transparență pentru furnizorii de sisteme de inteligență artificială generativă. Conform articolului 50 din acest regulament, materialele generate trebuie să poată fi marcate într-un format lizibil de sisteme informatice, în măsura în care este fezabil tehnic. Obligațiile de marcare și detectare a conținutului generat de AI se aplică începând cu data de 2 august 2026, cu o perioadă de tranziție până la 2 decembrie 2026.