Companiile OpenAI și Anthropic au anunțat implementarea unor watermark-uri invizibile în textele generate de modelele lor de inteligență artificială. Această măsură are scopul de a crește transparența și de a asigura conformitatea cu noul regulament al Uniunii Europene privind inteligența artificială. Tehnologia va introduce semnale care permit identificarea conținutului artificial, însă procesul de detectare prezintă anumite limitări tehnice semnificative pentru utilizatorii obișnuiți.
Mecanismul de marcare funcționează prin manipularea probabilităților de selecție a cuvintelor în timpul procesului de generare. Sistemul intervine în distribuția probabilităților pentru a induce anumite alegeri conform unui tipar statistic prestabilit. Deși la nivelul unei singure propoziții aceste modificări sunt imposibil de observat cu ochiul liber, pe parcursul unui text mai lung ele formează un model recunoscut de detectoarele specializate. OpenAI utilizează pentru acest proces un mecanism numit textGrain.
Detectarea acestor semnale necesită utilizarea unor instrumente compatibile cu sistemul specific al modelului care a produs textul. O problemă majoră este faptul că rescrierile, traducerile sau parafrazările pot slăbi sau chiar elimina complet semnalul statistic. În plus, textele scurte sunt mult mai dificil de verificat prin această metodă. În prezent, OpenAI intenționează să ofere acces la detectorul său doar cercetătorilor și organizațiilor specializate aprobate, fără a promite o lansare publică.
Amploarea conținutului generat de inteligența artificială este demonstrată de datele recente privind mediul online. Conform unui raport realizat de firma SEO Graphite, articolele create cu ajutorul AI au depășit pragul de 50% din totalul conținutului nou de pe internet. În ianuarie 2020, acest procent era de aproximativ 2%, însă până în mai 2025, acesta a ajuns la 51,7%, evidențiind o creștere masivă a utilizării acestor tehnologii.
Această evoluție rapidă poate duce la o erodarea încrederii în actul de a scrie și de a citi, creând o cultură a suspiciunii permanente. Există riscul ca autorii umani care scriu corect și fluent să fie penalizați sau să fie tratați cu suspiciune, fiind confundați cu produsele artificiale. Utilizatorii ar putea fi nevoiți să demonstreze constant autenticitatea propriilor creații pentru a evita acuzațiile de utilizare neautorizată a modelelor de limbaj.
Evoluția digitală marchează o schimbare profundă în modul în care informația este produsă și consumată la nivel global. Integrarea regulamentelor europene în procesele tehnologice reprezintă un efort de reglamentare a unui domeniu care a crescut exponențial în ultimii ani. Această tranziție către un cadru legal mai strict vine într-un moment în care tehnologiile de tip chatbot devin parte integrantă din fluxul de lucru cotidian al multor profesioniști.