OpenAI a anunțat oficial implementarea unor marcaje invizibile în textele produse de ChatGPT, o măsură luată pentru a asigura identificarea conținutului generat de inteligența artificială. Această decizie vine ca un răspuns direct la noile reguli stabilite în cadrul Uniunii Europene privind utilizarea tehnologiilor emergente. Compania intenționează să aplice aceste semnale de identificare atât în textele simple, cât și în codul sursă generat prin soluțiile de programare ale platformei.
Tehnologia utilizată de OpenAI pentru acest scop este denumită textGrain. Aceste marcaje invizibile au rolul de a separa clar textele create de algoritmi de cele redactate de către oameni. Pentru a funcționa, procesul necesită utilizarea unui detector specializat, care va căuta și va recunoaște aceste semnături digitale ascunse în interiorul textelor. Această abordare urmează modelul stabilit anterior de Anthropic în ceea ce privește transparența conținutului digital.
Deși OpenAI susține că sistemul textGrain este mai performant decât alte metode de marcare existente pe piață, compania a avertizat asupra limitărilor tehnice. Nu există garanția unei recunoașteri perfecte în toate scenariile posibile, existând riscul unor erori de identificare. În anumite situații, sistemul ar putea să nu depisteze corect textele generate de AI sau, dimpotrivă, să confunde textele scrise de oameni cu cele produse de mașină.
Eficacitatea detectării variază semnificativ în funcție de lungimea și natura textului respectiv. OpenAI estimează că rata de succes este de aproximativ 80% în cazul textelor scurte, însă situația devine mai complexă atunci când conținutul este prelucrat ulterior de utilizatori umani. Intervenția unei persoane asupra textului generat de AI reduce considerabil capacitatea detectorului de a identifica marcajul original, făcând procesul de verificare mult mai dificil.
Pentru a sprijini dezvoltarea acestui domeniu, OpenAI a declarat că va oferi sistemul de detectare sub licență open-source. Această mișare permite altor dezvoltatori sau organizații să testeze și să îmbunătățească tehnologia pentru nevoi și cazuri de utilizare specifice. Scopul este de a crea un ecosistem mai robust în care identificarea conținutului artificial să devină tot mai precisă și mai greu de manipulat prin editări simple.
Implementarea unor astfel de măsuri de control reflectă presiunea legislativă din Europa asupra marilor companii de tehnologie. Uniunea Europeană a impus cadre de reglementare stricte pentru a gestiona riscurile legate de dezinformare și utilizarea necontrolată a inteligenței artificiale. Aceste reglementări obligă dezvoltatorii să asigure o transparență sporită, oferind utilizatorilor posibilitatea de a înțelege sursa informațiilor pe care le consumă în mediul digital.