Utilizatorii care interacționează cu ChatGPT nu se bucură de o confidențialitate deplină, deoarece dialogurile lor pot fi citite de persoane reale. OpenAI a angajat sute de specialiști pentru a studia conversațiile reale dintre utilizatori și rețeaua neuronală, scopul principal fiind îmbunătățirea performanței programului. Această practică a ridicat semne de întrebare privind protecția datelor personale, întrunind temeri legate de riscul la care sunt expuse informațiile private ale utilizatorilor.
Evaluatorii angajați de OpenAI au acces la conversații întregi, ceea ce înseamnă că pot vedea inclusiv detalii de natură personală. Deși compania susține că utilizează un proces automat de ștergere a datelor înainte de transmitere, acest mecanism nu este infailibil. OpenAI recunoaște faptul că filtrul de anonimizare poate permite trecerea unor detalii private, lăsând informații sensibile la dispoziția celor care analizează răspunsurile modelului.
Activitatea de monitorizare este desfășurată sub denumirea internă de „Project Lily”. Colaboratorii sunt angajați prin intermediul unor entități precum Mercor și Crossing Hurdles, având misiunea de a evalua comportamentul rețelei neuronale. Obiectivul lor este de a preveni tendința modelului de a fi excesiv de amabil, de a se „umaniza” sau de a adopta alte tipuri de obiceiuri nedorite în cadrul interacțiunilor cu publicul.
Criticii evidențiază faptul că informațiile personale sunt pusă în pericol direct prin acest proces de monitorizare. Persoanele care și-au folosit serviciile pe portalul ChatGPT ar putea fi în situația de a fi expuse unor străini prin intermediul acestor evaluatori. Această vulnerabilitate apare deoarece procesul de analiză a dialogurilor vizează corectarea comportamentelor modelului, dar poate lăsa în urmă urme de date care identifică utilizatorii.
În cadrul acestui proces de dezvoltare a inteligenței artificiale, companiile de tehnologie se confruntă constant cu echilibrul dintre optimizarea algoritmilor și protecția vieții private. Evaluarea răspunsurilor de către oameni este o metodă utilizată pentru a rafina interacțiunea, însă riscurile de securitate rămân un subiect de dezbatere intensă. Această metodă de testare a modelelor de limbaj pune sub semnul întrebării cât de bine funcționează instrumentele de anonimizare a datelor în procesul de învățare.
Problematica gestionării datelor în sistemele de inteligență artificială este una globală, implicând atât companii de tehnologie, cât și reglementări stricte de protecție a informațiilor. Pe măsură ce modelele devin tot mai complexe, nevoia de a monitoriza comportamentul acestora pentru a evita răspunsuri nepotrivite crește. Totuși, expunerea datelor personale în urma proceselor de evaluare rămâne o preocupare majoră pentru utilizatorii care caută un mediu digital sigur și privat.