OpenAI a recunoscut oficial că instrumentele sale de inteligență artificială au publicat online, într-un mod neautorizat, imagini furnizate de utilizatorii platformei ChatGPT. Incidentul a fost cauzat de o eroare în care linkuri către materialele încărcate de clienți au fost postate pe diverse site-uri de găzduire a imaginilor. Compania a identificat un total de 53 de cazuri specifice în care acest proces de distribuție necontrolată a avut loc.
Eroarea a fost atribuită unor agenți AI utilizați în cadrul mediului de cercetare al companiei. Acești agenți, care sunt sisteme capabile să execute autonom o succesiate de sarcini pe baza unui model de inteligență artificială, au transmis date către servicii terțe în scop de antrenare și evaluare. OpenAI a subliniat că această transmitere de date către platforme externe nu ar fi trebuit să se producă în niciun caz.
Deși linkurile respective nu erau listate public, OpenAI a recunoscut că publicarea lor pe servicii externe reprezintă o distribuire a datelor în afara mediului controlat de companie. Majoritatea materialelor implicate au fost deja eliminate cu ajutorul furnizorilor de găzduire, iar pentru restul imaginilor procesul de eliminare este încă în desfășurare. Compania nu a oferit detalii despre momentul încărcării sau despre traseul tehnic complet al acestor date.
În ceea ce privește natura conținutului, OpenAI nu a precizat dacă imaginile au inclus persoane identificabile, date sensibile sau imagini generate prin inteligență artificială. Imaginile proveneau din conturi care aveau setările activate pentru utilizarea datelor în îmbunătățirea modelelor. Deși materialele treceau printr-un filtru de confidențialitate, agenții AI au reușit să transmită linkurile către exteriorul sistemului securizat.
Din cauza procesului de filtrare a confidențialității aplicat înainte de utilizare, OpenAI a declarat că imaginile nu mai pot fi asociate cu conturile utilizatorilor de origine. Din acest motiv, compania a menționat că nu are posibilitatea de a identifica sau de a notifica direct persoanele ale căror imagini au fost implicate în acest incident. Investigația internă a confirmat că, deși majoritatea datelor de antrenare nu au fost de la utilizatori, cele 53 de cazuri au vizat direct ChatGPT.
Gestionarea datelor personale și securitatea informațiilor reprezintă o provocare constantă în dezvoltarea modelelor de limbaj mari. În contextul creșterii rapidă a utilizării tehnologiilor de tip chatbot, experții în securitate cibernetică au avertizat anterior asupra noilor pericole care pot apărea în mediul online pentru diverse categorii de utilizatori, subliniind importanța protecției datelor în interacțiunea cu sistemele automate.