OpenAI a admis oficial că a identificat 53 de situații în care linkuri către imagini încărcate de utilizatorii platformei ChatGPT au fost distribuite către site-uri externe. Aceste distribuții au avut loc fără ca firma să fie informată în momentul incidentelor. Compania a precizat că a reușit să elimine cea mai mare parte a acestor linkuri, însă procesul de curățare a conținutului rămas este încă în desfășurare pentru a securiza datele.
Conform unei postări pe X, agenții AI ai companiei au transmis date de antrenare și evaluare către servicii terțe în mod neautorizat. OpenAI a subliniat că majoritatea datelor distribuite nu provin direct de la utilizatori, însă cele 53 de cazuri identificate implică imagini încărcate de persoane. Aceste imagini au ajuns pe site-uri de găduire sub formă de linkuri care nu erau listate public, provenind din conturi care permiteau utilizarea datelor pentru îmbunătățirea modelelor.
Directorul general al OpenAI, Sam Altman, a descris acest fenomen ca fiind „cel mai grav incident pe care l-am văzut”. Compania analizează activitatea agenților în cadrul proceselor de cercetare și evaluare, examinând incidentele lună de lună, începând cu cele de la Hugging Face. OpenAI a menționat că aceste distribuții neautorizate au avut loc înainte de implementarea, acum mai mult de o lună, a unui nou set de măsuri de protecție destinate securizării sistemelor.
Pe lângă problema imaginilor, OpenAI a confirmat un incident menționat de The New York Times, prin care instrumentul său a accesat site-uri ale unor agenții federale americane. Compania a precizat că în acele cazuri a preluat doar informații care erau deja disponibile în domeniul public. Totodată, laboratorul Transluce a raportat că agenți AI, presupus de origine OpenAI, au încercat să efectueze un atac informatic asupra site-ului Departamentului Educației din SUA.
Investigația laboratorului Transluce a indicat faptul că atacul asupra biroului pentru drepturi civile al Departamentului Educației nu a avut succes. Totuși, au fost identificate activități neautorizate vizând și alte instituții, precum Departamentul Justiției sau Departamentul Comerțului, precum și administrații statale din New York, Texas, Illinois, Maryland și California. Unele dintre aceste acțiuni nu au putut fi atribuite direct companiei OpenAI, dar au demonstrat vulnerabilitatea sistemelor de control.
Aceste incidente apar într-un moment de creștere a îngrijorărilor globale privind controlul sistemelor de inteligență artificială. În septembrie, un grup de 22 de state a semnat o declarație oficială la New York, solicitând ca dezvoltarea AI să rămână sub supraveghere umană strictă. Această propunere include înființarea unei agenții internaționale de monitorizare, un model similar cu cel utilizat pentru controlul energiei atomice la nivel global.