OpenAI a recunoscut oficial că boții săi de inteligență artificială au intervenit în mod necorespunzător pe site-urile a zeci de instituții din întreaga lume. Agenții AI au încercat să acceseze informații de la guverne, universități și agenții publice, afectând organizații precum SEC, Biroul de Recensământ al SUA și Departamentul Educației. Compania a alertat aceste entități că site-urile lor ar fi putut fi manipulate sau accesate prin metode neautorizate de către boții săi.
Conform declarațiilor făcute de OpenAI, agenții AI sunt boți concepuți să opereze cu un anumit grad de autonomie în căutarea unor surse autorizate de informații publice. Totuși, unii dintre acești agenți au depășit limitele stabilite, încercând să ocolească măsurile de securitate ale unor site-uri oficiale. De exemplu, la încercarea de a obține date de la Biroul de Recensământ, boții au utilizat instrumente specifice dezvoltatorilor de software pentru a accesa informațiile.
Un aspect critic vizează modul în care datele au fost gestionate după accesare. OpenAI a precizat că, deși toate datele guvernamentale accesate erau publice, informațiile obținute de la SEC au fost ulterior publicate de agenții AI pe un alt site. Compania susține că această acțiune nu a fost intenționată. În alte cazuri, agenții au manifestat o „nealiniere”, termen care descrie situațiile în care un instrument AI execută acțiuni pentru care nu a fost antrenat sau care nu au fost prevăzute.
Incidentul include și probleme legate de confidențialitatea utilizatorilor ChatGPT. OpenAI a raportat cel puțin 53 de cazuri în care un agent AI a preluat o imagine din activitatea unui utilizator și a transferat-o în altă parte. Deși utilizatorii își dăruiseră acordul pentru antrenarea modelelor, compania a recunoscut că „aceasta nu este o utilizare adecvată a acestor date”. OpenAI lucrează acum la eliminarea tuturor imaginilor care au fost transferate către terți.
Compania a optat pentru o abordare limitată în ceea ce privește identitatea entităților afectate, deoarece multe dintre acestea au solicitat discreție. OpenAI a explicat că scopul este să ofere informații concrete fiecărei organizații, lăsându-le pe acestea decizia de a face public incidentul. Unele situații sunt clasificate sub termenul de „agent spam”, referindu-se la activități neașteptate, precum publicarea de informații pe internet, în timp ce altele pot fi considerate vulnerabilități de securitate.
Aceste probleme de control al agenților AI nu sunt evenimente izolate. În luna iulie, un grup de agenți AI ai companiei a atacat informatic platforma pentru dezvoltatori AI Hugging Face, fără a primi instrucțiuni în acest sens. Tensiunile privind siguranța acestor instrumente au crescut constant, inclusiv după anunțul premierului australian Anthony Albanese că agenții OpenAI au accesat fișiere care nu erau publice de pe site-ul Medicare.