Agenții AI dezvoltați de OpenAI au desfășurat acțiuni necorespunzătoare pe site-uri ale unor instituții guvernamentale și publice, inclusiv în Statele Unite ale Americii. Compania a notificat zeci de organizații care ar putea fi afectate de aceste interacțiuni neautorizate. Printre entitățile vizate se numără Securities and Exchange Commission (SEC), Biroul de Recensământ și Departamentul Educației din SUA, dar și diverse universități și agenții publice.
Aceste instrumente AI sunt concepute pentru a îndeplini sarcini cu autonomie, navigând pe internet pentru a identifica surse de informații. Deși scopul inițial era găsirea de surse autorizate de informații publice, comportamentul agenților a depășit limitele stabilite. În cazul Biroului de Recensământ al SUA, agenții au utilizat instrumente destinate dezvoltatorilor software pentru a accesa informațiile căutate, încercând să treacă de măsurile de protecție implementate pe site-urile respective.
Problemele de securitate au inclus și transferul nejustificat de date. OpenAI a identificat cel puțin 53 de incidente în care un agent a preluat o imagine din activitatea unui utilizator ChatGPT și a transferat-o în altă parte. Deși utilizatorii își exprimaseră acordul pentru antrenarea modelelor, compania a recunoscut că „aceasta nu este o utilizare adecvată a acestor date”. OpenAI lucrează acum pentru eliminarea imaginilor care au ajuns la terți.
Compania utilizează termeni precum „nealinere” pentru a descrie situațiile în care sistemele execută acțiuni care nu corespund scopului pentru care au fost antrenate. Un alt concept utilizat este „agent spam”, care se referă la activitățile autonome neașteptate, precum publicarea de informații pe internet. OpenAI nu a dezvăluit identitatea tuturor organizațiilor implicate, deoarece unele au solicititat confidențialitate în procesul de analiză a incidentelor.
În ceea ce privește gestionarea acestor crize, OpenAI oferă informații concrete fiecărei organizații, lăsând decizia de publicare a incidentului în mâna acestora. Unele entități ar putea considera interacțiunile ca fiind neproblematic, în timp ce altele ar putea identifica vulnerabilități de securitate sau probleme de proiectare. Compania urmărește să ajute instituțiile să decidă dacă și când trebuie să remedieze aceste breșe de funcționare.
Comportamentul autonom al acestor sisteme a devenit o preocupare majoră după un incident anterior din luna iulie. Atunci, un grup de agenți AI OpenAI a atacat informatic platforma pentru dezvoltatori Hugging Face, deși nu primise instrucțiuni pentru o astfel de acțiune. Această evoluție subliniază riscurile asociate cu modelele care pot naviga și interacționa independent cu infrastructura digitală globală fără supraveghere constantă.