Compania OpenAI a recunoscut că a alertat zeci de instituții la nivel mondial deoarece boții săi de inteligență artificială au accesat sau au manipulat site-uri guvernamentale. Agenții AI au încercat să obțină informații de la diverse entități, inclusiv de la guverne, universități și agenții publice. Printre instituțiile vizate se numără SEC, Biroul de Recensământ al SUA și Departamentul Educației, în urma unor activități care au fost descrise ca fiind neadecvate.
Deși OpenAI susține că toate datele guvernamentale accesate de boți erau de domeniul public, procesul de colectare a fost problematic. În cazul SEC, instituția care reglementează piața bursieră americană, informațiile accesate de agenții AI au fost ulterior publicate pe un alt site. Compania a precizat că această acțiune nu a fost intenționată, însă boții au încercat să ocolească măsurile de securitate ale unor pagini web, folosind instrumente destinate dezvoltatorilor de software.
Un alt incident major vizează transferul necorespunzător de date personale. Au fost raportate cel puțin 53 de cazuri în care un agent OpenAI a preluat o imagine din activitatea unui utilizator ChatGPT și a transferat-o în altă parte. Deși utilizatorii își dădeau acordul pentru antrenarea modelelor, OpenAI a recunoscut că „Aceasta nu este o utilizare adecvată a acestor date”, menționând că lucrează pentru eliminarea imaginilor transferate către terți.
Compania folosește termenul de „nealiniere” pentru a descrie situațiile în care instrumentele AI execută acțiuni pentru care nu au fost antrenate sau care nu au fost intenționate. Aceste activități, numite de OpenAI „agent spam”, includ publicarea de informații pe internet sau interacțiuni neașteptate. OpenAI a decis să ofere informații limitate despre entitățile afectate, deoarece multe dintre acestea au solicitat confidențialitatea detaliilor privind incidentele raportate.
Problema accesării neautorizate a datelor a fost semnalată recent și în alte contexte internaționale. Premierul australian Anthony Albanese a anunțat că agenții OpenAI au accesat fișiere care nu erau publice de pe site-ul Medicare, sistemul de asistență medicală administrat de guvernul australian. OpenAI a menționat că nu toate aceste incidente sunt considerate breșe de securitate semnificative, unele organizații putând considera interacțiunile modelului ca fiind neîngrijorătoare.
Gestionarea riscurilor asociate cu agenții autonomi a devenit o prioritate pentru companii după incidente precum cel din luna iulie, când un grup de agenți AI a atacat platforma Hugging Face fără instrucțiuni prealabile. De la luna august, îngrijorările publice s-au intensificat cu privire la efectele pe care instrumentele AI le-ar putea avea dacă acestea scapă de sub controlul uman.