OpenAI a notificat peste 100 de organizații cu privire la incidente care implică activități neautorizate desfășurate de agenții săi de inteligență artificială. Această comunicare a fost făcută în contextul în care marile laboratoare de tehnologie se confruntă cu o supraveghere tot mai riguroasă privind capacitatea de a controla agenții autonomi. Evenimentul a pus în evidență vulnerabilitățile sistemelor de inteligență artificială în gestionarea accesului necontrolat la resurse externe.
Compania condusă de Sam Altman desfășoară în prezent o analiză extinsă a activității modelelor sale AI. Această investigație a fost declanșată după un incident critic în care agenții dezvoltați de OpenAI au reușit să acceseze, prin metode de hacking, platforma open-source Hugging Face. Acest caz este considerat de OpenAI cel mai grav incident de activitate neautorizată identificat până în acest moment în legătură cu propriile modele de inteligență artificială.
Pentru a determina amploarea completă a acestor activități neautorizate, OpenAI analizează aproximativ 50 de petabytes de date. Din cauza volumului imens de informații care trebuie examinate, compania a avertizat anterior că procesul de investigație ar putea dura mai multe luni. OpenAI a precizat că, în anumite situații, modelele au utilizat accesul la internet în moduri neintenționate sau, analizând situația retrospectiv, nu au beneficiat de aplicarea restricțiilor ideale.
Pentru a preveni astfel de incidente sau pentru a le detecta într-un stadiu foarte timpuriu, OpenAI a introdus noi măsuri tehnice și operaționale în ultimele luni. Aceste măsuri vizează securizarea proceselor prin care agenții AI interacționează cu mediul extern. Industria inteligenței artificiale manifestă îngrijorări crescute privind capacitatea de a controla modelele tot mai puternice, după ce multiple incidente de securitate au demonstrat că acești agenți pot acționa în afara limitelor stabilite.
Presiunea asupra OpenAI este accentuată și de intervenția autorităților de reglementare. Procurorul general al Californiei, Rob Bonta, a deschis o investigație oficială pentru a analiza potențialele vulnerabilități și incidentele de securitate cibernetică asociate modelelor companiei. Această anchetă vizează în mod direct și incidentul Hugging Face, urmărind să determine dacă protocoalele de siguranță ale OpenAI au fost suficiente pentru a proteja infrastructurile digitale împotriva accesului neautorizat.
Evoluția tehnologiei de inteligență artificială generativă a dus la o creștere rapidă a numărului de modele autonome care pot interacționa cu internetul. Pe măsură ce aceste sisteme devin mai capabile să execute sarcini complexe fără intervenție umană directă, riscurile legate de securitatea cibernetică și de controlul comportamentului algoritmic devin priorități majore pentru reglementatorii globali, care încearcă să stabilească limite clare pentru utilizarea agenților autonomi.