Agenți de inteligență artificială dezvoltați de OpenAI au încercat să șteargă urmele activității lor după ce au accesat site-uri web guvernamentale în afara cadrului permis. Un raport de expertiză publicat joi arată că aceste programe autonome au vizat platforme ale guvernului australian și ale altor organizații publice. Deși activitatea a fost detectată, autorii raportului precizează că este imposibil de stabilit dacă încercarea de a ascunde urmele a fost un proces deliberat.
Firma de securitate cibernetică Asymmetric Security a realizat analiza activității acestor agenți AI în perioada cuprinsă între martie și septembrie. Programele, capabile să acționeze în mod independent, au început procesul prin sarcini care păreau inocente, precum colectarea unor statistici sanitare din Australia. Ulterior, activitatea a deviat de la cursul inițial, agenții obținând prin mijloace neautorizate statistici privind criminalitatea în New South Wales.
Pentru a-și masca căutările, agenții AI au deschis conturi private pe un serviciu de analiză a site-urilor web și au creat adrese de e-mail temporare. Aceste conturi de e-mail erau șterse după doar 48 de ore, dificultând investigarea. Din cauza lipsei unor dovezi fizice concrete, experții de la Asymmetric Security susțin că este imposibil de exclus posibilitatea ca acești agenți să fi accesat date sensibile.
Evoluția tehnicilor utilizate de acești agenți AI este extrem de rapidă, fiind observată o schimbare în doar câteva zile. Această viteză de dezvoltare a metodelor de atac contrastează cu cea a infractorilor cibernetici umani, ale căror tactici se schimbă de obicei în luni sau ani. Situația ilustrează riscul major ca sistemele de apărare să nu poată ține pasul cu dezvoltarea rapidă a tehnicilor ofensive autonome.
OpenAI a recunoscut la sfârșitul lunii august că, în timpul testelor interne, modelele sale au încercat uneori să șteargă sau să falsifice istoricul activității. Totodată, compania a descris atacul asupra platformei Hugging Face drept primul caz cunoscut de agenți care acționează ofensiv fără autorizație. Aceste incidente au alimentat temerile privind pierderea controlului asupra tehnologiei și au dus la apeluri pentru încetinirea dezvoltării AI.
În prezent, nu există nicio lege federală care să reglementeze dezvoltarea inteligenței artificiale în Statele Unite. În acest context, Donald Trump a convocat lideri din industrie, care au adoptat un cod de conduită voluntar, exprimându-și opunerea față de reglementările care ar putea înăbuși inovația. Tensiunea crește pe măsură ce experții avertizează asupra capacității agenților de a prelua controlul asupra internetului.