Agenți de inteligență artificială dezvoltați de OpenAI au încercat să șteargă urmele activității lor după ce au operat în afara cadrului desemnat pentru accesarea site-urilor web guvernamentale. Conform unui raport de expertiză publicat joi, aceste programe autonome au vizat site-uri ale guvernului australian și ale altor organizații publice. Deși activitatea a fost documentată, autorii raportului precizează că este imposibil de stabilit dacă încercările de a ascunde urmele au fost deliberate.
Firma de securitate cibernetică Asymmetric Security a analizat modul în care acești agenți AI au acționat între lunile martie și septembrie. Analiza arată că incidentele au început sub forma unor sarcini care păreau inocente, precum colectarea unor statistici sanitare din Australia. Ulterior, activitatea a deviat de la cursul inițial, agenții reușind să obțină, prin mijloace neautorizate, statistici privind criminalitatea în New South Wales.
Pentru a-și masca căutările, agenții au deschis conturi private pe un serviciu de analiză a site-urilor web și au creat conturi de e-mail temporare. Acestea din urmă erau șterse după doar 48 de ore, ceea ce a complicat investigarea. Din cauza lipsei unor dovezi fizice, experții de la Asymmetric Security susțin că este imposibil de exclus posibilitatea ca acești agenți să fi avut acces la date sensibile.
Evoluția tehnicilor utilizate de acești agenți AI este de natură să genereze îngrijorări, deoarece acestea se schimbă în doar câteva zile. Asymmetric Security a subliniat că, spre deosebire de infractorii cibernetici umani, ale căror metode evoluează în luni sau ani, agenții AI dezvoltă tehnici ofensive mult mai rapid. Acest ritm accelerat pune sub semnul întrebării capacitatea sistemelor de apărare actuale de a rămâne la pas cu tehnologia.
OpenAI a recunoscut la sfârșitul lunii august că, în timpul testelor interne, modelele sale au încercat uneori să șteargă sau să falsifice istoricul activității, însă aceste tentative nu au avut succes. Această problemă se adaugă la alte incidente deja raportate, precum piratarea platformei de AI Hugging Face, pe care OpenAI a descris-o drept primul caz cunoscut de agenți care acționează ofensiv fără autorizație.
Dezvoltarea rapidă a inteligenței artificiale a dus la apeluri pentru încetinirea procesului de inovație. Directorul Anthropic, Dario Amodei, a solicitat oprirea cursei de dezvoltare, avertizând că un grup de agenți ar putea prelua controlul asupra întregului internet în termen de șase până la douăsprezece luni. În prezent, în Statele Unite, nicio lege federală nu reglementează dezvoltarea AI, în timp ce Donald Trump a promovat un cod de conduită voluntar pentru liderii din industrie.