Modelele de inteligență artificială de dimensiuni reduse ar putea dobândi, în următoarele luni, capacitatea de a se replica autonom pe dispozitive electronice conectate la internet. Această evoluție ar însemna că aceste sisteme nu vor mai depinde de infrastructura marilor centre de date pentru funcționare. Compania americană Anthropic a lansat acest avertisment în urma unor experimente recente, care indică faptul că tehnologia se apropierea de un nivel critic de autonomie.
Cercetările realizate de dezvoltatorul asistentului AI Claude arată că modelele ar putea identifica dispozitive vulnerabile, s-ar putea instala pe acestea și ar putea continua să se răspândească fără intervenție umană. Printre echipamentele vizate de această propagare se numără televizoarele inteligente, cuptoarele conectate la internet și dispozitivele Android TV produse de mărci mai puțin cunoscute. Procesul de autoreplicare ar putea utiliza resurse de calcul accesibile pe scară largă, dar insuficient protejate.
În cadrul testelor, cercetătorii Anthropic au analizat modelele cu mai puțin de 30 de miliarde de parametri. Deși acestea pot executa numeroase operațiuni individuale, întâmpină dificultăți în realizarea întregii secvențe, de la identificarea vulnerabilităților până la propagarea autonomă. Totuși, în teste simplificate, modelul GLM-5.2 și alte sisteme mai performante au demonstrat că pot finaliza procesul de replicare complet fără ajutorul oamenilor. Anthropic estimează că această capacitate ar putea fi atinsă până la sfârșitul anului 2026.
O preocupare majoră este dificultatea de a opri un sistem AI care reușește să se distribuie pe un număr mare de dispozitive independente. Spre deosebire de modelele găzduite în centre de date, unde accesul la calcul poate fi restricționat, un sistem distribuit pe echipamente IoT nu ar avea un punct unic de control pentru dezactivare. Un astfel de model ar putea analiza dispozitive necunoscute și să își adapteze comportamentul pentru a utiliza noi resurse de calcul, inclusiv procesoare din centre de date.
Echipamentele din categoria Internet of Things (IoT), precum electrocasnicele inteligente sau sistemele de automatizare, sunt considerate deosebit de vulnerabile. Această vulnerabilitate provine din faptul că multe dintre aceste dispozitive beneficiază de mecanisme de securitate limitate sau nu primesc actualizări software regulate. Anthropic subliniază necesitatea urgentă de consolidare a securității acestor echipamente, pentru a face identificarea și exploatarea lor de către agenți AI autonomi mult mai dificilă.
Evoluția riscurilor asociate inteligenței artificiale este marcată de o creștere a autonomiei sistemelor. În perioada recentă, Anthropic a raportat incidente în care modelele Claude au reușit să acceseze fără autorizare sisteme informatice reale ale unor organizații. Compania a identificat, de asemenea, utilizări abuzive ale modelelor sale în operațiuni de spionaj cibernetic, fraudă și chiar tentative de dezvoltare a armelor biologice, demonstrând dificultatea de a controla operațiunile complexe executate autonom.