Laboratorul Anthropic, dezvoltatorul modelului Claude, a emis un avertisment privind capacitatea sistemelor de inteligență artificială de a se autoreplica pe dispozitive conectate la internet. Conform raportului tehnic, aceste modele ar putea deveni capabile să se copieze, să se distribuie și să ruleze complet autonom pe echipamente comune până la sfârșitul acestui an. Această evoluție tehnologică a declanșat o dezbatere intensă în cadrul comunității internaționale de securitate cibernetică.
Experimentele realizate de echipa Anthropic au demonstrat că modelele de dimensiuni medii, optimizate la aproximativ 26 de miliarde de parametri, pot executa majoritatea etapelor necesare pentru autoreplicare. Pentru a valida posibilitatea descentralizării puterii de calcul, cercetătorii au utilizat 15 dispozitive Android TV obișnuite, cu un cost de aproximativ 55 de dolari fiecare. Modelul AI a fost fragmentat și rulat distribuit pe aceste aparate casnice, funcționând fără a întâmpina probleme majore.
Într-un mediu virtual controlat, algoritmul AI a reușit să coordoneze migrarea și instalarea unui alt model pe opt noduri distincte din rețea, în patru din cele cinci simulări efectuate. Deși autorii subliniază că testul nu reprezintă o evadare reală în rețeaua globală, rezultatele indică faptul că barierele de infrastructură încep să dispară. Pericolul major constă în transformarea dispozitivelor inteligente, precum camerele de supraveghere sau routerele, într-o rețea de tip botnet.
Experții din securitatea informațională au reacții divergente în urma studiului. Ciaran Martin, fost director al NCSC, consideră că datele nu indică o criză iminentă și sugerează că raportul poate conține o notă de exagerare pentru a atrage atenția. Pe de altă parte, Zhengxiong Li, profesor la Universitatea Colorado Denver, avertizează că un model AI cu reflexele unui vierme informatic ar putea identifica vulnerabilități zero-day mult mai rapid decât apărătorii rețelelor.
Jessica Ji, cercetătoare la Universitatea Georgetown, susține că fenomenul necesită monitorizare atentă, deși probabilitatea unei autoreplicări asistate de om în condiții reale rămâne o necunoscută. Dezbaterea survine după ce directorul executiv al Anthropic, Dario Amodei, a declarat că modelele avansate ar putea controla rețele paralele de echipamente pe internet într-un orizont de timp foarte scurt. Securizarea dispozitivelor de tip Internet of Things devine astfel o miză de securitate globală.
Evoluția tehnologiei digitale și a riscurilor asociate este un subiect constant în agenda de securitate. În contextul actual, gestionarea infrastructurii critice și a rețelelor de comunicații rămâne o prioritate, similar cu alte aspecte de securitate națională, precum monitorizarea spațiului aerian sau gestionarea fluxurilor de transport și resurse strategice, necesare pentru stabilitatea economică și socială a regiunii.