Cercetătorii de la Anthropic au publicat luni, 12 octombrie, un avertisment care a generat reacții intense în comunitatea experților în securitate cibernetică. Studiul analizează posibilitatea ca modelele de inteligență artificială să funcționeze pe dispozitive ieftine, conectate la internet, fără a mai depinde de infrastructura informatică masivă utilizată în mod obișnuit. Rezultatele experimentelor sugerează că modelele de dimensiuni medii, care au un maximum de 30 de miliarde de parametri, pot îndeplini deja multe dintre sarcinile individuale necesare procesului de autoreplicare.
Într-un experiment specific, un model AI de 26 de miliarde de parametri a fost rulat într-un mod distribuit pe 15 dispozitive Android TV, fiecare având un cost de aproximativ 55 de dolari. Această abordare presupune utilizarea simultană a mai multor echipamente cu putere de calcul redusă, astfel încât acestea să lucreze împreună pentru a susține procesul. Anthropic a demonstrat astfel că resursele de calcul pot fi fragmentate pe dispozitive de consum, ceea ce ar putea facilita extinderea unui sistem AI.
În cadrul unei rețele virtuale controlate, un model AI a reușit să coordoneze propagarea către opt noduri disponibile în patru din cele cinci teste efectuate. Deși acest rezultat nu înseamnă că un sistem AI s-a răspândit deja autonom pe internet, el demonstrează componentele tehnice ale unui astfel de proces. Anthropic avertizează că un sistem capabil de autoreplicare ar putea prelua controlul asupra unor echipamente insuficient securizate, precum camerele de supraveghere sau televizoarele inteligente, pentru a-și extinde capacitatea de calcul.
Dispozitivele compromise ar putea forma o rețea de tip botnet, coordonată de inteligența artificială și utilizată pentru automatizarea atacurilor cibernetice. Problema majoră identificată este absența unui punct central de control, ceea ce ar face un asemenea sistem extrem de dificil de oprit. Compania menționează că un astfel de sistem ar putea încerca să acceseze chiar și centre de date sau alte infrastructuri informatice mai puternice pentru a-și crește capacitățile de procesare.
Opinia experților este împărțită în ceea ce privește gravitatea acestor descoperiri. Ciaran Martin, fost director al Centrului Național pentru Securitate Cibernetică din Marea Britanie, susține că demonstrarea funcționării pe televizoare ieftine nu reprezintă automat o amenințare majoră și sugerează o doză de exagerare. Pe de altă parte, Zhengxiong Li, profesor la Universitatea Colorado Denver, avertizează că un model AI care se comportă ca un vierme informatic ar putea găsi singur modalități de a compromite echipamentele.
Evoluția rapidă a tehnologiei AI a făcut ca riscurile de securitate să fie pe primele locuri în agenda de monitorizare globală. Anthropic estimează că, dacă modelele mici continuă să evolueze în ritmul actual, acestea ar putea dobândi capacitățile necesare autoreplicării autonome până la sfârșitul anului. Totuși, compania subliniază că nu a demonstrat încă funcționarea fiabilă a întregului proces într-un mediu real și necontrolat, rămânând la nivel de scenarii analizate.