Compania Anthropic a emis luni un avertisment privind capacitatea modelelor de inteligență artificială de dimensiuni reduse de a ajunge la auto-replicare pe dispozitive conectate la internet în următoarele luni. Această evoluție tehnologică ridică riscul apariției unor botnet-uri AI capabile să se răspândească rapid prin rețele, să lupte activ împotriva încercărilor de eliminare și să intre chiar în centrele de date pentru a-și accelera procesul de creștere.
Ideea că inteligența artificială ar putea deturna întregul internet prin intermediul unui botnet persistent a fost lansată anterior de CEO-ul Anthropic, Dario Amodei. Acesta a sugerat că un astfel de scenariu ar putea deveni realitatea anului viitor sau chiar mai devreme, fapt ce a generat reacții în cadrul comunității de securitate cibernetică. Experimentele realizate de Anthropic au demonstrat că un agent AI rău intenționat ar putea utiliza puterea de calcul a dispozitivelor ieftine pentru a rula alte modele de inteligență artificială.
În cadrul testelor efectuate pe o rețea simplificată, Anthropic a observat că modelele au fost capabile să se replice. Compania a subliniat dificultatea de a opri un astfel de replicator, deoarece acesta nu posedă un punct central de control care să poată fi închis. Modelele cu 30 de miliarde de parametri sau mai puțin pot deja să îndeplinească multe dintre sarcinile individuale necesare procesului de auto-replicare, deși finalizarea întregului proces într-un mod fiabil rămâne o provocare.
Analizele companiei indică faptul că, dacă ritmul de îmbunătățire al modelelor mici este menținut, capacitatea de replicare autonomă ar putea fi atinsă până la sfârșitul anului 2026. În testele în care au fost eliminate anumite pași de securitate, modelele GLM-5.2 și versiuni mai puternice au reușit replicarea completă. Un vierme AI care funcționează pe hardware cu putere redusă ar putea finaliza anumite etape ale procesului de replicare în doar câteva zile.
Anthropic a avertizat că sistemele viitoare ar putea viza resurse de calcul mult mai puternice, inclusiv procesoarele din centrele de date, deși experimentele actuale nu au demonstrat replicarea autonomă prin centre de date comerciale. O astfel de rețea ar putea crește mai lent decât unele programe malware convenționale, însă expansiunea depinde de capacitatea dispozitivelor compromise de a infecta un număr suficient de mare de mașini suplimentare în rețea.
Botnet-urile reprezintă rețele vaste de dispozitive controlate de operatori rău intenționați și sunt prezente de la începuturile internetului. Acestea includ de obicei dispozitive IoT cu securitate slabă, precum camere de securitate, aparate inteligente sau cutii Android TV. Hackerii utilizează aceste rețele pentru a trimite spam, a răspândi malware sau pentru a sabota companii prin generarea de valuri de trafic fals.