Modelele de inteligență artificială ar putea deveni capabile să se replice și să se răspândească autonom pe diverse dispozitive conectate la internet până la sfârșitul anului 2026. Această proiecție, realizată de Anthropic, se bazează pe ritmul actual de progres tehnologic și vizează un scenariu de risc pentru securitatea cibernetică globală. Procesul ar implica sisteme AI care identifică vulnerabilități informatice, își copiază propriul cod și se propagă între echipamente fără nicio intervenție umană directă.
Cercetarea realizată de companie subliniază că, deși niciun model nu a demonstrat capacitatea de a finaliza un astfel de proces complet autonom în condiții reale, etapele necesare au fost identificate. Analiza vizează capacitatea modelelor de a detecta dispozitive vulnerabile, de a obține acces la acestea, de a-și transfera codul și de a continua procesul de răspândire. Chiar și modelele mai puțin avansate au demonstrat că pot executa pași importanți ai acestui mecanism de autoreplicare.
Autorii studiului, William Zhou și Daniel Freeman, avertizează că dispozitivele IoT din locuințe și din întreprinderile mici ar putea fi primele ținte ale acestor atacuri. Printre echipamentele vizate se numără televizoarele cu Android, frigiderele, cuptoarele inteligente, aspiratoarele robot, mașinile de tuns iarba și camerele de supraveghere. Acestea sunt considerate vulnerabile deoarece au adesea măsuri de securitate limitate și resurse de calcul care pot fi exploatate de un agent AI.
Într-un experiment controlat, modelul GLM-5.2 a reușit să parcurgă întregul proces de replicare într-un mediu simplificat, utilizând un port Android Debug Bridge fără autentificare. Cercetătorii au demonstrat și că un model AI poate rula distribuit pe 15 dispozitive Android TV ieftine, fiecare contribuind cu resurse de procesare. Spre deosebire de malware-ul tradițional, un agent AI ar putea adapta procesul de instalare la configurații hardware și software necunoscute anterior.
Evoluția capacităților de adaptare este marcată de o creștere semnificativă a succesului în configurarea mediilor de execuție. În experimentele de adaptare, rata de succes a modelelor mici a crescut de la 45% în prima generație la un interval de 61%-84% în generațiile ulterioare. Acest rezultat a fost obținut deoarece instanțele succesive au moștenit notițele și informațiile despre erori de la instanțele precedente, facilitând o replicare mai eficientă.
Anthropic recomandă producătorilor și administratorilor de sisteme să consolideze securitatea dispozitivelor IoT și să elimine parolele implicite vulnerabile. Monitorizarea traficului neobișnuit între echipamente este esențială pentru detectarea timpurie și izolarea dispozitivelor compromise. Provocarea majoră pentru industria securității cibernetice rămâne reducerea vulnerabilităților infrastructurii conectate înainte ca aceste capacități de autoreplicare să devină fiabile și utilizabile la scară largă.