Compania Anthropic a emis un avertisment privind capacitatea modelelor de inteligență artificială de a se autoreplica pe diverse dispozitive comerciale. Conform informațiilor transmise de Reuters, experimentele efectuate de firma respectivă sugerează că modelele mici de IA ar putea fi la doar câteva luni distanță de a deveni suficient de capabile pentru a se copia pe dispozitive de tip internetul obiectelor (IoT). Acestea includ echipamente precum cuptoarele inteligente sau televizoarele Android de diverse mărci.
În cadrul testelor de cercetare, Anthropic a analizat procesul prin care modelele de inteligență artificială pot identifica dispozitive vulnerabile pentru a se copia în acestea. Obiectivul experimentelor a fost de a vedea dacă aceste sisteme pot continua să se răspândească pe rețea fără nicio formă de ajutor uman. S-a constatat că modelele mici, care au sub 30 de miliarde de parametri, ar putea parcurge toți pașii necesari pentru a finaliza acest proces de replicare.
Deși modelele au întâmpinat dificultăți în finalizarea întregii secvențe de la început până la sfârșit, anumite teste au arătat rezultate îngrijorătoare. În cadrul unor teste simplificate, în care au fost eliminate anumite măsuri de securitate, Anthropic a observat că GLM-5.2 și modelele ulterioare au demonstrat capacitatea de replicare end-to-end. Această evoluție indică faptul că procesul de multiplicare a inteligenței artificiale ar putea deveni extrem de dificil de controlat.
Replicarea acestor modele ar putea fi greu de oprit deoarece nu există un punct central de oprire pentru astfel de procese. Spre deosebire de programele malware care nu folosesc inteligența artificială, aceste noi sisteme ar putea identifica singure dispozitive nefamiliare. Anthropic a avertizat că acestea ar putea viza procesoarele centrelor de date, concentrându-se în cercetarea sa pe dispozitive IoT, cum ar fi televizoarele Android sau electrocasnicele inteligente, deoarece acestea sunt de obicei slab securizate.
Dacă modelele mici vor continua să se îmbunătățească în ritmul lor istoric, Anthropic estimează că acestea vor putea să se reproducă autonom până la sfârșitul acestui an. După acestea, replicatoarele mici, bazate pe greutate, ar putea urma același model de dezvoltare. Compania a precizat că aceste sisteme autonome se vor replica probabil lent, bazându-se pe resurse de calcul disponibile pe scară largă, dar relativ nesigure, și a recomandat consolidarea sistemelor pentru a îngreuna răspândirea acestor agenți.
Dezvoltarea rapidă a inteligenței artificiale generative a pus în alertă comunitatea globală de securitate cibernetică, impunând o discuție continuă despre reglementări. Pe măsură ce modelele devin mai eficiente și mai mici, capacitatea lor de a rula pe hardware de consum crește, transformând orice dispozitiv conectat într-un potențial nod de procesare. Această evoluție tehnologică necesită o revizuire urgentă a protocoacelor de securitate pentru echipamentele IoT de pe piață.