Compania Anthropic a emis luni un avertisment privind capacitatea modelelor de inteligență artificială de a se autoreplica pe dispozitive comerciale. Experimentele efectuate de firma specializată sugerează că modelele mici ar putea fi la doar câteva luni distanță de a deveni suficient de capabile să se multiplice pe echipamente din categoria „Internetul lucrurilor” (IoT). Această evoluție ar putea include dispozitive precum cuptoarele inteligente sau set-top box-urile Android TV.
În cadrul studiilor de cercetare, Anthropic a analizat capacitatea modelelor de IA de a identifica singure dispozitivele vulnerabile din rețea. Obiectivul testelor a fost de a vedea dacă aceste sisteme se pot copia pe astfel de echipamente și dacă pot continua procesul de răspândire fără nicio intervenție sau ajutor din partea oamenilor. Cercetătorii au urmărit dacă secvența de replicare poate fi parcursă integral de către algoritmi.
Rezultatele au indicat faptul că modelele mici, care posedă mai puțin de 30 de miliarde de parametri, pot parcurge numeroșii pași necesari pentru procesul de replicare. Totuși, Anthropic a observat că aceste modele au întâmpinat dificultăți în a finaliza întreaga secvență de la început până la sfârșit. În testele simplificate, unde anumite etape de securitate au fost eliminate, modelele GLM-5.2 și cele mai puternice au reușit să realizeze replicarea completă.
Anthropic subliniază că astfel de sisteme care se multiplică ar fi extrem de dificil de oprit, deoarece nu există un punct central de oprire. Spre deosebire de malware-ul tradițional, care nu folosește inteligența artificială, aceste modele ar putea identifica singure dispozitive necunoscute. Riscul este extins către procesoarele din centrele de date, pe măsură ce agenții de IA caută resurse de calcul pentru a continua expansiunea.
Firma a concentrat cercetarea pe gadgeturile conectate la internet, precum televizoarele Android și electrocasnicele inteligente, deoarece acestea sunt, de regulă, slab securizate. Dacă modelele mici continuă să se îmbunătățească în ritmul istoric observat până acum, acestea ar putea deveni capabile de replicare autonomă până la sfârșitul acestui an. Ulterior, Anthropic estimează că și alte tipuri de modele ar putea urma acest model de dezvoltare autonomă.
Sistemele de inteligență artificială care se autoreplicează vor utiliza probabil resurse de calcul larg disponibile, dar care sunt relativ nesigure. Compania a recomandat consolidarea sistemelor actuale pentru a îngreuna răspândirea acestor agenți de IA. Această problemă de securitate digitală apare într-un context în care infrastructura globală de calcul devine tot mai complexă și mai interconectată prin dispozitivele de tip IoT.