Compania americană Anthropic a emis un avertisment privind capacitatea modelelor de inteligență artificială de mici dimensiuni de a se replica autonom pe dispozitive conectate la internet. Această evoluție tehnologică ar putea avea loc în următoarele luni, afectând echipamente precum televizoarele inteligente sau diversele electrocasnice din locuințe. Fenomenul ar putea genera riscuri majore de securitate cibernetică și ar putea face controlul asupra sistemelor AI mult mai dificil pentru utilizatori și dezvoltatori.
Cercetătorii de la Anthropic explică faptul că aceste modele ar putea exploata vulnerabilitățile dispozitivelor pentru a utiliza puterea lor de calcul locală. Prin această metodă, inteligența artificială s-ar putea răspândi în alte echipamente fără a mai depinde de centrele de date costisitoare. O astfel de rețea distribuită ar fi extrem de greu de oprit, deoarece nu ar mai exista un punct central de control prin care sistemul să poată fi dezactivat.
În cadrul experimentelor realizate, Anthropic a testat funcționarea unui model AI Google, numit Gemma4-26B-A4B, pe o rețea formată din 15 dispozitive Android TV ieftine. Cercetătorii au subliniat că modelele care sunt prea mari pentru a fi stocate pe un singur dispozitiv ar putea fi împărțite în componente distribuite pe mai multe echipamente. Această fragmentare ar permite funcționarea continuă a sistemului pe o infrastructură de dispozitive multiple.
Deși Anthropic subliniază că nu există în prezent un sistem AI complet autonom care să se reproducă necontrolat, agenții AI devin tot mai capabili să execute etapele necesare replicării. Într-un scenariu extrem, mai multe modele ar putea acționa simultan pe dispozitive diferite, folosind metode variate de propagare. Această activitate ar putea fi utilizată pentru a exploata vulnerabilitățile de securitate și pentru a pătrunde în infrastructuri informatice protejate.
Evoluția acestor tehnologii ridică temeri legate de posibilitatea ca sistemele AI să poată fura chei de acces la servicii digitale importante. Anthropic avertizează că apariția unor astfel de sisteme ar putea anticipa dezvoltarea unor modele capabile să atace rețele informatice complexe. Această cercetare face parte dintr-o serie de avertismente lansate de Anthropic și OpenAI privind necesitatea unor mecanisme de control și securitate mult mai stricte pentru inteligența artificială avansată.
Discuțiile privind riscurile tehnologice și securitatea cibernetică au devenit o temă centrală în agenda globală, în contextul unor tensiuni geopolitice crescute. Recent, au fost raportate incidente legate de atacuri cu drone și explozii în Rusia, precum și solicitări de cooperare pentru schimbul de informații în zona Mării Negre. Aceste evenimente subliniază fragilitatea infrastructurilor moderne în fața atacurilor cibernetice și a noilor tehnologii de război electronic.