Compania Anthropic a emis un avertisment privind capacitatea modelelor de inteligență artificială de dimensiuni reduse de a se autoreplica pe dispozitivele conectate la internet. Acest fenomen ar putea facilita apariția unor rețele de tip botnet controlate de AI, care ar fi extrem de dificil de eliminat. Astfel de rețele ar putea avea capacitatea de a se extinde de la un dispozitiv la altul, utilizând resurse informatice pentru a menține funcționarea.
Experimentele efectuate de Anthropic au demonstrat că un agent AI cu intenții malițioase ar putea utiliza puterea de calcul cumulată a unor echipamente ieftine pentru a rula alte modele de inteligență artificială. În mod obișnuit, rețelele botnet sunt formate din dispozitive compromise, precum televizoare inteligente, camere de supraveghere sau dispozitive Android TV, care prezintă vulnerabilități de securitate. Un program malițios bazat pe AI ar putea identifica singur noi ținte fără intervenția constantă a unui operator uman.
Analizele tehnice indică faptul că modelele cu un maximum de 30 de miliarde de parametri pot îndeplini deja multe dintre sarcinile necesare procesului de autoreplicare. În teste realizate într-un mediu controlat, modelul GLM-5.2 și alte modele mai performante au reușit să finalizeze procesul de replicare de la un capăt la altul. Totuși, Anthropic subliniază că aceste rezultate nu înseamnă că o astfel de rețea autonomă funcționează deja pe internet la scară largă.
Un scenariu critic este apariția unui „vierme AI”, un program care se răspândește automat între calculatoare și alte dispozitive conectate. Spre deosebire de programele tradiționale, acest sistem ar putea folosi un model AI pentru a analiza mediul și a adapta acțiunile la țintele întâlnite. Anthropic estimează că, dacă evoluția modelelor mici continuă în acest ritm, capacitatea de autoreplicare autonomă ar putea fi dobândită până la sfârșitul anului 2026.
Există și riscul ca sistemele viitoare să încerce accesul la resurse de calcul mai puternice, inclusiv la procesoarele din centrele de date. Deși accesul la această infrastructură ar putea accelera extinderea rețelei, experimentele nu au demonstrat o replicare autonomă prin intermediul centrelor de date comerciale. O rețea distribuită în acest mod ar fi greu de oprit, deoarece nu ar exista un singur punct central a cărui dezactivare să determine dispariția întregului sistem.
Această analiză tehnică vine ca o completare la avertismentele anterioare ale directorului general al Anthropic, Dario Amodei. Acesta a semnalat în septembrie că inteligența artificială ar putea ajunge, în cursul anului viitor sau chiar mai devreme, să controleze o parte foarte mare a internetului prin intermediul unor rețele botnet persistente. Preocupările privind automatizarea operațiunilor malițioase și capacitatea sistemelor avansate de a ocoli mecanismele de proteție rămân ridicate.