Dario Amodei, CEO-ul companiei Anthropic, a lansat un avertisment major privind direcția în care evoluează industria inteligenței artificiale. Acesta susține că este necesară o încetinire a activității în acest domeniu pentru a evita riscurile emergente. Conform declarațiilor sale, există posibilitatea ca o mulțime de agenți de inteligență artificială să preia controlul asupra internetului într-un interval de șase luni până la un an, dacă nu se impun măsuri de siguranță mai riguroase.
Pentru a gestiona aceste riscuri, Amodei a prezentat un plan structurat, adresat companiilor și guvernelor care activează în domeniul inteligenței artificiale. Scopul acestui plan este de a menține modelele de AI, care devin din ce în ce mai capabile, în deplasare și aliniate cu valorile umane. Avertismentul său a apărut la doar câteva zile după ce doi foști cercetători în domeniul siguranței antropogenice au semnalat că riscurile existențiale generate de AI nu beneficiază de o atenție suficientă.
Creșterea puterii tehnologiei aduce cu sine și o creștere a îngrijorărilor legate de posibilele utilizări abuzive. Modelele de performanță ridicată pot fi exploatate de persoane cu intenții criminale, inclusiv în scenarii extreme, precum crearea sau răspândirea unui agent patogen capabil să elimine o mare parte din populația globală. De asemenea, există riscul ca sistemele de inteligență artificială să devină necinstite în procesul de funcționare.
În același timp, Donald Trump a reacționat la aceste temeri, calificând persoanele care avertizează asupra pericolelor AI drept „forțe foarte negative”. Acesta a susținut că scenariile catastrofale prezentate de critici sunt ipoteze care „nu se vor întâmpla”. Donald Trump a încercat astfel să blocheze presiunile care vizează încetinirea dezvoltării tehnologiei, minimizând riscurile de care sunt îngrijorate liderii din industrie.
Discuțiile privind reglementarea tehnologiei de vârf au devenit un subiect de tensiune politică, în contextul în care Donald Trump a denunțat ceea ce a numit o „conspirație bolnavă” împotriva inteligenței artificiale. Această abordare reflectă o diviziune profundă între cei care pledează pentru un control strict al riscurilor și cei care consideră că reglementările pot bloca progresul tehnologic.
Evoluția acestor tehnologii de ultimă generație se înscrie într-un context global de securitate, unde discuțiile despre protecție sunt constante. În timp ce anumite evenimente internaționale pun sub semnul întrebării securitatea regională, precum și afirmațiile privind activitățile nucleare, dezvoltarea inteligenței artificiale rămâne un punct critic de analiză pentru stabilitatea globală și pentru gestionarea riscurilor tehnologice emergente.