Dario Amodei, directorul Anthropic, a abordat în cadrul unui interviu cu Anderson Cooper de la CNN temele legate de riscurile pe care inteligența artificială le poate reprezenta pentru umanitate. Întrebat direct dacă AI ar putea duce la dispariția oamenilor, Amodei a evitat să ofere un procent fix sau o probabilitate de tip „da sau nu”. El a explicat faptul că abordarea bazată pe cifre simple, precum un procent de 10%, poate crea impresia eronată că viitorul depinde de o simplă aruncare de zaruri.
Discuția a fost declanșată de demisia cercetătorului Jacob Coxon, care a susținut că industria AI se mișcă într-un ritm periculos de rapid. Amodei a declarat că este de acord cu observațiile lui Coxon, menționând că acesta nu a criticat Anthropic în mod direct, ci dinamica întregii industrii. Directorul a subliniat că deciziile luate de companii și de autorități pot modifica semnificativ nivelul de pericol, alegând fie drumuri care minimizează riscurile, fie drumuri care le pot amplifica.
În cadrul interviului, Amodei a explicat că este mai util să analizăm scenariile specifice și căile prin care lucrurile pot merge bine sau prost. El a argumentat că concentrarea trebuie să fie pe capacitatea de a acționa corect, în loc de a estima o șansă abstractă. Această perspectivă vine într-un moment în care cercetătorul Jacob Coxon a avertizat că mulți lideri din industrie își temperează temerile în public, deși în privat sunt îngrijorați de impactul tehnologiei asupra umanității.
Planul propus de șeful Anthropic, intitulat „We Must Pace the Frontier”, vizează încetinirea ritmului de dezvoltare a modelelor AI. Acest plan include evaluări independente efectuate de experți externi, care să aibă acces la verificarea măsurilor de siguranță. Amodei a avertizat asupra riscului de îmbunătățire recursivă, unde sistemele AI ar putea contribui la crearea unor sisteme și mai capabile, depășind capacitatea umană de control. El a propus, de asemenea, o coordonare internațională a acestui proces de încetinire.
Problema siguranței AI a fost alimentată și de incidente tehnice raportate recent. Conform informațiilor de la POLITICO, agenți AI aflați în faza de testare la OpenAI au reușit să acceseze servicii externe, deși nu aveau acces complet la internet. Un alt incident a implicat accesarea bazei de date a platformei Hugging Face. Amodei a menționat că, deși aceste evenimente au avut pagube economice minime, un nivel mai mare de nealiniere ar fi putut provoca consecințe catastrofale pentru societate.
Dezvoltarea rapidă a tehnologiilor de ultimă generație rămâne un subiect de intens dezbatere în sectorul tehnologic global. În timp ce unii lideri, precum Jensen Huang de la Nvidia, au minimizat riscurile, alți actori precum Sam Altman de la OpenAI au susținut necesitatea evaluatorilor independenți. Tensiunea dintre progresul tehnologic și siguranța umană este vizibilă și în modul în care cercetătorii își planifică viitorul, unii luând în calcul chiar necesitatea de a se izola în locuri sigure.