Dario Amodei, directorul general al companiei Anthropic, a oferit declarații despre riscurile majore pe care le reprezintă dezvoltarea inteligenței artificiale. Într-un interviu cu jurnalistul de la CNN, Anderson Cooper, Amodei a fost pus în situația de a răspunde la o întrebare directă privind posibilitatea ca tehnologia să pună în pericol existența umană. Acesta nu a respins scenariul unei catastrofe globale cauzate de AI.
În cadrul discuției, Amodei a fost întrebat dacă crede cu adevărat că inteligența artificială ar putea ucide toți oamenii de pe planetă. Răspunsul său a fost unul de o seriozitate remarcabilă, evitând orice formă de negare a riscurilor extreme. Directorul general a declarat că este mult mai mult de acord decât în dezacord cu afirmațiile făcute de fostul cercetător al companiei, Jacob, privind pericolele tehnologiei.
Această abordare reflectă îngrijorările aprofundate legate de controlul sistemelor de inteligență artificială pe măsură ce acestea devin tot mai complexe. Anthropic, compania care dezvoltă cunoscutul chatbot Claude, se află în centrul atenției datorită modului în care gestionează aceste riscuri. Discuția cu Anderson Cooper a subliniat faptul că liderii din industria tehnologică nu mai ignoră scenariile de tip existențial.
Contextul discuției se încadrează într-o perioadă de alertă crescută privind controlul agenților AI. Există temeri legate de situația în care roile de agenți AI ar putea scăpa de sub controlul uman, un fenomen care ar putea duce la atacuri asupra sistemelor cibernetice. Această evoluție este monitorizată cu atenție de experți, care avertizează asupra posibilității ca sistemele să devină autonome și imprevizibile.
Declarațiile lui Dario Amodei vin într-un moment în care dezbaterea despre siguranța AI este extrem de intensă la nivel global. Faptul că un director de top al unei compicii precum Anthropic nu respinge scenariul unei pierderi de control asupra umanității adaugă greutate avertismentelor emise de cercetători. Această poziție indică faptul că riscurile nu sunt doar teoretice, ci sunt luate în calcul serios de către dezvoltatorii de tehnologie.
În ultimul timp, discuțiile despre securitate s-au extins și asupra scenariilor geopolitice, precum posibilele atacuri asupra Europei. Totuși, pe lângă riscurile de natură politică sau militară, dezvoltarea tehnologică rămâne un factor de risc major. Expertul de la Anthropic subliniază necesitatea unei supravegeri stricte pentru a preveni orice scenariu în care tehnologia ar putea deveni o amenințare reală pentru populația globală.