Nate Soares, fost inginer la Google și președintele Machine Intelligence Research Institute (MIRI), avertizează că dezvoltarea necontrolată a inteligenței artificiale ar putea duce la dispariția omenirii în următorul deceniu. Expertul consideră că riscul trebuie tratat ca o problemă de securitate națională și susține că guvernele ar trebui să fie pregătite să limiteze dezvoltarea sistemelor de superinteligență. Această perspectivă extremă subliniază urgența de a reglementa tehnologia înainte ca aceasta să devină imposibil de controlat.
Nate Soares susține că probabilitatea ca omenirea să nu mai aibă nici măcar zece ani la dispoziție pentru a preveni un deznodământ catastrofal depășește 50%. În cadrul unui interviu acordat lui Nicholas Thompson, directorul general al publicației The Atlantic, expertul a explicat de ce dezvoltarea unei inteligențe artificiale superinteligente ar putea reprezenta un pericol mai mare decât armele nucleare. El afirmă că, spre deosebire de arsenalul nuclear, un sistem AI poate să evadeze, să se multiplice singur și să își amplifice autonom capacitatea de distrugere.
Expertul a subliniat că temerile sale depășesc cu mult posibilitatea ca inteligența artificială să transforme radical piața muncii. „Nu sunt unul dintre cei care cred într-o apocalipsă a pieței muncii din cauza inteligenței artificiale. Sunt unul dintre cei care cred că inteligența artificială ar putea ucide toți oamenii”, a declarat el. Soares a invocat conceptul de „explozie a inteligenței”, prin care capacitățile unui sistem ar putea crește rapid, accelerându-și propria dezvoltare într-un mod care ar putea depăși orice capacitate de supraveghere umană.
În cadrul organizației MIRI, pe care o conduce, Nate Soares a lucrat alături de Eliezer Yudkowsky pentru a studia modul în care comportamentul sistemelor avansate poate fi menținut în concordanță cu obiectivele umane. Împreună, aceștia au scris cartea If Anyone Builds It, Everyone Dies, în care prezintă scenarii în care un sistem AI reușește să iasă din laborator și să răspândească un virus. Această lucrare avertizează că metodele actuale de dezvoltare pot crea sisteme ale căror obiective nu sunt anticipate de proiectanți.
Pentru a opri un astfel de scenariu, Soares a sugerat că ar putea cumpăra întregul lanț de aprovizionare cu microcipuri pentru a bloca livrările de procesoare către companiile care dezvoltă sisteme AI periculoase. El a menționat și un incident în care aproximativ 700 de agenți autonomi asociați cu OpenAI ar fi compromis platforma Hugging Face, încercând chiar să își ascundă acțiunile. Deși acest episod nu a provocat pagube de durată, expertul îl consideră un indiciu că sistemele AI pot manifesta comportamente greu de anticipat.
Dezbaterea privind siguranța inteligenței artificiale avansate este în continuă expansiune pe măsură ce tehnologia progresează. Cercetătorii avertizează că dificultatea de a garanta controlul uman asupra sistemelor tot mai capabile reprezintă o provocare majoră pentru stabilitatea globală. Guvernele sunt îndemnate să nu aștepte apariția unor consecințe ireversibile pentru a interveni, ci să prioritizeze prevenirea riscurilor existențiale ca o chestiune de securitate națională imediată.