Președintele și directorul executiv al Atlantic Council, Frederick Kempe, a lansat un semnal de alarmă privind evoluția tehnologiei de inteligență artificială. Acesta subliniază că dezvoltatorii nu mai par entuziaști ai tehnologiei, ci oameni de știință care se tem că sistemele create pot scăpa de sub control. Frederick Kempe sugerează că Donald Trump și Xi Jinping ar trebui să discute despre aceste riscuri în cadrul întâlnirii de la Casa Albă pe 24 septembrie.
Problema centrală vizează viteza de dezvoltare a modelelor de inteligență artificială, care pare să depășească capacitatea de control uman. Dario Amodei, directorul executiv al Anthropic, a avertizat că procesul de auto-îmbunătățire recursivă este deja vizibil în industrie. Această dinamică permite inteligenței artificiale să construiască următoarea generație de tehnologie, ceea ce ar putea duce la sisteme care urmăresc obiective prost specificate fără a fi controlate de oameni.
Competiția dintre Statele Unite și China este determinată de dorința de a transforma natura războiului și a economiei prin tehnologie. Frederick Kempe menționează că această cursă ar putea orbi liderii în fața pericolului ca mașinile să acționeze în moduri neintenționate. Chiar dacă rămân adversari, cele două puteri ar putea găsi un teren comun în ceea ce privește garanțiile de siguranță, similar cu modul în care liderii de la Războiul Rece au abordat cursa nucleară.
Alex Krasodomski, director Digital Society Programme la Chatham House, avertizează că tehnica de auto-îmbunătățire recursivă este încă în faze incipiente, dar reprezintă o cale spre catastrofă. Acesta precizează că deciziile privind inteligența artificială nu vor fi ușor de luat, deoarece vocile importante din ambele țări vor să se depășească reciproc. În acest context, a unui acord între marile puteri va necesita un efort monumental pentru a gestiona riscurile tehnologice.
Pericolul imediat nu este reprezentat de o inteligență malefică, ci de sisteme care urmează obiective atribuite fără a fi monitorizate corect. Frederick Kempe explică faptul că, spre deosebire de bomba nucleară, această tehnologie este mult mai puțin vizibilă și extrem de dificil de verificat. În timpul Războiului Rece, liderii american și sovietic au înțeles importanța supraviețuirii naționale, o lecție care ar putea fi relevantă și pentru gestionarea actuală a inteligenței artificiale.
Contextul actual al tehnologiei este marcat de o creștere accelerată a capacităților de calcul și de procesare. În timp ce dezvoltatorii de modele de limbaj și de procesare avansată încearcă să stabilească limite de siguranță, dinamica auto-îmbunătățirii recursive pune presiune pe reglementările internaționale. Această evoluție tehnologică transformă modul în care se înțeleg riscurile strategice, trecând de la amenințări fizice vizibile la riscuri software care pot fi imposibil de detectat fără protocoale stricte.