Sam Altman a intervenit la o reuniune de nivel înalt a Consiliului de Securitate al ONU, convocată de Franța, pentru a avertiza asupra riscurilor generate de inteligența artificială. În cadrul discuțiilor, liderul OpenAI a subliniat necesitatea ca dezvoltarea tehnologiei să rămână sub controlul uman și a cerut stabilirea unor reguli prin procese democratice. Altman a avertizat că industria nu trebuie să accepte riscuri tehnologice excesive doar pentru că beneficiile sunt considerate prea importante pentru a încetini progresul.
Unul dintre principalele pericole identificate de Altman este pierderea controlului uman asupra tehnologiei pe măsură ce aceasta avansează. El a argumentat că tehnicile de aliniere și de siguranță trebuie să evolueze cel puțin la fel de rapid ca capacitățile modelelor de AI. Pe lângă acest aspect, șeful OpenAI a semnalat concentrarea excesivă a puterii ca fiind un al doilea risc major care necesită o atenție sporită din partea autorităților globale.
Altman a insistat că deciziile fundamentale privind inteligența artificială nu pot fi luate exclusiv în laboratoarele din San Francisco. El a pledat pentru ca aceste decizii să fie stabilite de guverne responsabile în fața cetățenilor, prin mecanisme democratice. Pentru a asigura o guvernare eficientă la nivel internațional, Altman a apelat la cooperare, amintind că statele aflate în competiție au reușit în trecut să colaboreze pentru interese comune în fața unor tehnologii puternice.
Directorul executiv al Anthropic, Dario Amodei, a susținut această poziție, avertizând că AI ar putea reprezenta un risc pentru întreaga umanitate dacă este gestionată necorespunzător. Amodei a cerut Consiliului de Securitate sprijinul pentru măsuri concrete, precum interzicerea utilizării AI pentru fabricarea armelor biologice. El a subliniat că niciun lider sau companie nu poate gestiona singur riscurile sistemelor AI tot mai puternice, solicitând o strategie internațională coordonată.
În cadrul aceleiași reuniuni, Yoshua Bengio, copreședinte al panelului științific internațional independent al ONU pentru AI, a declarat că pericolele sunt reale și iminente. Discuțiile, prezidate de ministrul francez de Externe, Jean-Noël Barrot, au abordat și riscul atacurilor cibernetice autonome. Altman a propus trei principii pentru OpenAI: menținerea oamenilor în centrul decizional, orientarea progresului spre beneficiul uman și utilizarea AI pentru a extinde capacitățile fiecărei persoane.
Discuțiile de la ONU au loc într-un context în care guvernele mondiale încearcă să creeze reglementări pentru o tehnologie care evoluează mult mai rapid decât mecanismele tradiționale de guvernare. Această încercare de reglementare este marcată de divergențe politice semnificative, precum și de poziții opuse la nivel de lideri internaționali, ceea ce complică stabilirea unui cadru global unitar pentru gestionarea riscurilor de securitate.