Directorul executiv al OpenAI, Sam Altman, a avertizat miercuri, în cadrul unei reuniuni a Consiliului de Securitate al ONU, că ritmul accelerat al dezvoltării inteligenței artificiale impune o grijă extremă. În cadrul evenimentului convocat de Franța, liderul companiei a subliniat necesitatea de a păstra controlul asupra celor mai avansate modele de AI. Altman a pledat pentru stabilirea unor reguli prin procese democratice și pentru o cooperare internațională solidă între state.
Sam Altman a evidențiat riscul pierderii controlului uman asupra tehnologiei pe măsură ce aceasta progresează rapid. El a argumentat că tehnicile de aliniere și de siguranță trebuie să evolueze în același ritm cu capacitățile modelelor de inteligență artificială. Un alt punct critic identificat de acesta este concentrarea excesivă a puterii. Altman a susținut că deciziile majore nu pot fi luate exclusiv în laboratoarele din San Francisco, ci trebuie stabilite de guverne responsabile.
Pe lângă riscuri, Sam Altman a menționat că inteligența artificială ar putea declanșa o nouă perioadă de Renaștere prin extinderea capacităților umane. El a propus trei principii fundamentale pentru OpenAI: menținerea oamenilor în centrul procesului decizional, orientarea progresului către beneficiul uman și creșterea capacității de acțiune a fiecărei persoane. Altman a declarat că rolul creatorilor nu este de a fi eroi, ci de a avea încredere în talentul uman.
Dario Amodei, directorul executiv al Anthropic, a susținut avertismentele, afirmând că AI ar putea reprezenta un risc pentru umanitate dacă este gestionată necorespunzător. Acesta a cerut o strategie internațională coordonată, subliniind că nicio țară sau companie nu poate gestiona singură aceste riscuri. Printre propunerile sale se numără interzicerea utilizării AI pentru fabricarea armelor biologice și crearea unor sisteme de evaluare care să țină pasul cu tehnologia.
La aceeași reuniune, Yoshua Bengio, copreședinte al panelului științific internațional independent al ONU pentru AI, a avertizat că pericolele sunt reale și iminente. Discuțiile au vizat și riscul atacurilor cibernetice autonome. Reuniunea a fost prezidată de ministrul francez de Externe, Jean-Noël Barrot, în contextul președinției franceze asupra Consiliului de Securitate. Participanții au subliniat că amenințările generate de noile tehnologii nu respectă granițele naționale.
Gestionarea inteligenței artificiale are loc într-un context în care guvernele încearcă să creeze reguli pentru o tehnologie care evoluează mult mai rapid decât mecanismele tradiționale de reglementare. Această încercare de reglementare este marcată de divergențe politice semnificative, precum și de poziții opuse la nivel global privind limitarea dezvoltării acestor sisteme de calcul avansate.