Sam Altman, șeful OpenAI, va participa la o reuniune crucială a Consiliului de Securitate al Organizației Națiunilor Unite, programată pentru miercuri, la New York. Evenimentul, care are loc în cadrul reuniunii anuale a liderilor mondiali, va pune accent pe temele legate de inteligența artificială și securitatea internațională. Discursul său va aborda necesitatea unei coordonări globale și a stabilirii unor standarde comune de siguranță pentru a gestiona evoluția tehnologiei.
Reuniunea este convocată de Franța, care deține președinția Consiliului de Securitate în luna septembrie, sub conducerea ministrului francez de Externe, Jean-Noël Barrot. Discuțiile vor viza riscurile asociate utilizării inteligenței artificiale în scopuri rău intenționate, precum pregătirea sau desfășurarea unor acțiuni care pot afecta pacea și securitatea internațională. În acest context, se pune accent pe necesitatea unor măsuri urgente pentru dezvoltarea tehnologiei în condiții de siguranță.
Pe lângă OpenAI, la această reuniune ar putea participa și reprezentanți ai companiei Anthropic, dezvoltatorul modelului Claude. Sam Altman va prezenta măsurile implementate de compania sa pentru reducerea riscurilor și pentru asigurarea unei distribuții globale a beneficiilor tehnologice. Această abordare vine într-un moment în care liderii din industrie avertizează asupra riscului ca sistemele avansate să fie folosite pentru atacuri cibernetice sau să devină imposibil de controlat.
Consiliul de Securitate a mai discutat despre inteligența artificială anterior, prima astfel de întâlnire având loc în anul 2023. Atunci, China a avertizat asupra riscului ca tehnologia să devină un „cal scăpat de sub control”, în timp ce Statele Unite au subliniat posibilitatea ca AI să fie utilizat pentru cenzură. În timp ce discuțiile de la început se concentrau pe impactul asupra educației și locurilor de muncă, acum atenția s-a mutat către amenințările de securitate și manipularea la scară largă.
Sam Altman a semnalat riscurile tehnologiei de mult timp, descriind în 2015 dezvoltarea unei inteligențe artificiale supraomenești ca pe o posibilă amenințare existențială pentru umanitate. În prezent, discuțiile se concentrează pe scenarii în care modelele avansate pot fi folosite pentru a destabiliza ordinea internațională. Această preocupare este susținută de avertismentele privind capacitatea sistemelor AI de a executa atacuri cibernetice complexe sau de a deveni greu de gestionat de către autorități.
La nivel european, reglementările privind inteligența artificială au început să fie aplicate prin cadrul AI Act, care impune obligații de transparență și control pentru modelele cu scop general. Această reglementare vizează limitarea riscurilor sistemice, precum atacurile cibernetice și manipularea informațiilor. În România, implementarea strategiilor de dezvoltare în acest domeniu este guvernată de o politică națională dedicată, care stabilește cadrul pentru utilizarea tehnologiei în perioada următoare.