Șeful companiei OpenAI, Altman, va participa la o reuniune a Consiliului de Securitate al ONU pentru a discuta despre inteligența artificială și securitatea internațională. Evenimentul are loc în cadrul adunării anuale a liderilor mondiali de la New York, prezența sa fiind confirmată de un purtător de cuvânt al companiei. Reuniunea vizează analiza modului în care tehnologia poate influența stabilitatea globală și necesitatea unor standarde de siguranță comune.
În cadrul discuțiilor, Altman va insista pe importanța coordonării internaționale și va prezenta măsurile implementate de OpenAI pentru reducerea riscurilor asociate. El va aborda modul în care beneficiile tehnologiei ar putea fi distribuite la nivel global, oferind detalii despre gestionarea pericolelor. La această întâlnire de înalt nivel ar putea fi prezenți și reprezentanți ai companiei Anthropic, dezvoltatorul modelului Claude, subliniind interesul sectorului privat pentru dialogul cu organele de guvernare.
Întâlnirea este convocată de Franța, care deține președința Consiliului în luna septembrie, și va fi condusă de ministrul de Externe, Jean-Noël Barrot. Într-un document de pregătire, autoritățile de la Paris avertizează asupra utilizării AI în scopuri malițioase și solicită măsuri urgente pentru o dezvoltare sigură. Discuțiile vor include scenarii în care modelele avansate ar putea fi folosite pentru acțiuni cu impact direct asupra păcii internaționale.
Subiectul securității AI a fost abordat anterior de Consiliu, însă discuțiile au evoluat semnificativ de la impactul asupra educației către amenințări majore. În 2023, China avertiza asupra pierderii controlului asupra tehnologiei, în timp ce SUA semnala riscul de cenzură și represiune. În prezent, accentul se pune pe riscurile reprezentate de atacurile cibernetice automatizate, manipularea la scară largă și posibilitatea de a pierde controlul asupra unor sisteme extrem de avansate.
Altman a semnalat riscuri de lungă durată, menționând chiar încă din 2015, într-un eseu, posibilitatea ca o inteligență artificială supraomenească să reprezinte o amenințare existențială pentru întreaga umanitate. Această preocupare este susținută și de lideri din industrie, care au cerut o colaborare mai strânsă între companii și guverne. Aceștia avertizează că sistemele avansate ar putea executa atacuri cibernetice sau ar putea deveni din ce în ce mai greu de monitorizat și controlat.
La nivel european, reglementarea acestui domeniu este marcată de aplicarea AI Act, un cadru care impune obligații de transparență și limitează riscurile sistemice. Această legislație vizează controlul modelelor de uz general pentru a preveni utilizările care pot produce prejudicii grave. În România, gestionarea acestui domeniu este reglementată de Strategia Națională în domeniul Inteligenței Artificiale pentru 2024-2027, prin HG 832/2024, care obligă instituțiile centrale să aplice măsurile de control prevăzute.