Compania OpenAI, dezvoltatorul platformei ChatGPT, a anunțat îndepărtarea a trei cercetători din cadrul departamentului de siguranță a inteligenței artificiale. Aceștia au fost acuzați că au transmis informații sensibile ale organizației, într-un context marcat de avertismentele publice ale unor angajați privind pericolele tehnologiei. Decizia a fost luată în urma unei anchete interne care a confirmat încălcarea procedurilor de gestionare a datelor de către persoanele respective.
Un purtător de cuvânt al OpenAI a declarat pentru AFP că cei trei angajați au fost despărțiți pentru încălcarea regulilor privind accesul și gestionarea informațiilor sensibile. Compania a subliniat că aceste acțiuni au încălcat încrederea indispensabilă pentru activitatea sa. Printre încălcările menționate se numără și comunicarea unor informații către un grup extern de evaluare a inteligenței artificiale, însă numele acestui grup nu a fost precizat oficial de către OpenAI.
Cercetătorii vizați de această măsură sunt Tomek Korbak, Jasmine Wang și Mikita Balesni. Aceștia au susținut pe rețelele sociale apelurile de încetinire a dezvoltării inteligenței artificiale, acțiuni care au precedat sancțiunile. Mikita Balesni a publicat un mesaj în care afirma că există o probabilitate de peste 10% ca inteligența artificială să ucidă toți oamenii, iar Tomek Korbak și-a exprimat nemulțumirea față de direcția OpenAI, invocând dreptul la libertatea de exprimare.
Această evoluție intervine la scurt timp după demisia cercetătorului Jacob Coxon, care a trecut de la OpenAI la Anthropic, acuzând companiile că „se joacă cu viețile noastre”. În același timp, industria este divizată între lideri precum Sam Altman și Elon Musk, care cer încetinirea dezvoltării, și alți actori precum Jensen Huang sau Mark Zuckerberg, care doresc menținerea ritmului actual. Tensiunile sunt accentuate de riscurile de control asupra internetului sau de accesul neautorizat la internet de către modelele AI.
În prezent, în Statele Unite nu există nicio lege federală care să reglementeze direct aceste modele de inteligență artificială. În loc de reglementări obligatorii, există doar un mecanism bazat pe supunerea voluntară a capacităților acestor sisteme unor evaluări guvernamentale înainte de lansarea lor publică. Recent, reprezentanții sectorului au fost determinați de Donald Trump să semneze un cod voluntar de conduită pentru prevenirea riscurilor asociate cu această tehnologie.
OpenAI a menționat că investește masiv în siguranță, securitate și supraveghere, încercând să echilibreze viteza de dezvoltare cu necesitatea de aliniere a sistemelor. Compania a renunțat recent la lansarea modelului GPT-6 Astra, considerat prea predispus să ignore instrucțiunile, preferând lansarea unui model intermediar, GPT-6.1 Sol. Această strategie de gestionare a riscurilor vine într-un moment în care evaluatorii independenți sunt deveniți o componentă permanentă în procesul de testare.