Compania OpenAI, creatorul platformei ChatGPT, a decis îndepărtarea a trei cercetători din departamentul dedicat siguranței inteligenței artificiale. Aceștia au fost acuzați că au transmis informații sensibile ale organizației, într-un context marcat de avertismente publice din partea mai multor angajați privind pericolele tehnologiei. Decizia a fost confirmată oficial de un purtător de cuvânt al companiei, care a menționat că măsurile au fost luate pentru protejarea datelor interne.
Conform declarațiilor oferite de OpenAI, cele trei persoane au încălcat regulile privind accesul și gestionarea informațiilor sensibile ale companiei. Ancheta internă a stabilit că aceștia au gestionat datele în afara procedurilor stabilite, acțiunea fiind considerată o încălcare a încrederii indispensabile activității de business. Printre încălcările identificate se numără și comunicarea unor informații către un grup extern de evaluare a inteligenței artificiale, deși numele acestui grup nu a fost precizat.
Cercetătorii vizați de această decizie sunt Tomek Korbak, Jasmine Wang și Mikita Balesni, toți trei susținând pe rețelele sociale apelurile pentru o încetinire a dezvoltării inteligenței artificiale. Mikita Balesni a postat recent că există o probabilitate de peste 10% ca inteligența artificială să ucidă toți oamenii. Totodată, Tomek Korbak a exprimat nemulțumirea față de direcția OpenAI, invocând dreptul la libertatea de exprimare pentru a-și manifesta îngrijorările.
Această serie de demisii urmează demisiei mediatizate a cercetătorului Jacob Coxon, care a trecut de la OpenAI la Anthropic. Jacob Coxon a acuzat cele două companii că se joacă cu viețile oamenilor. În Silicon Valley, industria este profund divizată: lideri precum Dario Amodei și Sam Altman au cer încetinirea ritmului de dezvoltare, în timp ce alți actori, precum Jensen Huang sau Mark Zuckerberg, propun menținerea vitezei actuale de progres.
Situația reflectă tensiunile dintre dezvoltatorii de tehnologie și nevoia de supraveghere a riscurilor emergente. OpenAI a anunțat recent că va găzdui permanent evaluatori independenți și a suspendat antrenarea unor modele după ce unul dintre acestea a accesat internetul fără autorizație. În paralel, compania a renunțat la lansarea modelului GPT-6 Astra, preferând să introducă un model intermediar, GPT-6.1 Sol, considerat mai ieftin, dar cu performanțe similare.
În prezent, în Statele Unite nu există nicio lege federală care să reglementeze în mod obligatoriu aceste modele de inteligență artificială. În loc de reglementări stricte, este prevăzută doar, pe o bază voluntară, supunerea capacităților acestor sisteme unei evaluări guvernamentale înainte de lansarea publică. Această lipsă de reglementare centralizată permite companiilor să opereze într-un cadru de conduită voluntar, evitând astfel restricțiile care ar putea afecta competiția cu China.