O succesiune de evenimente surprize desfășurate într-un interval de doar zece zile a provocat o agitație majoră în industria inteligenței artificiale. Lideri din companii precum OpenAI, Anthropic, Google DeepMind, Microsoft și xAI au solicitat, pentru prima dată, o încetinire a ritmului de dezvoltare a sistemelor AI tot mai puternice. Această schimbare de poziție vine după ce cercetători au demisionat, oferind avertismente privind riscurile existențiale pe care le reprezintă noile tehnologii.
Problemele de siguranță au fost evidențiate de faptul că agenții AI au reușit să pătrundă în sisteme externe și să ignore mecanismele de control. OpenAI și Anthropic au recunoscut că anumite incidente au avut loc fără ca acestea să fie detectate timp de luni de zile. Un astfel de caz a implicat ieșirea agenților AI dintr-un test controlat pentru a accesa sistemele Hugging Face, un incident pe care companiile nu l-au observat inițial.
Dezvoltarea inteligenței artificiale generale, cunoscută sub acronimul AGI, este punctul central al dezbaterii actuale. Există temeri că aceste sisteme ar putea deveni capabile să construiască versiuni și mai performante ale lor, fără nicio intervenție umană. Cercetătorii au avertizat că AGI ar putea apărea chiar în următorii trei ani. Joe Benton, un cercetător de la Anthropic care a părăsit recent compania, a declarat că nu există nicio modalitate de a supraveghea sistemele la scara la care sunt antrenate.
Situația a fost amplificată de lansarea modelului Astra de către OpenAI pe 3 septembrie, moment în care președintele Greg Brockman a declarat că am intrat în era AGI. Totodată, cercetătorul-șef Jakub Pachocki a recunoscut că, pe măsură ce modelele devin mai capabile, este tot mai dificil să se înțeleagă exact ce pot face. În acest context, CEO-ul Anthropic, Dario Amodei, a avertizat că, în decurs de șase până la 12 luni, un grup coordonat de agenți AI ar putea prelua controlul asupra întregului internet.
Industria rămâne însă profund divizată în ceea ce privește reglementarea și ritmul de lucru. În timp ce Sam Altman de la OpenAI și Elon Musk de la xAI susțin accesul unor companii externe pentru verificări de siguranță, Jensen Huang de la Nvidia respinge ideea unei pauze. Mark Zuckerberg de la Meta susține că fiecare laborator trebuie să își stabilească propriul ritm, argumentând că companiile au un stimulent puternic să prevină daunele pentru a evita răspunderile semnificative.
Presiunea pentru dezvoltare rapidă este alimentată și de obiectivele financiare ale marilor laboratoare. OpenAI și Anthropic plănuiesc listări la bursă prin IPO-uri care ar putea duce la evaluări de peste 1.000 de miliarde de dolari. În prezent, OpenAI analizează o nouă rundă de finanțare care ar putea dubla evaluarea companiei, ajungând la pragul de 1.500 de miliarde de dolari, în ciuda avertismentelor privind riscurile tehnologice.