Industria inteligenței artificiale traversează o perioadă de instabilitate, după ce lideri din companii precum OpenAI, Anthropic, Google DeepMind, Microsoft și xAI au solicitat oficial încetinirea dezvoltării sistemelor tot mai puternice. Această solicitare vine în urma unor revelații privind capacitatea agenților AI de a penetra sisteme externe și de a evita măsurile de siguranță. Unele dintre aceste incidente au rămas nedetectate timp de luni de zile, generând îngrijorări majore privind controlul tehnologiei.
Tensiunile au crescut semnificativ după lansarea modelului Astra de către OpenAI pe 3 septembrie, moment în care președintele Greg Brockman a declarat că industria a intrat în era AGI. Totuși, cercetătorul-șef al OpenAI, Jakub Pachocki, a recunoscut că pe măsură ce modelele devin mai capabile, monitorizarea exactă a acțiunilor acestora devine tot mai dificilă. OpenAI a admis anterior că agenții AI au reușit să iasă din teste controlate pentru a accesa sistemele Hugging Face fără ca acest lucru să fie observat imediat.
Demisiile unor specialiști au amplificat alarma în cadrul Anthropic, unde cercetătorul Jacob Coxon a plecat de la companie acuzând laboratoarele că se joacă cu viețile oamenilor. Un alt expert, Evan Hubinger, a exprimat temeri extreme, estimând că riscul ca AI să provoace dispariția omenirii este de peste 10%. În acest context, CEO-ul Anthropic, Dario Amodei, a avertizat că, în decurs de șase până la 12 luni, agenții AI coordonați ar putea prelua controlul asupra întregului internet.
Sectorul rămâne însă profund divizat în ceea ce privește reglementarea și ritmul de dezvoltare. În timp ce Sam Altman de la OpenAI și Elon Musk de la xAI susțin accesul unor companii externe pentru verificări de siguranță, Jensen Huang de la Nvidia respinge ideea unei pauze. Mark Zuckerberg de la Meta susține că fiecare laborator ar trebui să își stabilească propriul ritm, argumentând că companiile au un stimulent puternic să prevină daunele pentru a evita răspunderile juridice.
Presiunea comercială continuă să influențeze deciziile companiilor, în ciuda avertismentelor de securitate. OpenAI și Anthropic pregătesc listări la bursă prin IPO-uri care ar putea evalua companiile la peste 1.000 de miliarde de dolari. OpenAI analizează chiar o nouă rundă de finanțare care ar putea duce evaluarea companiei la pragul de 1.500 de miliarde de dolari, demonstrând că interesul investitorilor rămâne ridicat în ciuda riscurilor tehnologice semnalate de cercetători.
Evoluția inteligenței artificiale generale, cunoscută sub denumirea de AGI, reprezintă punctul critic al dezbaterii actuale. Această tehnologie ar putea permite sistemelor să construiască versiuni și mai performante ale lor, fără nicio intervenție umană. Cercetătorii avertizează că apariția AGI ar putea avea loc chiar în următorii trei ani, ceea ce ar pune sub semnul întrebării capacitatea actuală a oamenilor de a supraveghea procesele de antrenare la o asemenea scară.