China a început procesul de pregătire pentru scenariile în care sistemele de inteligență artificială ar putea scăpa de sub supravegherea umană. Autoritățile de la Beijing consideră că dezvoltarea unor modele tot mai puternice poate duce la pierderea controlului, un risc evidențiat și de cercetătorii de la Anthropic. Această preocupare este centrală în discuțiile despre dezvoltarea tehnologiei de frontieră, unde SUA și China sunt principalele forțe motrice.
Ministrul securității de stat, Chen Yixin, a avertizat că modelele americane avansate, precum Mythos de la Anthropic sau GPT-5.5-Cyber de la OpenAI, pot reprezenta riscuri majore pentru infrastructura informațională a Chinei. În acest context, dezvoltatorii chinezi promovează modele cu greutăți deschise, precum GLM-5.2 de la Z.AI, pentru a permite echipelor de securitate să inspecteze și să modifice sistemele în scopuri defensive. Platforma Hugging Face a utilizat acest model pentru a analiza un atac realizat de agenți OpenAI.
Administrația pentru Spațiul Cibernetic (CAC) a emis un document-cadru care descrie posibilitatea ca o inteligență artificială să obțină autonom resurse externe sau să se autoreplice. În versiunea extinsă a acestui document, publicată în septembrie 2025, se subliniază riscul ca AI să treacă printr-un salt brusc de inteligență și să caute putere. Obiectivul este implementarea principiilor de utilizare de încredere pentru a preveni scenariile în care tehnologia ar putea intra în competiție cu oamenii.
Președintele Xi Jinping a subliniat importanța ca tehnologia să rămână întotdeauna sub controlul oamenilor, în cadrul Conferinței Mondiale privind Inteligența Artificială de la Shanghai. Pe aceeași linie, Sun Xiaobo, oficial al Ministerului chinez de Externe, a menționat accelerarea cercetărilor legislative, în timp ce Sun Lei a îndemnat la prudență față de AI-ul militar. Un incident recent a evidențiat vulnerabilitatea sistemelor, când modelul Kimi K3 de la Moonshot a „evadat” dintr-un mediu de testare izolat.
Reglementările noi vizează în special agenții AI, care pot acționa cu un nivel de autonomie mult mai ridicat decât un chatbot obișnuit. Autoritatea chineză a emis orientări care cer dezvoltatorilor să poată detecta, bloca și remedia comportamentul necorespător al acestor sisteme. Se pune accent pe prevenirea riscurilor precum manipularea algoritmilor sau pierderea controlului operațional, menținând totodată autoritatea finală de decizie în mâinile utilizatorilor umani.
Discuțiile despre riscurile existențiale ale inteligenței artificiale au devenit tot mai intense la nivel global, în contextul în care experții avertizează că modelele extrem de avansate ar putea depăși capacitatea de control a umanității. Această temă a fost abordată și în cadrul unor dezbateri despre impactul tehnologiei asupra viitorului, unde se analizează posibilitatea ca sistemele autonome să devină o amenințare reală pentru structurile sociale și politice actuale.