Liderii unor companii americane de inteligență artificială solicită guvernelor să intervină pentru a menține sub control dezvoltarea modelelor tot mai puternice. În timp ce în SUA discuțiile se concentrează pe evaluări independente și cooperare internațională, China dispune deja de un sistem complex de reglementare. Acest mecanism chinez include înregistrarea algoritmilor, evaluări de securitate, standarde tehnice și reguli specifice pentru conținutul generat de inteligența artificială.
Dario Amodei, directorul executiv al Anthropic, a cerut recent guvernelor să intervină pentru a încetini ritmul dezvoltării modelelor de IA de frontieră. Propunerea sa vizează introducerea unor evaluatori independenți în cadrul companiilor de profil și stabilirea unor reglementări prin cooperare între guvernele statelor democratice. Amodei a pledat, de asemenea, pentru existența unor acorduri internaționale cu China privind testarea sistemelor de IA, utilizările periculoase ale tehnologiei și ritmul de dezvoltare.
Beijingul a început reglementarea algoritmilor de recomandare înainte de explozia serviciilor de IA generativă, aplicând reguli tehnologiilor care selectează sau filtrează conținutul. Companiile trebuie să analizeze funcționarea algoritmilor, să protejeze datele personale și să ofere utilizatorilor control. Ulterior, au fost introduse reguli privind „deep synthesis” pentru conținutul generat sau modificat artificial, obligând companiile să autentifice utilizatorii și să identifice conținutul sintetic care poate fi confundat cu cel autentic.
În septembrie, China a publicat „AI Safety Governance Framework 3.0”, sub îndrumarea Administrației Cyberspace din China, pentru a aborda riscurile agenților autonomi. Acest cadru extinde analiza către sisteme capabile să îndeplinească sarcini cu un grad mare de autonomitate, identificând riscuri precum comportamentele nedorite. Documentul pune accent pe menținerea controlului uman și pe posibilitatea ca evoluția tehnologică să depășească capacitatea oamenilor de a anticipa și controla procesele de învățare și optimizare autonomă.
Dezbaterile din Statele Unite se concentrează pe responsabilitatea companiilor în cazul în care sistemele provoacă daune și pe necesitatea unui cadru juridic clar. Administrația Trump a favorizat o abordare mai puțin restrictivă, punând accent pe dezvoltarea industriei și limitarea reglementărilor la nivelul statelor. Această poziție diferă de modelul chinez, unde regulile sunt strâns legate de controlul informațiilor și al conținutului online, ridicând probleme legate de libertatea de exprimare.
Analizele experților de la Carnegie Endowment for International Peace subliniază că Statele Unite și China, fiind principalii dezvoltatori ai sistemelor avansate, au un rol crucial în gestionarea riscurilor. Deși rămân competitori tehnologici, ambele țări ar trebui să dezvolte canale stabile de dialog privind siguranța IA. Această necesitate de cooperare apare pe măsură ce agenții de IA primesc acces la sisteme informatice, baze de date și servicii din lumea reală.