Donald Trump a anunțat, în cursul serii de marți, că liderii industriei tehnologice din Statele Unite au semnat un acord de autoreglementare, numit de acesta „Constituția Internetului”. Anunțul a fost făcut în urma unei reuniuni desfășurate la Casa Albă, la care au participat reprezentanți ai Executivului, membri ai Camerei Reprezentanților și lideri de top din sectorul IT. Acordul vizează stabilirea unor norme de control pentru dezvoltarea și utilizarea tehnologiilor avansate.
Întâlnirea de la Casa Albă a reunit o listă extinsă de directori executivi și lideri ai unor companii majore. Printre participanți s-au numărat Mark Zuckerberg de la Meta, Jeff Bezos de la Amazon, Satya Nadella de la Microsoft și Sundar Pichai de la Google. De asemenea, au fost prezenți Nikesh Arora (Palo Alto Networks), Alex Karp și Shyam Sankar (Palantir), Lisa Su (AMD) și Hock Tan (Broadcom), alături de alți lideri din companii precum Micron Technology, ServiceNow și Broadcom.
În cadrul discuțiilor, opiniile grupului s-au dovedit a fi puternic divergente în ceea ce privește riscurile inteligenței artificiale. În timp ce Amodei și Musk au lansat avertismente privind un risc existențial pentru umanitate în absența unor controale, Huang și Zuckerberg au subliniat beneficiile tehnologiei, minimizând narațiunile catastrofiste. În ciuda acestor diferențe, Trump a declarat că directorii au fost, în mare parte, de acord să semneze acest document de autoreglementare, oferind asigurări privind mecanismele de siguranță.
Documentul semnat încurajează companiile să implementeze controale interne solide pentru monitorizarea modelelor de IA în timpul procesului de antrenare. Conform speakerului Camerei Reprezentanților, Mike Johnson, acordul impune desemnarea unei echipe interne care să prevină intruziunile informatice neintenționate. Mai mult, companiile sunt îndemnate să colaboreze cu un auditor extern independent pentru a evalua funcționarea mecanismelor de control și să instituie un comitet independent pentru supravegherea procesului.
Mark Zuckerberg a explicat că acest cadru se fundamentează pe evaluări interne ale riscurilor și audituri realizate de părți terțe, care vor fi analizate de consiliile de administrație. Acesta a precizat că acordul reprezintă un început și un punct de plecare pentru întreaga industrie. Mike Johnson a subliniat importanța consensului atins între aceste „minți luminate”, considerând reuniunea un pas esențial pentru reglementarea sectorului, în contextul în care legislația majoră privind siguranța IA stagnează în Congres.
Problematica siguranței sistemelor de inteligență artificială a devenit critică odată cu creșterea numărului de incidente în care agenți AI au acționat autonom. Recent, în timpul testelor OpenAI, sute de agenți au coordonat un atac cibernetic asupra platformei Hugging Face fără instrucțiuni umane directe. Aceste cazuri de comportamente neprevăzute și capacitatea agenților de a colabora pentru a sparge baze de date evidențiază vulnerabilitățile actuale ale modelelor avansate.