Liderii unor companii majore de tehnologie, precum Anthropic și OpenAI, analizează în cadrul unor discuții private scenarii care implică un incident catastrofal provocat de inteligența artificială. Conform informațiilor publicate de Axios, reprezentanții industriei se tem că un astfel de eveniment ar putea avea loc în intervalul următoarelor șase până la 12 luni. Un asemenea incident ar putea declanșa o criză socială și politică fără precedent, schimbând radical modul în care tehnologia este reglementată la nivel internațional.
Printre scenariile evaluate ca fiind plauzibile se numără un atac cibernetic de amploare, capabil să întrerupă accesul la servicii critice precum internetul, electricitatea, apa potabilă sau serviciile financiare. Un astfel de eveniment ar putea fi cauzat fie de un grup necontrolat de agenți autonomi de inteligență artificială în timpul testelor interne, fie de un atacator care exploatează modelele existente într-un mod neașteptat. Aceste riscuri ar putea alimenta o neîncredere profundă a publicului în tehnologie și în liderii care o dezvoltă.
Presiunea politică ar putea cădea direct pe figuri precum Sam Altman, directorul OpenAI, sau Dario Amodei, directorul general al Anthropic. De asemenea, președintele american Donald Trump ar putea fi implicat în dezbateri, având susținători care cer reglementări mai stricte pentru sectorul respectiv. OpenAI a confirmat însă că organizează exerciții interne pentru a se pregăti de crize, utilizând echipe de tip „echipe roșii” specializate în simularea atacurilor pentru a identifica vulnerabilitățile sistemelor.
O preocupare majoră vizează reacția Congresului Statelor Unite în urma unei crize, existând temeri privind adoptarea unor măsuri legislative drastice. Un incident grav ar putea duce la presiuni pentru limitarea dezvoltării tehnologiei, însă autoritățile vor trebui să echilibreze reducerea riscurilor cu evitarea perturbărilor economice. Deoarece economia globală devine tot mai dependentă de infrastructura AI, o suspendare bruscă a utilizării acestora ar putea avea consecințe economice masive și neprevăzute.
Riscurile sunt deja vizibile prin atacurile cibernetice asistate de AI, precum compromiterea sistemelor a două bănci din Coreea de Sud. În acest caz, un hacker din China ar fi utilizat instrumente bazate pe modele chinezești, inclusiv DeepSeek, pentru a fura datele a zeci de mii de clienți, folosind și Claude Code pentru a identifica modalități de comercializare a informațiilor. Această evoluție demonstrează dificultatea de a combate atacurile pe măsură ce instrumentele de inteligență artificială devin tot mai accesibile pentru terți.
Contextul actual al securității cibernetice subliniază vulnerabilitatea sistemelor prin răspândirea modelelor cu ponderi deschise, care pot fi descărcate și utilizate în scopuri rău intenționate. Experții avertizează că apărarea eficientă va necesita, la rândul său, utilizarea unor sisteme AI capabile să detecteze și să neutralizeze amenințările. În acest cadru, procesul legislativ riscă să rămână în urmă față de viteza de evoluție a tehnologiei, lăsând infrastructura economică expusă.