Experți în securitate din Statele Unite și China au formulat măsuri pentru reducerea riscurilor generate de utilizarea inteligenței artificiale în domeniul nuclear. Recomandările au fost prezentate în cadrul dialogului SUA-China privind inteligența artificială și securitatea națională, subliniind pericolul unui incident cibernetic provocat de un sistem autonom. Într-un astfel de scenariu, cele două puteri ar putea avea doar câteva minute pentru a stabili dacă sunt sub atac, conform informațiilor publicate de AFP.
Melanie Sisson, cercetătoare la Brookings Institution, și Tianjiao Jiang, profesor asociat la Universitatea Fudan, propun stabilirea unor linii roșii pentru sistemele nucleare. Sisson susține că oamenii trebuie să păstreze autoritatea exclusivă de a iniția atacuri cibernetice bazate pe AI împotriva sistemelor de comandă, control și comunicații nucleare sau a infrastructurilor strategice. Un sistem autonom ar putea funcționa defectuos sau ar putea fi compromis, făcând imposibilă identificarea rapidă a naturii unui incident.
În același timp, Tianjiao Jiang recomandă definirea unui concept comun de „control uman semnificativ” pentru a evita interpretările diferite ale autonomiei sistemelor. Jiang propune ca AI să nu poată decide în mod independent utilizarea armelor nucleare sau atacarea sistemelor de comandă. Pe lângă domeniul nuclear, expertul recomandă măsuri de protejare a infrastructurilor critice din sectoare precum energia, sănătatea sau finanțele, pentru a preveni escaladarea rapidă a conflictelor.
O altă propunere vizează crearea unei linii telefonice militare directe între SUA și China pentru a gestiona incidentele cauzate de AI. Jiang avertizează că schimburile cibernetice automate pot fi prea rapide pentru intervenția umană, ceea ce ar putea duce la o interpretare greșită a unei reacții defensive ca fiind un atac. O linie directă ar permite clarificarea rapidă a faptului că o operațiune este accidentală sau încă în etapa de investigare.
Criticile privind eficacitatea acestor măsuri au venit de la Carla Freeman, de la Școala de Studii Internaționale Avansate Johns Hopkins. Aceasta a amintit incidentul balonului spion din februarie 2023, când oficialii chinezi nu au răspuns apelurilor americane. Conform lui Freeman, structura ierarhică a birocrației chineze poate întârzia comunicarea, deoarece nicio entitate din sistem nu dorește să comunice până când conducerea superioară și actorii relevanți din cadrul statului-partid nu decid un răspuns, proces care poate dura zile întregi.
Problematica inteligenței artificiale este deja integrată în structurile de control ale Chinei, fiind inclusă în portofoliul Departamentului de Control al Armelor din cadrul Ministerului de Externe. La o reuniune ONU de la Geneva, ambasadorul Shen Jian a avertizat că AI militară poate afecta stabilitatea strategică și poate crește riscul de escaladare a conflictelor. În Statele Unite, responsabilitățile sunt împărțite între Consiliul de Securitate Națională al Casei Albe, Departamentul de Stat și Pentagon.