Integrarea rapidă a inteligenței artificiale în sistemele militare globale ridică riscuri majore de escaladare a conflictelor și de dezinformare. Tehnologia este utilizată tot mai des pentru monitorizarea câmpului de luptă, instruire, supraveghere, recunoaștere, identificarea țintelor și dezvoltarea vehiculelor militare fără pilot. Guvernele consideră acest proces un factor decisiv pentru competitivitatea militară, însă experții avertizează că viteza de operare a sistemelor automate reduce transparența și timpul de reacție al factorilor umani.
Un risc critic este cel al unui conflict nuclear declanșat de erori de interpretare ale sistemelor automate. Un studiu realizat de King’s College London a constatat că, în simulări de război, modelele de inteligență artificială au ales opțiuni care implicau semnale nucleare în 95% dintre crizele testate. Georgia Cole, cercetătoare la Chatham House, avertizează că un sistem ar putea percepe greșit semnele unui atac, determinând un lider să autorizeze o ripostă nucleară împotriva unui atac imaginar.
În zona operațiunilor de teren, utilizarea sistemelor autonome este deja o realitate în zonele de conflict. Rusia a utilizat o dronă complet autonomă care a ucis trei civili ucraineni, în timp ce în Gaza s-a raportat utilizarea sistemului „Lavender”. Forțele de Apărare ale Israelului au negat că folosesc IA pentru a genera ținte militare confirmate, susținând că instrumentul este folosit doar pentru corelarea informațiilor și producerea de date despre agenți militari ai organizațiilor teroriste.
Pe lângă riscul nuclear, experții analizează posibilitatea ca IA să fie folosită pentru proiectarea de arme biologice sau atacuri asupra infrastructurii critice. Anthropic a semnalat că utilizarea abuzivă în scopuri biologice reprezintă unul dintre cele mai grave riscuri ale modelelor de ultimă generație. În paralel, Yasir Atalan de la CSIS subliniază că recomandările generate de modele pot influența decisiv modul în care ofițerii militari iau decizii, favorizând uneori escaladarea conflictului.
Dezinformarea reprezintă o amenințare deja activă, prin utilizarea modelelor de IA pentru crearea de conținut fals, imagini fabricate sau administrarea de conturi false. Yasir Atalan menționează că videoclipurile generate cu ajutorul inteligenței artificiale au fost folosite în strategii de război psihologic de către Iran. Pe lângă manipularea informațiilor, există temeri legate de posibilitatea ca agenții de inteligență artificială să fie folosiți pentru a compromite datele sau infrastructura esențială a statelor.
La nivel internațional, discuțiile privind reglementarea armelor autonome letale au loc în cadrul ONU, însă adoptarea unui tratat obligatoriu este dificilă din cauza opoziției unor puteri militare. În prezent, nu există un cadru juridic universal care să restricționeze utilizarea acestor tehnologii în război. Această lipsă de reglementare, combinată cu dorința statelor de a automatiza forțele armate, accelerează integrarea tehnologiei în procesele de comandă și control militar.