O eroare de evaluare cauzată de utilizarea inteligenței artificiale a pus SUA în situația de a fi pe punctul de a intercepta o navă comercială chineză în Orientul Mijlociu. Incidentul, care a avut loc în timpul conflictului cu Iranul, a fost rezultatul unei interpretări greșite a datelor de către un instrument de tip chatbot. Armata americană era deja pregătită pentru acțiune, având planuri de interceptare și avioane de vânătoare în aer, înainte ca oficialii să decidă suspendarea asaltului.
Problema a apărut în urma utilizării unui instrument de tip chatbot de către un analist din cadrul Comandamentului pentru Operațiuni Speciale ale SUA. Acest instrument a procesat manifestul de încărcătură al navei chineze, combinând date de pe internet cu informații clasificate. Din cauza unei erori de corelare, sistemul a concluzionat eronat că nava transporta componente destinate unui program de arme nucleare, deși nava transporta alte materiale.
Documentul generat de inteligența artificială a fost extrem de profesionist, respectând toate tiparele oficiale în care liderii militari au încredere. Din acest motiv, raportul s-a răspândit rapid în rețeaua de comandă a armatei, iar ofițerii de rang înalt au acceptat informația ca fiind validă. O sursă din interiorul Pentagonului a descris raportul ca fiind complet fals, subliniind că acesta a fost aproape cauza unui război între cele două națiuni.
În cadrul armatei Statelor Unite, integrarea tehnologiei AI este o prioritate, de la analiza volumelor mari de date până la gestionarea bugetului. În luna ianuarie, secretarul Apărării, Pete Hegseth, a lansat Strategia de accelerare a inteligenței artificiale pentru Pentagon. Obiectivul declarat de Hegseth este de a elimina barierele birocratice și de a concentra investițiile pentru a asigura lideratul în domeniul inteligenței artificiale militare.
Totuși, presiunea internațională de a produce informații rapid crește riscul de erori. Oficialii din comunitatea de informații avertizează că tinerii analiști, fiind nativi digitali, manifestă o încredere necritică în instrumentele AI. Un oficial a subliniat riscul acestui proces, afirmând că AI-ul permite doar ajungerea mai rapidă la o idee proastă, ceea ce poate compromite deciziile de securitate națională.
Integrarea tehnologiei în structurile de apărare este un proces complex, vizând atât operațiunile de luptă, cât și managementul administrativ. În timp ce armatele caută să optimizeze procesele prin automatizare, riscurile de eroare umană și tehnologică rămân ridicate. Această evoluție subliniază necesitatea unor protocoale stricte de verificare a datelor furnizate de algoritmi în contextul tensiunilor geopolitice actuale.