Un incident grav de natură geopolitică a avut loc în primăvara acestui an, când un raport eronat generat de inteligența artificială a pus Statele Unite și China pe marginea unui conflict armat. Informația falsă a declanșat o reacție militară rapidă a forțelor americane, care au pregătit interceptarea unei nave chineze, operațiune care a fost anulată doar după verificări suplimentare. Incidentul scoate în evidență riscurile majore ale utilizării tehnologiei AI în operațiunile militare actuale.
Conform investigației CNN, raportul distribuit în interiorul armatei americane susținea că o navă chineză aflată în Orientul Mijlociu transporta componente destinate unui program de arme nucleare. Pe baza acestor date, forțele americane au primit ordinul de a intercepta vasul, aviația militară a fost trimisă în zonă, iar militarii se pregăteau efectiv să urce la bordul navei. Totuși, responsabilii americani au constatat că informația era greșită, anulând misiunea chiar înainte de declanșarea acesteia.
Eroarea a fost cauzată de utilizarea unui chatbot de către un analist militar care a căutat informații despre o navă chineză menționată într-un raport al Comandamentului pentru Operațiuni Speciale al SUA în Pacific. Sistemul AI a combinat datele clasificate cu informații de pe internet, concluzionând eronat că nava transporta componente nucleare. Nu s-a clarificat dacă instrumentul folosit a fost un produs comercial sau un sistem dezvoltat special pentru armată, dar raportul final a fost distribuit pe canalele oficiale.
Analistul a folosit instrumentul AI pentru a compila informațiile într-un nou raport de intelligence, care a fost ulterior utilizat în procesul de luare a deciziilor. Sursele citate de CNN menționează că armata americană utilizează tot mai mult inteligența artificială în procesele de identificare și selectare a țintelor. Această dependență ridică probleme de siguranță, deoarece regulile privind supravegherea umană asupra deciziilor critice rămân un subiect sensibil în cadrul structurilor militare.
Discuțiile privind riscurile utilizării AI în sistemele militare sunt tot mai intense la nivel internațional, fiind necesare mecanisme de siguranță stricte. Experți americani și chinezi au propus recent reguli de control inspirate din mecanismele de control al armelor nucleare. Aceste propuneri vizează menținerea controlului uman asupra deciziilor critice și stabilirea unor canale directe de comunicare, pentru a evita situațiile în care AI ar putea provoca o escaladare accidentală a tensiunilor.
Incidentul reflectă vulnerabilitatea sistemelor de intelligence în fața erorilor de procesare a datelor de către algoritmi. În contextul actual, unde tehnologia avansează rapid, gestionarea riscurilor de dezinformare este vitală pentru stabilitatea globală. Dependența de instrumente precum chatbot-urile pentru generarea de rapoarte oficiale poate duce la interpretări eronate ale realității, transformând o simplă eroare de calcul într-o posibilă criză diplomatică și militară între marile puteri.