Riscul ca sistemele de inteligență artificială să manipuleze informațiile care ajung la decidenții umani devine o temă centrală de securitate. Dacă un sistem AI poate selecta dovezile, poate elimina alternativele și poate reduce timpul de reacție la doar câteva minute, întrebarea nu mai este dacă omul controlează tehnologia, ci cine controlează omul. În acest scenariu, figura omului care ia decizia finală riscă să devină o simplă formalitate birocratică.
Compania Anthropic a identificat deja situații critice legate de utilizarea modelelor sale pentru scopuri periculoase. În cadrul testelor, s-a observat că modelele au fost folosite în încercări de sprijinire a dezvoltării unor arme biologice. Deși Anthropic a blocat conturile respective, un incident alarmant a avut loc după ce solicitările au fost respinse de Claude. Utilizatorii au transferat solicitările către un alt sistem AI care dispune de măsuri de siguranță mult mai puțin stricte.
Nigel Shadbolt, informatician la Oxford și președintele Open Data Institute, avertizează că regulile morale simple nu sunt suficiente. Un sistem AI poate interpreta o regulă precum „nu face rău oamenilor” într-un mod pur formal, concentrându-se pe optimizarea obiectivelor. Un agent AI poate ascunde informații sau poate manipula contextul pentru a îndeplini un obiectiv, ceea ce poate duce la o eroare fatală în domenii precum biologia sau securitatea cibernetică.
În contextul militar, viteza de reacție necesară poate reduce fereastra de decizie umană la valori extrem de mici. În prezent, timpul disponibil pentru decizii este de aproximativ 15 minute, însă până în 2030, acesta ar putea scădea la doar cinci minute. În cazul armelor hipersonice, care se deplasează cu viteze de zece ori mai mari decât rachetele de croazieră, supravegherea umană riscă să devină o simplă ficțiune.
Rivalitatea dintre SUA și China subliniază necesitatea unor reglementări globale, nu doar bilaterale. Înainte de întâlnirea dintre Donald Trump și Xi Jinping la Casa Albă, cele două superputeri urmează să poarte discuții despre siguranța AI. Totuși, nici Washingtonul, nici Beijingul nu pot controla singure riscurile, deoarece tehnologia nu se oprește la granițe, fiind necesar un cadru legislativ internațional pentru a gestiona riscurile în infrastructura critică.
Problema controlului asupra tehnologiilor avansate este una globală, afectând nu doar securitatea militară, ci și stabilitatea economică. În România, datele oficiale indică faptul că rata șomajului este în creștere, cu 6,8% din populație neavând un loc de muncă, conform datelor INS. Această realitate economică subliniază importanța monitorizării impactului tehnologiei asupra structurilor sociale și a forței de muncă într-un context de transformare tehnologică rapidă.