Compania americană de cercetare în domeniul inteligenței artificiale Anthropic a anunțat că a blocat o tentativă de utilizare a tehnologiei sale în scopuri militare. Un grup de dezvoltatori cu legături cu Rusia a încercat să folosească agentul de programare Claude pentru a dezvolta un sistem destinat dronelor kamikaze autonome. Această operațiune, numită DroneDoc și Seraphim, viza crearea unor roiuri de drone capabile să identifice și să atace ținte, inclusiv persoane, fără intervenția unui operator direct.
Conform raportului de monitorizare publicat de Anthropic, grupul identificat sub numele de GTG-27005 pare a fi format din specialiști independenți cu legături universitare. Deși nu există dovezi directe între membrii grupului și armata rusă, activitatea acestora prezintă caracteristici ale grupului de hackeri Midnight Blizzard. Dezvoltatorii au utilizat mai multe servere virtuale pentru a evita restricțiile geografice și au folosit Claude Coding Agent pentru scrierea, verificarea și integrarea codului în fișierele proiectului.
Sistemul vizat de dezvoltare urmărea crearea unor drone cu capacități de decizie autonomă și o arhitectură distribuită. Această structură ar fi permis menținerea sincronizării dintre drone chiar și în condiții de lipsă a comunicațiilor sau distrugere a componentelor. Pentru antrenarea sistemului de recunoaștere vizuală, dezvoltatorii au folosit imagi de pe câmpul de luptă din Ucraina, colectate de pe rețelele sociale. În cadrul acestui proces, echipamentele și personalul ucrainean erau clasificate drept ținte ostile.
Simulările demonstrative au fost realizate în regiunea Donețk și în zone urbane din apropierea frontului ucrainean. Proiectul prevedea instalarea unui model lingvistic de dimensiuni redule direct pe dronă, pentru a determina acțiunile următoare: atacarea unei ținte, supravegherea sau revenirea la bază. Anthropic a identificat și blocat în total nouă conturi asociate acestui proiect, menționând că există conexiuni cu o universitate regională și cu Academia Rusă de Științe.
Situația scoate în evidență riscurile asociate rapidității cu care tehnologia AI poate fi utilizată pentru scopuri militare sau operațiuni cibernetice. În afară de dezvoltarea dronelor, un alt grup asociat Rusiei a utilizat instrumente AI pentru campanii de phishing și atacuri prin rețele Wi-Fi compromise. Această evoluție subliniază necesitatea unor mecanisme stricte de supraveghere asupra modului în care sunt dezvoltate și utilizate modelele de inteligență artificială de către utilizatori.
Dezvoltarea tehnologiilor de inteligență artificială este în continuă expansiune, influențând diverse sectoare, de la securitate la infrastructură. În timp ce unele compori precum Bridgestone se concentrează pe inovații tehnice pentru utilaje, alte dezvoltări în domeniul software și al sistemelor autonome generează dezbateri intense privind securitatea globală și utilizarea tehnologiei în conflicte de înaltă intensitate.