Compania de cercetare și siguranță în domeniul inteligenței artificiale, Anthropic, a anunțat că a blocat o încercare de a dezvolta software pentru drone autonome. Un grup de dezvoltatori cu legături în Rusia a încercat să utilizeze asistentul de programare Claude pentru a crea sisteme destinate dronelor kamikaze. Această tehnologie era proiectată să permită dronelor să selecteze și să atace ținte, inclusiv persoane, fără a mai necesita intervenția unui operator uman.
În raportul publicat de Anthropic, grupul identificat sub indicativul GT_27005 a folosit asistentul Claude pentru scrierea și revizuirea codului software. Această operațiune, numită DroneDoc sau Seraphim, a implicat utilizarea unor servere virtuale pentru a evita restricțiile geografice. Deși sistemul era destinat scopurilor militare, membrii grupului au fost identificați ca fiind probabil specialiști independenți din mediul universitar, fără legături directe confirmate cu Forțele Armate Ruse.
Sistemul de control era conceput pentru a gestiona operațiuni de tip roi, asigurând coordonarea și sincronizarea între drone chiar și în absența comunicațiilor. Dezvoltatorii au integrat codul cu software de simulare și modele de resurse de calcul închiriate de la furnizori comerciali. Un model lingvistic compact urma să fie instalat direct la bordul dronelor pentru a decide dacă se continuă supravegherea, se atacă o altă țintă sau se întoarce la bază.
Pentru antrenarea sistemului de viziune computerizată, dezvoltatorii au utilizat imagini din conflictele din Ucraina, colectate de pe rețelele de socializare. În acest proces, echipamentele și personalul ucrainean erau identificați ca ținte ostile, în timp ce sistemele militare rusești erau exceptate din lista de atac. Simulările au fost efectuate în regiunea Donețk, vizând orașe de pe linia frontului și coridoare de transport relevante.
Anthropic a reușit să identifice și să blocheze un total de nouă conturi asociate acestui proiect de dezvoltare. Pe lângă o universitate regională, investigațiile companiei au scos la lumină și conexiuni cu Academia Rusă de Științe. Raportul subliniază că utilizarea inteligenței artificiale pentru atacuri cibernetice, inclusiv campanii de phishing și distribuire de malware împotriva oficialilor guvernamentali din Ucraina, este o problemă în creștere.
Evoluția tehnologiei de război în zona conflictului este marcată de o integrare tot mai profundă a sistemelor autonome. În contextul actual, utilizarea dronelor în conflicte rămâne un subiect de intensă dezbatere, în timp ce riscurile legate de dezvoltarea necontrolată a inteligenței artificiale generează îngrijorări globale privind supravegherea tehnologiei.