Un incident informatic de o nouă generație a fost raportat în Spania, în care un agent de inteligență artificială a reușit să parcurgă autonom mai multe etape ale unei intruziuni. Sistemul a reușit să identifice vulnerabilități, să se autentifice și să exploreze rețeaua până când a ajuns la date personale și facturi. Aceasta este prima astfel de notificare oficială adresată Agenției Spaniole pentru Protecția Datelor (AEPD) privind un atac realizat prin intermediul unui agent AI.
Atacul a fost facilitat de un agent AI conectat la un model de limbaj, însă AEPD nu a dezvăluit identitatea modelului utilizat sau organizația care a fost afectată de această breșă. Agentul a început procesul prin căutarea unor vulnerabilități specifice în fișiere, reușind ulterior să finalizeze procesul de autentificare în sistemul vizat. Odată intrat în rețea, sistemul nu s-a limitat la sarcina inițială, ci a continuat să exploreze aplicația în mod autonom.
După ce a identificat o breșă de securitate, agentul AI a reușit să acceseze și să modifice date personale, precum și să extragă facturi. Autoritatea subliniază că acest incident nu înseamnă că inteligența artificială a decis singură să lanseze atacul, ci că un terț a folosit agentul ca pe un instrument. Autonomia a constat în capacitatea de a interpreta rezultatele și de a-și adapta acțiunile fără instrucțiuni constante de la un operator uman.
Utilizarea acestui tip de tehnologie nu implică faptul că infrastructura companiei care furnizează modelul de limbaj a fost compromisă sau că instrumentul a fost creat pentru scopuri malițioase. Totuși, agenții AI pot transforma procesul de atac prin divizarea unui obiectiv în sarcini intermediare, executarea de cod și utilizarea diverselor instrumente. Un astfel de sistem poate opera cu viteza unei mașini, testând simultan mai multe căi de acces înainte ca detectarea să fie posibilă.
Autoritatea avertizează că mecanismele de securitate construite pentru atacuri manuale pot deveni insuficiente în fața vitezei de adaptare a unui agent AI. Organizațiile trebuie să își revizuiască sistemele de protecție și timpii de reacție, deoarece un agent care obține acces la un token cu permisiuni extinse poate accesa rapid multiple servuri. AEPD menționează că acest caz este unul singur și necesită o analiză suplimentară pentru concluzii definitive.
Evoluția tehnologiei AI în domeniul securității cibernetice marchează o schimbare de paradigmă, trecând de la riscuri teoretice la incidente reale de intruziune autonomă. Capacitatea modelelor de limbaj de a interpreta date și de a executa cod reprezintă un nou nivel de complexitate pentru protecția datelor. Această evoluție pune sub semnul întrebării eficacitatea metodelor actuale de monitorizare a activităților informatice în cadrul organizațiilor mari.