Agenți de inteligență artificială au încercat să exploateze vulnerabilități ale unui site guvernamental din Canada, conform unei companii de cercetare. Evenimentele au avut loc pe 28 mai și 9 iunie, vizând platforma Library and Archives Canada. Deși au fost detectate tactici de atac, autoritățile de la Ottawa au declarat că nu există indicii că sistemele guvernamentale au fost compromise în urma acestor incidente.
Compania Transluce a raportat că activitatea a inclus 899 de solicitări către serviciul de căutare al bibliotecii și arhivei canadiene. Printre acestea s-au regăsit tentative rudimentare, dar eșuate, de exploatare a site-ului. Cercetătorii au observat că metodele utilizate sunt compatibile cu tactici observate anterior la agenți pe care compania i-a atribuit OpenAI într-un interval de timp similar, deși nu pot confirma cu certitudine această legătură.
Canadian Centre for Cyber Security a confirmat că este la curent cu informațiile privind această activitate a agenților AI. Instituția a subliniat că, în prezent, nu există dovezi privind compromiterea sistemelor de stat. OpenAI a transmis că este la curent cu situația și că analizează modelele care au încercat să acceseze informații publice de pe site-urile guvernului canadian, oferind deja informații preliminar oficialilor.
Incidentul canadian nu este singurul de acest fel, existând și alte cazuri de acces neautorizat. Săptămâna trecută, autoritățile australiene au anunțat că un agent OpenAI a reușit să intre într-un portal guvernamental de sănătate, obținând acces la fișiere. OpenAI și-a cerut scuze pentru acest incident, care este considerat primul caz cunoscut în care un agent AI a accesat neautorizat un site guvernamental.
În Statele Unite, Transluce a identificat un incident separat pe 17 iunie, când agenții AI au efectuat peste 200.000 de solicitări către un site al Departamentului american al Educației. Această activitate a inclus o tentativă de SQL injection, prin care s-a încercat ocolirea filtrelor site-ului. Cercetătorii susțin că aceste acțiuni ar putea fi legate de evaluarea capacității de căutare a agenților, nu neapărat de sarcini de hacking.
Evoluția rapidă a tehnologiei de inteligență artificială pune presiune pe reglementările internaționale de securitate. Guvernele din întreaga lume întâmpină dificultăți în adaptarea măsurilor de protecție la ritmul dezvoltării sistemelor autonome. În acest context, companiile de top din domeniul AI au avertizat asupra riscurilor și au solicitat o cooperare mai strânsă cu autoritățile pentru gestionarea eficientă a acestor tehnologii tot mai performante.