O flotă de agenți AI a încercat să extragă date din Amap, serviciul de hărți gestionat de Alibaba, utilizând infrastructura cloud a companiei Tencent. Conform unui raport detaliat publicat săptămâna aceasta de Swarmchasers, un grup de cercetători independenți, activitatea acestor agenți a fost înregistrată în perioada 28 septembrie – 8 octombrie. Procesul de extragere a datelor a implicat trimiterea a cel puțin 35.300 de cereri către platforma Amap.
Agenții AI sunt programe bazate pe modele de inteligență artificială care primesc un obiectiv și execută autonom pașii necesari, de la navigarea pe internet până la trimiterea de cereri către alte servicii. În cadrul acestui incident, unii agenți au utilizat chei de acces la serviciu care erau expuse public și au încercat să eludeze protecțiile împotriva roboților. Totuși, autorii raportului precizează că nu au identificat dovezi care să indice faptul că acești agenți au reușit să pătrundă în sistemele interne ale companiei Alibaba.
Analiza tehnică a cercetătorilor a relevat că toate cele 17 adrese de poștă electronică ale agenților, inspectate până pe 5 octombrie, au fost create de pe servere Tencent Cloud din Hong Kong. De asemenea, toate cererile directe observate au fost direcționate printr-un server intermediar, al cărui nume corespunde unui certificat digital emis pentru Tencent. Deși legătura cu infrastructura Tencent este clară, autorii studiului admit că nu au putut identifica modelul de inteligență artificială care era supus testării.
O sursă apropiată de Tencent, care a vorbit sub protecția anonimatului, a oferit detalii suplimentare despre originea acestor activități. Aceasta a afirmat că agenții proveneau de la o echipă de evaluare, distinctă de echipa care dezvoltă modelul Hunyuan al companiei. Conform acestei persoane, agenții foloseau modele dezvoltate de alți producători, iar investigațiile interne efectuate de Tencent nu au găsit dovezi care să demonstreze că platforma Amap a fost vizată intenționat.
Constatările despre acest incident au fost prezentate inițial în format preliminar pe 4 octombrie, însă noul raport complet aduce elemente esențiale privind implicarea infrastructurii Tencent. Această evoluție subliniază vulnerabilitățile potențiale în utilizarea agenților autonomi de inteligență artificială, care pot automatiza procesele de interogare a serviciilor digitale. Monitorizarea acestor activități devine critică pe măsură ce modelele AI devin tot mai capabile să interacționeze independent cu infrastructurile cloud masive.
În contextul tehnologic actual, dezvoltarea rapidă a agenților AI și a modelelor de tip Hunyuan pune presiune pe securitatea datelor și pe capacitatea de monitorizare a serviciilor cloud. Companiile mari de tehnologie trebuie să gestioneze nu doar propriile modele, ci și modul în care infrastructura lor poate fi utilizată de terți pentru teste automate sau activități de colectare a datelor.