O vulnerabilitate critică identificată în sistemele OpenAI a demonstrat cât de rapid pot evolua capacitățile de atac ale inteligenței artificiale. Trei cercetători din cadrul startup-ului Hacktron AI au reușit să pătrundă în sistem prin exploatarea unei vulnerabilități legate de Discourse, platforma de comunicare utilizată de OpenAI. Această breșă a permis accesarea conturilor ChatGPT sau Codex, instrumentului de programare al companiei, punând în pericol datele utilizatorilor.
Miza acestui incident de securitate depășește simpla accesare a unui cont de chat, deoarece utilizatorii pot conecta ChatGPT și Codex la diverse aplicații și fișiere externe. Cercetătorii au subliniat că aria de date expuse putea fi uriașă, incluzând servicii precum GitHub, utilizat pentru gestionarea codului software, platforma de comunicare Slack sau chiar conturi de e-mail. Echipa a limitat însă exploatarea la nivelul necesar pentru a demonstra problema de securitate.
Un aspect remarcabil al experimentului a fost modul în care modelele AI de la Anthropic au interacționat cu vulnerabilitatea. Inițial, modelul Claude Opus 4.8, lansat în luna mai, a întâmpinat dificultăți în identificarea unei căi eficiente de intrare prin Discourse. Totuși, după trecerea la noul model, Claude Opus 5, procesul a fost mult mai rapid. Conform datelor de la Hacktron AI, noul model a reușit să transforme vulnerabilitatea într-o metodă funcțională de atac în aproximativ trei ore.
După descoperirea acestui incident, Hacktron AI a informat rapid OpenAI despre problemele de securitate identificate. Compania a confirmat pentru AFP incidentul și a asigurat publicul că vulnerabilitățile au fost deja remediate. „Le mulțumim cercetătorilor pentru că ne-au contactat și ne-au împărtășit observațiile lor”, a declarat un purtător de cuvânt al OpenAI, în contextul în care sistemele de inteligență artificială pot fi folosite atât pentru securitate, cât și pentru atacuri.
Evoluția rapidă a capacităților AI subliniază o provocare majoră în domeniul securității cibernetice, unde instrumentele pot fi folosite atât pentru repararea, cât și pentru găsirea unor metode de exploatare. Cazul evidențiază riscul ca sistemele avansate să identifice autonom breșe în infrastructuri software complexe. Această competiție între modelele de la Anthropic și OpenAI arată cât de mult contează viteza de procesare în identificarea vulnerabilităților de sistem.
Discuțiile despre impactul inteligenței artificiale au devenit o temă centrală la nivel global, ajungând chiar pe masa Consiliului de Securitate al ONU. În timp ce modele precum Claude sau ChatGPT sunt utilizate intens în scopuri de productivitate, experții avertizează asupra riscurilor de securitate pe care noile generații de modele pot genera. Această evoluție tehnologică necesită o monitorizare constantă a modului în care AI-ul poate fi utilizat în scopuri de hacking.