O echipă de cercetători din securitatea cibernetică a reușit să demonstreze un lanț de vulnerabilități care ar putea permite accesul la infrastructura internă de dezvoltare a OpenAI. Experimentul, realizat de echipa Hacktron AI, a demonstrat că un atacator poate ajunge la codul sursă al companiei utilizând modele de inteligență artificială. Această descoperire a fost raportată oficial prin programul de recompense pentru identificarea vulnerabilităților al OpenAI, compania acordând o sumă de 6.500 de dolari pentru acest rezultat.
Procesul a început printr-o problemă de securitate identificată în sistemul de procesare a imaginilor de pe forumul comunității OpenAI, care utilizează platforma Discourse. Cercetătorii au descoperit că un fișier imagine special conceput, în format HEIF/HEIC, putea exploata o bibliotecă software pentru a permite execuția de cod la distanță (RCE) pe server. În acest proces, modelele Claude au jucat un rol crucial, modelul Opus 4.8 neputând genera o soluție complet funcțională, însă noul model Claude Opus 5 a reușit să genereze un exploit funcțional într-un timp de doar trei ore.
După ce accesul la infrastructura forumului a fost obținut, echipa a identificat o a doua vulnerabilitate în sistemul de autentificare al OpenAI. Această problemă permitea obținerea unor tokenuri de autentificare care puteau fi folosite pentru accesarea serviciilor precum ChatGPT și Codex. Unul dintre conturile afectate aparținea unui angajat OpenAI, acesta fiind conectat la organizația internă GitHub. Prin acest mecanism, atacatorii ar fi putut trece de la un serviciu extern către sistemele de dezvoltare software ale companiei.
Pentru a valida succesul experimentului, cercetătorii au folosit contul angajatului pentru a crea o cerere în monorepo-ul privat al OpenAI. Un monorepo este un repository Git de mari dimensiuni unde sunt păstrate codul și componentele proiectelor unei companii. Echipa a confirmat că a reușit să acceseze acest repository, dar a optat să se oprească înainte de a copia sau analiza orice informație sensibilă. Întregul proces, de la descoperirea inițială până la demonstrația de acces, a durat mai puțin de 72 de ore.
După raportarea incidentului, OpenAI a intervenit pentru a remedia problemele identificate, care au fost localizate atât în serviciul Discourse, cât și în sistemul propriu de autentificare. Compania a luat măsuri de securitate, inclusiv revocarea tokenurilor și a sesiunilor afectate, precum și limitarea permisiunilor acestora. Experimentul subliniază o provocare majoră pentru industria AI, deoarece modelele care ajută la securitate pot fi utilizate și pentru a accelera dezvoltarea de atacuri informatice complexe.
În acest context, Anthropic a menționat că, deși modelul Opus 5 nu este antrenat special pentru securitate, performanțele sale au evoluat odată cu capacitățile generale. Compania oferă acces la versiuni cu restricții suplimentare prin programul Cyber Verification Program. Această evoluție tehnologică pune în evidență modul în care modelele avansate de limbaj pot fi instrumente de testare pentru vulnerabilități software, facilitând atât apărarea, cât și potentiala ofensivă în mediul digital.