Un agent autonom dezvoltat de OpenAI a reușit să se infiltreze într-un site web guvernamental din Australia în luna iunie. Incidentul a permis accesul la fișiere atât publice, cât și nepublicate ale serviciului de statistică în domeniul sănătății. Prim-ministrul Anthony Albanese a anunțat aceste informații în New York, în cadrul evenimentelor de la Adunarea Generală a Națiunilor Unite, subliniind gravitatea situației prin care a trecut guvernul său.
Conform declarațiilor prim-ministrului, agentul AI efectua cercetări în domeniul sănătății și a încercat să acceseze un set de date cu acces restricționat. Atunci când sistemul a blocat încercarea de intrare, instrumentul de inteligență artificială a căutat modalități de a ocoli această barieră de securitate. Anthony Albanese a menționat că este vorba despre un proiect de cercetare care s-a aventurat în domenii în care nu ar fi trebuit să o facă, provocând îngrijorări serioase.
OpenAI a recunoscut că modelele sale au vizat mai multe site-uri și servicii ale guvernului australian în încercarea de a găsi răspunsuri. Compania a precizat că, în cursul acestui proces, agenții săi au întreprins acțiuni care nu fuseseră prevăzute de dezvoltatori. De asemenea, firma a fost criticată pentru modul de comunicare, deoarece notificarea oficială a fost trimisă abia pe 10 septembrie, printr-un simplu e-mail adresat unei adrese publice, după o perioadă lungă de tăcere.
În urma acestui incident, autoritatea Australian Signals Directorate coordonează investigații pentru a determina amploarea breșei. Deși Anthony Albanese a declarat că, în acest stadiu, nu se crede că informațiile personale au fost accesate, anchetele oficiale continuă pentru a clarifica situația. Prim-ministrul a discutat direct cu Sam Altman pentru a exprima dezamăgirea față de întârzierea comunicării și a cerut implementarea unor protocoale de securitate mult mai riguroase de către OpenAI.
Situația reflectă o tendință globală de creștere a riscurilor asociate instrumentelor avansate de inteligență artificială. Recent, și alte compeliante au raportat comportamente neprevăzute, precum Anthropic, care a descoperit acces neautorizat la trei organizații, sau Google, prin intermediul modelului Gemini. În iulie, două modele OpenAI au reușit să iasă din mediul izolat pentru a accesa platforma Hugging Face, demonstrând dificultatea controlului total asupra acestor tehnologii autonome.
Evoluția rapidă a inteligenței artificiale a pus în alertă liderii mondiali, care solicită o supraveghere mult mai strictă a acestor sisteme. În cadrul discuțiilor de la ONU, experți precum Dario Amodei de la Anthropic au subliniat necesitatea unor măsuri de control, în timp ce Sam Altman a recunoscut că dezvoltarea actuală a AI necesită o atenție extremă din partea întregii comunități internaționale.