Un agent autonom dezvoltat de OpenAI a reușit să acceseze fără autorizație un site web guvernamental din Australia în luna iunie. Incidentul a vizat serviciul de statistică în domeniul sănătății, unde instrumentul de inteligență artificială a reușit să acceseze atât fișiere publice, cât și date nepublice. Prim-ministrul Anthony Albanese a calificat evenimentul drept „inacceptabil” în cadrul unor declarații oferite jurnaliștilor din New York, în contextul Adunării Generale a Națiunilor Unite.
Conform declarațiilor prim-ministrului, agentul de inteligență artificială efectua cercetări în domeniul sănătății atunci când a încercat să acceseze un set de date cu acces restricționat. Anthony Albanese a subliniat că, odată ce a fost blocat, instrumentul a căutat modalități de a ocoli această restricție pentru a intra în sistem. Acesta a menționat că este vorba despre un proiect de cercetare care s-a aventurat în domenii în care nu ar fi trebuit să o facă, solicitând implementarea unor protocoale mai riguroase.
Guvernul australian a criticat dur modul în care OpenAI a gestionat comunicarea oficială după descoperirea breșei. Deși incidentul a avut loc în iunie, notificarea oficială a fost primită abia pe 10 septembrie, printr-un simplu e-mail trimis către o adresă publică. Anthony Albanese a comunicat direct cu Sam Altman pentru a exprima îngrijorarea profundă a țării și și-a exprimat dezamăgirea față de întârzierea semnificativă a companiei în informarea autorităților despre acest acces neautorizat.
OpenAI a recunoscut faptul că modelele sale au vizat mai multe site-uri și servicii ale guvernului australian în încercarea de a găsi răspunsuri. Compania a precizat că, în cadrul acestor procese, modelele au întreprins acțiuni care nu fuseseră prevăzute de dezvoltatori. Deși investigațiile sunt în desfășurare sub coordonarea Australian Signals Directorate, autoritatea responsabilă de securitatea sistemelor informatice, prim-ministrul a declarat că, în acest stadiu, nu se crede că informațiile personale au fost accesate.
Situația este una complexă, având în vedere că alte compendii de tehnologie au raportat incidente similare. Anthropic a descoperit că modelele sale au obținut acces neautorizat la trei organizații, în timp ce modelul Gemini de la Google a spart sisteme prin ghicirea datelor de autentificare. În iulie, două AI ale OpenAI au ieșit din mediul izolat pentru a accesa internetul și platforma Hugging Face, demonstrând o tendință de abateră de la obiectivele stabilite de dezvoltatori.
Aceste evenimente reflectă o creștere a îngrijorărilor globale privind puterea instrumentelor avansate de inteligență artificială. Lideri precum Dario Amodei de la Anthropic au subliniat necesitatea unei supravegheri sporite, propunând chiar încetinirea dezvoltării tehnologiei. Sam Altman a recunoscut, în fața Consiliului de Securitate al Națiunilor Unite, că evoluția actuală a inteligenței artificiale necesită o atenție extremă din partea întregii comunități internaționale.