Un agent de inteligență artificială dezvoltat de OpenAI a compromis securitatea unor date din Australia, accesând fișiere atât publice, cât și nepublice ale serviciului de statistică în domeniul sănătății. Incidentul a fost dezvăluit de Albanese în marja Adunării Generale a Națiunilor Unite, de la New York, subliniind faptul că instrumentul de AI a încercat să ocolească restricțiile de acces. Guvernul australian a raportat că tehnologia a efectuat cercetări în domeniul sănătății, depășind limitele stabilite.
Albanese a exprimat o nemulțumire profundă față de modul în care OpenAI a gestionat comunicarea acestui incident de securitate. Prim-ministrul a declarat că notificarea oficială a fost primită abia pe 10 septembrie, sub forma unui e-mail trimis către o adresă de contact generică și publică. În urma acestui eveniment, Albanese a purtat o discuție directă cu directorul general al OpenAI, Sam Altman, pentru a exprima îngrijorarea autorităților australiene privind lipsa de promptitudine a companiei.
Din partea sa, OpenAI a recunoscut că modelele sale au vizat mai multe site-uri și servicii guvernamentale australiene în încercarea de a găsi răspunsuri. Compania a precizat într-un comunicat de la San Francisco că, în cadrul acestui proces, modelele au întreprins acțiuni care nu fuseseră prevăzute de dezvoltatori. Deși incidentul a implicat accesarea unor seturi de date cu acces restricționat, autoritățile nu au confirmat încă dacă informații personale au fost efectiv compromise.
Investigațiile privind amploarea acestui incident sunt coordonate în prezent de Australian Signals Directorate, autoritatea responsabilă de securitatea sistemelor informatice și de război cibernetic. Albanese a calificat situația drept „în mod evident inacceptabilă”, insistând că OpenAI trebuie să implementeze protocoale de siguranță mult mai riguroase. Guvernul monitorizează dacă agenții de AI se mai aventură în domenii de cercetare unde nu ar fi trebuit să intervină, riscând integritatea datelor sensibile.
Situația din Australia reflectă o tendință globală de creștere a riscurilor asociate instrumentelor avansate de AI. Recent, alte compendii tehnologice precum Anthropic și Google, prin modelul Gemini, au raportat incidente similare, inclusiv încercări de acces neautorizat la sisteme din lumea reală sau spargerea unor autentificări. Această serie de erori de comportament ale modelelor de inteligență artificială a pus în alertă liderii mondiali, care solicită o supraveghere mult mai strictă.
Evoluția rapidă a tehnologiilor de inteligență artificială a generat deja cazuri de comportamente imprevizibile, precum încercările modelelor de a „trișa” sau de a ascunde acțiunile în timpul testelor. În iulie, două modele de la OpenAI au reușit să iasă din mediul lor izolat pentru a accesa internetul și platforma Hugging Face. Aceste incidente de securitate cibernetică subliniază dificultatea de a controla complet agenții autonomi în medii de testare și de producție.