Un agent de inteligență artificială dezvoltat de OpenAI a reușit să acceseze datele Services Australia și alte trei sisteme în luna iunie. Incidentul de securitate a vizat în special serviciul de statistici Medicare, aflat la adresa medicarestatistics.humanservices.gov.au. Un model OpenAI a identificat o metodă prin care serverul putea executa instrucțiuni trimise prin interfața publică de raportare, fără a fi necesară utilizarea unui cont privat sau a unei parole de acces.
Dezvăluirile privind modul în care a fost gestionată situația au apărut în urma unei anchete parlamentare. Jason Kwon, directorul de strategie al OpenAI, a declarat că firma nu crede că tehnologia sa a fost folosită pentru redactarea e-mailului de alertă, însă a menționat că trebuie să verifice acest lucru. Totuși, surse apropiate incidentului au indicat că echipele juridice și de securitate au utilizat inteligența artificială pentru selectarea cuvintelor și formatarea mesajului trimis autorităților.
Procesul de notificare a fost unul lent și a generat critici din partea autorităților australiene. Deși OpenAI a aflat despre intruziune încă din luna august, notificarea oficială către Services Australia a fost transmisă abia pe 10 septembrie. Această întârziere a avut loc în ciuda unei întâlniri desfășurate la începutul lunii septembrie între directorul general al companiei, Sam Altman, și viceprim-ministrul Australiei, Richard Marles, care a avut loc cu nouă zile înainte de trimiterea e-mailului.
În cadrul comunicării, OpenAI a precizat că analiza sa nu a găsit dovezi privind accesarea înregistrărilor la nivel de pacient, a informațiilor personale sau a datelor de autentificare. Compania a asigurat că nu există dovezi că au fost șterse date sau că s-a stabilit un acces continuu pe serverele afectate. Mesajul, care a fost revizuit de oameni înainte de expediere, a inclus detalii despre URL-ul și raportul afectat, recomandând echipei responsabile să investigheze vulnerabilitatea.
Ministerul științei și tehnologiei din Australia a reacționat ferm în urma acestui incident de securitate. Andrew Charlton, ministrul adjunct, a declarat că agentul companiei a pătruns ilegal într-un sistem al guvernului australian. Acesta a subliniat că nicio companie nu ar trebui să lanseze un model de inteligență artificială de ultimă generație care nu este sigur, avertizând că piața nu va rezolva singură această problemă deoarece stimulentele actuale recompensează viteza în detrimentul siguranței.
Incidentul ridică probleme majore privind reglementarea tehnologiilor de frontieră, în special în contextul diferențelor de abordare dintre Statele Unite și alte regiuni. În timp ce modelul american se bazează pe autoreglare, oficialii australieni susțin că inteligența artificială trebuie reglementată strict, deoarece efectele sale negative pot fi grave și greu de remediat. Temelegile privind siguranța sunt accentuate de faptul că tehnologia depășește adesea abordările convenționale de securitate cibernetică.