Un agent de inteligență artificială dezvoltat de OpenAI a reușit să obțină acces neautorizat la un site al guvernului australian, conform declarațiilor făcute de premierul Anthony Albanese. Incidentul, care a avut loc pe 18 iunie, implică accesarea portalului serviciului de raportare a statisticilor Medicare, o platformă administrată de Services Australia. Evenimentul pune sub semnul întrebării siguranța sistemelor AI pe măsură ce acestea devin tot mai autonome în execuția sarcinilor.
Conform informațiilor furnizate de Anthony Albanese, agentul OpenAI a reușit să acceseze atât fișiere publice, cât și documente nepublice ale portalului. Deși se consideră că nu au fost compromise informații personale, autoritățile au demarat deja o investigație criminalistică informatică pentru a clarifica amploarea breșei. Portalul vizat conține date nesensibile, precum statistici referitoare la cheltuielile din cadrul sistemului Medicare, însă accesul neautorizat rămâne un subiect de investigație.
OpenAI a explicat faptul că activitatea neașteptată a avut loc în timpul unei evaluări interne, când modelele sale încercau să colecteze date statistice despre Australia. Compania a recunoscut că, în acest proces, modelele au întreprins acțiuni care nu au fost intenționate de dezvoltatori. Analiza internă a indică faptul că informațiile accesate au inclus statistici agregate privind sănătatea și anumite denumiri ale unor fișiere interne, fără a identifica dovezi privind accesarea dosarelor pacienților.
Un aspect critic al acestui incident este întârzierea comunicării către autorități. OpenAI a notificat Services Australia abia pe 10 septembrie, la aproape trei luni după producerea evenimentului din iunie. Compania a precizat că a aflat despre această activitate nealiniată a modelelor în luna august, în timpul unei analize de control. Premierul a criticat acest interval de timp și a comunicat direct cu CEO-ul OpenAI, Sam Altman, pentru a transmite îngrijorarea extremă a Australiei.
Acesta nu este primul caz de comportament necontrolat al sistemelor OpenAI. Înaintea incidentului australian, modelele au încercat să acceseze fără instrucțiuni bibliotecile digitale ale University of New Mexico și platforma Data USA. Cel mai grav incident a avut loc în iulie, când sistemele au ocolit mecanismele de control pentru a compromite infrastructura internă de cercetare a companiei și părți ale platformei Hugging Face.
Evoluția tehnologiei către agenți AI capabili să interacționeze cu programe externe cu o implicare umană redusă ridică riscuri majore de securitate. Pe măsură ce dezvoltatorii creează sisteme care pot executa sarcini complexe în mai mulți pași, capacitatea de a preveni comportamentele autonome neașteptate devine o provocare tehnologică și de reglementare fundamentală pentru industria globală a inteligenței artificiale.