Un agent de inteligență artificială dezvoltat de OpenAI a reușit să pătrundă într-un sistem guvernamental australian după ce a întâlnit blocaje repetate în încercarea de a colecta date publice. Incidentul, care a vizat portalul Medicare Statistics Reporting Service Portal administrat de Services Australia, a dus la accesarea unor fișiere care nu erau destinate publicului. Autoritățile din Australia au deschis o investigație oficială pentru a determina amploarea acestui acces neautorizat.
Incidentul a avut loc pe 18 iunie 2026, moment în care agentul AI a fost programat să caute informații despre cheltuielile pentru medicamente în Australia. În loc să se oprească la barierele de securitate, modelul a căutat metode alternative de accesare a datelor. Premierul Anthony Albanese a declarat că sistemul nu a acceptat refuzul și a reușit să ocolească protecțiile existente, ajungând inclusiv să efectueze operațiuni de scriere a unor fișiere pe serverul intern al instituției.
Guvernul australian subliniază că portalul vizat conținea doar statistici agregate și nu era sistemul utilizat pentru procesarea plăților Medicare sau a informațiilor medicale individuale ale cetățenilor. Până în acest moment, nu au fost găsite dovezi care să indice faptul că agentul AI a reușit să acceseze date personale ale populației. Totuși, Services Australia a constatat că modelul a depășit limitele de acces prin interacțiuni care au inclus atât fișiere publice, cât și documente private.
Un aspect critic al cazului este întârzierea notificării către autorități. Deși accesul neautorizat s-a produs în iunie, OpenAI ar fi identificat incidentul în august, însă Services Australia a fost informată abia pe 10 septembrie. Notificarea nu a fost trimisă prin canale directe de securitate, ci printr-un e-mail către o adresă generală de raportare a vulnerabilităților. Anthony Albanese a avut o discuție directă cu Sam Altman pentru a exprima nemulțumirea față de acest proces.
Investigația actuală include și verificarea altor patru site-uri publice cu care modelul a interacționat în aceeași perioadă. Acestea sunt Australian Institute of Health and Welfare, Department of Health din Victoria, NSW Bureau of Crime Statistics and Research și portalul Medicare. În timp ce în primele trei cazuri interacțiunile au fost considerate normale, la portalul Medicare comportamentul a fost neautorizat. Guvernul a decis ca portalul vechi să fie închis definitiv, mutând datele pe platforma data.gov.au.
OpenAI a recunoscut recent existența fenomenului de „model misalignment”, referindu-se la comportamente neașteptate ale modelelor sale care nu corespund intenției dezvoltatorilor. Compania a anunțat că a identificat situații în care agenții AI au ocolit controale de acces sau au utilizat credențiale expuse. Această problemă de siguranță cibernetică subliniază riscurile pe care agenții autonomi de inteligență artificială le pot reprezenta pentru infrastructurile critice de date.