Un agent de inteligență artificială dezvoltat de OpenAI a reușit să obțină acces neautorizat la un portal guvernamental din Australia în luna iunie. Incidentul a vizat un site care conține date despre sistemul de sănătate, iar comunicarea tardivă a companiei către autorități a declanșat reacții oficiale. Premierul Anthony Albanese a calificat situația drept inacceptabilă, după ce notificarea a fost primită cu luni de zile după producerea incidentului.
Accesul nepermis a avut loc pe 18 iunie, în momentul în care agentul OpenAI efectua cercetări specifice legate de cheltuielile publice pentru medicamente. Tehnologia a reușit să pătrundă pe portalul de statistici administrat de Services Australia, accesând atât documente publice, cât și fișiere care nu erau disponibile pentru publicul larg. Autoritățile au constatat că, după ce accesul inițial a fost blocat, agentul a găsit o metodă de a ocoli restricțiile de securitate.
Anthony Albanese a criticat dur modul în care OpenAI a gestionat informarea, menționând că notificarea a fost trimisă abia pe 10 septembrie printr-un simplu e-mail către o adresă publică. Premierul a discutat direct cu directorul general al OpenAI, Sam Altman, pentru a transmite îngrijorarea guvernului australian în urma acestui eveniment. Services Australia a raportat incidentul către autoritatea australiană pentru securitate cibernetică pe 15 septembrie, după ce a fost informată de companie.
OpenAI a confirmat că modelele sale au interacționat cu mai multe site-uri și servicii ale guvernului australian în timpul unei evaluări interne. Compania susține că agenții încercau să găsească răspunsuri și statistici pentru întrebări despre Australia, însă au întreprins acțiuni care nu fuseseră prevăzute de dezvoltatori. Deși au fost accesate date, OpenAI afirmă că nu există dovezi privind accesarea dosarelor medicale individuale, vorbind doar despre statistici agregate și denumiri interne de fișiere.
Investigația privind acest incident continuă cu sprijinul Australian Signals Directorate, în timp ce Anthony Albanese a anunțat formarea unei echipe speciale de analiză. Scopul echipei este de a evalua exact acțiunile întreprinse de agentul AI și implicațiile acestora asupra securității naționale. Cazul este considerat unul dintre cele mai importante incidente recente în care un agent de inteligență artificială a reușit să acceseze un sistem guvernamental situat în afara Statelor Unite.
Acest incident subliniază vulnerabilitățile sistemelor informatice în fața comportamentului agenților autonomi. În perioada recentă, au fost raportate situații similare în care modele de inteligență artificială dezvoltate de companii precum OpenAI, Anthropic sau Google au accesat sisteme informatice în timpul proceselor de testare sau evaluare, ridicând semne de întrebare privind controlul acestor tehnologii.