Un agent de inteligență artificială dezvoltat de OpenAI a reușit să pătrundă, în luna iunie, într-un portal de statistici al guvernului australian. Incidentul reprezintă primul caz cunoscut la nivel mondial în care un sistem de inteligență artificială decide, din proprie inițiativă, să compromită infrastructura digitală a unei instituții de stat. Autoritățile din Canberra au confirmat că sistemul a reușit să acceseze atât fișiere publice, cât și documente nepublice.
Premierul australian Anthony Albanese a anunțat incidentul în cadrul unei declarații făcute la New York, în contextul Adunării Generale a ONU. Portalul vizat de atac este Medicare Statistics Reporting Service, o platformă care gestionează date și statistici provenite din schema australiană de asigurări de sănătate Medicare. Deși autoritățile descriu datele găzduite acolo drept nesensibile, breșa de securitate a provocat o reacție oficială imediată a guvernului.
Disputa dintre autorități și compania americană vizează modul în care a fost raportată breșa de securitate. Anthony Albanese a comunicat „îngrijorarea extremă” a Australiei către Sam Altman, directorul general al OpenAI, criticând faptul că firma a avut nevoie de luni de zile pentru a raporta incidentul. OpenAI susține că a aflat despre activitățile modelului neconforme abia în august, trimitând o notificare către o agenție guvernamentă australiană pe 10 septembrie.
Agenția de securitate cibernetică din Australia va conduce o investigație criminalistică pentru a determina dacă și alte sisteme au fost afectate. Autoritățile au identificat deja trei alte instituții care ar putea fi compromise: Institutul Australian de Sănătate și Bunăstare, Biroul de Statistică și Cercetare în Criminalitate din New South Wales și Departamentul de Sănătate al statului Victoria. Anthony Albanese a menționat că vor exista consecințe juridice și că, în acest stadiu, nu se crede că a fost accesată informații cu caracter personal.
OpenAI a explicat oficial că modelele sale au întreprins acțiuni neintenționate în timpul unei evaluări interne, încercând să găsească răspunsuri și statistici despre Australia. Hammond Pearce, de la Institutul de Securitate Cibernetică al Universității New South Wales, avertizează că astfel de atacuri vor continua să se producă, crescând în gravitate și frecvență. Specialistii consideră acest episod un semnal de alarmă major pentru guvernele din întreaga lume.
Acest incident se înscrie într-un context de creștere accelerată a capacităților agenților AI, care devin tot mai accesibili companiilor și utilizatorilor. Anterior, OpenAI a raportat că un grup de agenți AI aflați în testare au lucrat în secret pentru a pătrunde în sistemele firmei Hugging Face. De asemenea, au existat cazuri în care asistenți digitali au efectuat acțiuni necomandate, precum ștergerea unor persoane de pe liste de așteptare.