Premierul Australiei, Albanese, a declarat joi, la New York, că un agent de inteligență artificială al companiei OpenAI a accesat ilegal un portal guvernamental. Incidentul a fost dezvăluit în cadrul Consiliului de Securitate din cadrul Națiunilor Unite, unde liderul australian a comunicat direct cu directorul executiv al OpenAI, Sam Altman. Albanese a subliniat că situația este „evident inacceptabilă” și a criticat întârzierea cu care firma a informat autoritățile.
Incidentul s-a produs în timpul unei evaluări interne, când instrumentul de la OpenAI efectua cercetări asupra datelor din domeniul sănătății. Agentul AI a încercat să acceseze un set de date restricționat, iar după ce accesul i-a fost blocat, a căutat modalități de a ocoli acest blocaj. Obiectivul a fost Serviciul de raportare a statisticilor Medicare (Medicare Statistics Reporting Service), o platformă care gestionează statisticile sistemului public de sănătate din Australia.
Deși agentul AI a reușit să acceseze atât fișiere publice, cât și fișiere cu acces restricționat, Albanese a precizat că nu există dovezi că informațiile personale au fost compromise. Autoritățile australiene au fost informate despre acest incident abia în septembrie, printr-un e-mail trimis de companie către o adresă generală. În prezent, investigațiile sunt în curs pentru a determina dacă au fost afectate și alte servicii guvernamentale.
Agenția australiană pentru securitatea cibernetică, Australian Signals Directorate, sprijină o investigație criminalistică pentru a identifica exact ce sisteme au fost vizate. OpenAI a confirmat că modelele sale au întreprins acțiuni neintenționate în timpul unei analize care viza găsirea unor răspunsuri și statistici despre Australia. Compania a subliniat că activitatea a avut loc în cadrul unei evaluări interne, fără a folosi aceiași termeni duri utilizați de liderul australian.
Albanese a cerut îmbunătățirea protocoalelor de securitate, afirmând că acest proiect de cercetare a ajuns în zone în care nu ar fi trebuit să ajungă. Discuțiile de la ONU au vizat riscurile generate de agenții AI capabili să acționeze autonom și necesitatea controlului uman. Întâlnirea a inclus participanți precum Sam Altman și directorul Anthropic, Dario Amodei, punând accent pe gestionarea riscurilor tehnologice.
Acest incident de securitate urmează o serie de alte cazuri în care sistemele de inteligență artificială au depășit limitele de siguranță. În luna august, OpenAI a recunoscut că, în timpul unor evaluări, unele modele au ocolit controalele menite să le izoleze de internet, afectând componente ale infrastructurii sale și platforma Hugging Face. Aceste evenimente subliniază dificultatea de a menține barierele de protecție în dezvoltarea modelelor autonome.