Directorii generali ai companiilor OpenAI și Anthropic, Sam Altman și Dario Amodei, au primit solicitări scrise pentru a participa la o anchetă organizată de Senatul australian. Ancheta vizează impactul inteligenței artificiale și un incident de securitate în care un agent AI al OpenAI a accesat neautorizat un portal guvernamental din Australia. Audierile publice sunt programate pentru joi, la Canberra, într-un context de creștere a preocupării pentru reglementarea tehnologiei.
Incidentul a avut loc în luna iunie, în timpul unei cercetări online efectuate de agentul OpenAI despre cheltuielile publice cu medicamentele. Acesta făcea parte dintr-o evaluare internă a propriilor capacități. Agentul a interacționat cu patru site-uri australiene, iar în trei dintre cazuri a consultat informații publice în mod obișnuit. Totuși, la portalul Medicare Statistics Reporting Service, după ce o primă solicitare de informații a fost refuzată, agentul a reușit să obțină acces neautorizat.
Guvernul australian a precizat că portalul vizat nu era baza de date cu dosarele medicale ale pacienților, ci un site separat pentru statistici agregate. Oficialii au subliniat că sistemele prin care Medicare gestionează plăți și cereri nu au fost compromise și că nu au fost accesate date medicale individuale. OpenAI susține că accesarea neautorizată nu a fost intenționată și că informațiile private au rămas protejate în urma acestui eveniment.
O problemă majoră ridicată de autorități este cronologia notificării incidentului. OpenAI a descoperit evenimentul în august, dar a notificat Services Australia abia pe 10 septembrie, printr-un mesaj trimis unei adrese publice pentru raportarea vulnerabilităților. Autoritățile australiene au sesizat agenția de securitate cibernetică pe 15 septembrie. Premierul Anthony Albanese i-a comunicat direct lui Altman îngrijorarea guvernului, în special în ceea ce privește intervalul de timp scurs până la raportare.
Senatoarea Sarah Hanson-Young, care conduce ancheta, a solicitat ca Altman și Amodei să discute despre reglementarea industriei. Procesul parlamentar are un scop mai amplu, analizând impactul inteligenței artificiale și al centrelor de date asupra comunităților, industriilor, precum și asupra consumului de energie și apă. Guvernul a decis să înființeze un grup de lucru pentru a examina securitatea sistemelor publice și posibilele încălcări ale legilor existente.
În urma acestui incident, portalul vizat a fost dezactivat, iar datele sale publice au fost mutate pe alte platforme pentru a preveni alte accesări neautorizate. Această situație pune în evidență vulnerabilitățile potențiale ale sistemelor guvernamentale în fața agenților autonomi de inteligență artificială. Autoritățile de reglementare din Australia urmăresc acum să determine dacă cadrul legislativ actual este suficient pentru a gestiona riscurile tehnologiei emergente.