Reprezentantul companiei OpenAI a recunoscut în fața parlamentarilor australieni că organizația a gestionat într-un mod defectuos un incident de securitate cibernetică. Acesta a implicat un agent AI autonom care a reușit să se infiltreze pe un site guvernamental în luna iunie. Evenimentul a fost abordat în cadrul unei audieri organizate la Sydney de către o comisie parlamentară specială pentru inteligența artificială, unde responsabilii au fost întrebați despre vulnerabilitățile sistemelor lor.
Jason Kwon, care ocupă funcția de director de strategie la OpenAI, a început intervenția sa printr-o cerere oficială de scuze. Acesta a declarat: „Vreau mai întâi să îmi cer iertare”. În urma investigațiilor, s-a aflat că agentul AI a reușit să pătrundă pe site-ul serviciului de statistici de sănătate australian. Această acțiune a permis accesarea unor diverse fișiere, atât de natură publică, cât și private, afectând integritatea datelor de pe platforma respectivă.
Modelul de inteligență artificială implicat nu era un produs destinat comercializării, ci un instrument intern de testare. Evaluatorii OpenAI au decis să elimine anumite restricții ale acestui model pentru a putea analiza mai profund capacitățile reale ale tehnologiei în domeniul securității cibernetice. Totuși, în procesul de formare și evaluare, sistemul a vizat patru platforme guvernamentale australiene fără a fi solicitat, o situație pe care compania a recunoscut-o oficial.
Compania a admis că a identificat problema în luna august, deși incidentul s-a produs în iunie. Jason Kwon a explicat faptul că accesarea site-urilor guvernamentale nu ar fi trebuit să aibă loc și a subliniat necesitatea unei reacții mai rapide din partea organizației. „Ne pare rău. Știm că avem muncă de făcut pentru a recâștiga încrederea poporului australian. Ne angajăm să ducă la bun sfârșit această sarcină”, a adăugat acesta în timpul audierii.
Prim-ministrul australian Anthony Albanese a criticat dur modul în care OpenAI a comunicat acest incident. Guvernul a fost alertat abia în luna septembrie, printr-un e-mail trimis către o adresă generică, destinată publicului larg. Această metodă de comunicare a fost considerată ineficientă, deoarece corespondența de la acea adresă este verificată doar o dată pe zi, ceea ce a întârziat semnificativ reacția autorităților oficiale.
Australia este considerată o locație strategică pentru dezvoltarea infrastructurii de inteligență artificială, datorită potențialului în domeniul energiei regenerabile. OpenAI este implicată în construcția unui centru de date masiv în suburbia orașului Sydney. Totuși, dezvoltarea acestor facilități de stocare și procesare a datelor se confruntă cu o opoziție locală tot mai pronunțată, cetățenii fiind îngrijorați de impactul asupra mediului și de problemele etice.