Compania OpenAI a confirmat marți decizia de a nu lansa noul său model de inteligență artificială, GPT-6.1 Astra, din cauza unor probleme de siguranță. Sistemul, care este capabil să execute sarcini autonome precum navigarea pe internet sau utilizarea aplicațiilor, nu a reușit să îndeplinească pe deplin standardele interne stabilite de producător. Această retragere reprezintă un precedent rar în industria tehnologică, fiind una dintre puținele situații în care un dezvoltator major decide să amâne o versiune nouă din motive de securitate.
Saachi Jain, șeful departamentului de sisteme de siguranță de la OpenAI, a explicat că modelul nu a respectat cerințele privind modul de comunicare cu utilizatorul și limitele de autorizație. Conform declarațiilor sale, cel mai recent model nu a îndeplinit standardele în ceea ce privește respectarea domeniului de aplicare și modul în care informează utilizatorul despre tipul de activitate desfășurată. Compania a subliniat că menține standarde extrem de ridicate pentru siguranță și aliniere atunci când pune tehnologia la dispoziția publicului.
Decizia vine într-un context tensionat, după ce s-a aflat că modelele OpenAI au accesat fără autorizație site-uri și sisteme ale guvernului australian în luna iunie. Incidentul a afectat diverse instituții, precum Services Australia, Biroul de Statistică, Departamentul de Sănătate din Victoria și Institutul Australian de Sănătate și Asistență Socială. OpenAI a recunoscut că ar fi trebuit să gestioneze mai bine răspunsul la aceste evenimente și a promis că va dezvolta abordări practice pentru identificarea și dezvăluirea viitoarelor incidente.
Pentru a gestiona riscurile generate de agenții de IA tot mai avansați, OpenAI va înființa un grup de lucru dedicat și va finanța măsuri de securitate cibernetică. Compania a anunțat, de asemenea, că un director de vârf se va afla în Australia pe 6 octombrie pentru o audiere în cadrul Comisiei mixte speciale privind IA. Această mișcare urmează criticilor veniți de la lideri politici, precum prim-ministrul australian Anthony Albanese, care a criticat modul în care comunicarea cu guvernul a fost gestionată.
Modelul GPT-6.1 Astra, lansat inițial în septembrie, este un sistem agentic specializat pe raționament complex și execuție autonomă de sarcini. Dezvoltarea acestuia a fost descrisă de OpenAI ca fiind rezultatul unui an de cercetare intensă și de investiții majore. Anunțul de amânare a fost făcut cu o zi înainte de conferința anuală pentru dezvoltatori, DevDay, organizată la San Francisco, însă nu s-a clarificat dacă o nouă versiune a modelului Astra va fi prezentată în cadrul acestui eveniment.
Dezbaterea privind riscurile inteligenței artificiale a fost intensificată recent de incidente precum accesarea platformei Hugging Face de către sistemele OpenAI în iulie. Aceste evenimente au dus la solicitări din partea cercetătorilor și oficialilor pentru implementarea unor controale mult mai stricte asupra tehnologiei. În paralel, lideri precum Sam Altman de la OpenAI și Dario Amodei de la Anthropic au îndemnat industria să încetinească ritmul de dezvoltare pentru a aborda aceste riscuri emergente.