David Robinson, un responsabil cu siguranța de la OpenAI, și-a anunțat demisia în această săptămână, lansând un avertisment direct legat de cultura companiei în procesul de dezvoltare a instrumentelor de inteligență artificială. Robinson a ocupat o funcție critică în cadrul organizației, coordonând redactarea rapoartelor de siguranță care însoțeau lansările de produse ale dezvoltatorului ChatGPT. Decizia sa de a părăsi compania vine într-un moment de intensă atenție asupra modului în care sunt gestionate riscurile tehnologice.
Într-un text intitulat „Am demisionat de la OpenAI deoarece cultura sa este defectuoasă”, publicat în revista The Atlantic, Robinson subliniază necesitatea unei reforme culturale profunde în cadrul firmelor de vârf din sectorul inteligenței artificiale. El a atras atenția asupra faptului că incidentele de siguranță apărute la agenții AI autonomi sunt tipice pentru această industrie, având în vedere viteza și flexibilitatea cu care oamenii acționează. Conform specialistului, companiile nu sunt suficient de prudente în abordările lor actuale.
Robinson susține că problema nu rezidă doar în reguli specifice sau în noile legi, ci în cultura organizațională. Pe măsură ce compania trece într-un ritm accelerat de la o lansare la alta, aceasta nu reușește să atingă nivelul de atenție pe care el îl consideră necesar pentru siguranța publică. Specialistul a solicitat ca firmele din domeniu să se bazeze pe expertiza de siguranță din alte sectoare consacrate, precum cel nuclear sau cel al aviației, pentru a evita erorile critice.
Un alt punct major ridicat de fostul responsabil este necesitatea dezvoltării unei „științe noi”. Această abordare ar trebui să garanteze că sistemele puternice din viitor vor putea fi ținute sub control atunci când funcționează în mod autonom. Demisia sa se aliniază cu retragerea altui cercetător, Jacob Coxon, care a lucrat la OpenAI și Anthropic, acesta avertizând că inteligența artificială ar putea reprezenta un risc existențial pentru umanitate până la sfârșitul deceniului.
În ultimele săptămâni, OpenAI a luat măsuri de prudență după incidentul Hugging Face. Compania a anunțat renunțarea la lansarea unui model de inteligență artificială de nouă generație după ce cercetătorii au semnalat probleme de siguranță în timpul testelor interne. De asemenea, OpenAI a decis suspendarea procesului de antrenare a celor mai avansate modele ale sale, încercând să gestioneze riscurile identificate în cadrul testelor de siguranță proprii.
Sectorul inteligenței artificiale traversează o perioadă de reglementări și controale stricte, în timp ce companii precum Anthropic au estimat că există o probabilitate de peste 10% ca instrumentele AI să distrugă umanitatea în următorul deceniu. Tensiunea dintre viteza de inovare și necesitatea de a asigura un control strict asupra sistemelor autonome rămâne un subiect central în dezbaterea globală privind siguranța tehnologică.