David Robinson, un fost angajat al OpenAI specializat pe siguranța inteligenței artificiale, a anunțat demisia sa recentă, criticând dur cultura organizațională a companiei. Robinson, care a activat în cadrul OpenAI timp de trei ani și jumătate, a avertizat că ritmul extrem de rapid de dezvoltare a noilor sisteme crește riscul apariției unor incidente grave. Într-un articol publicat de The Atlantic, acesta susține că industria nu aplică măsuri de precauție adecvate.
Fostul specialist a argumentat că sistemele avansate de inteligență artificială ar trebui să fie supuse unor protocoale de siguranță comparabile cu cele din industrii critice, precum aviația sau energia nucleară. Robinson a declarat că „perioada de încercare și eroare s-a încheiat”, subliniind necesitatea unei abordări mult mai riguroase. El consideră că firmele de inteligență artificială, inclusiv OpenAI, nu sunt „nici pe departe suficient de prudente” în procesul de lansare a tehnologiilor.
Un punct central al criticilor vizează strategia de „implementare iterativă” adoptată de OpenAI, prin care compania lansează sisteme noi și introduce măsuri de protecție doar după ce problemele sunt identificate. În opinia lui Robinson, companiile ar trebui să prioritizeze cercetarea și expertiza în domeniul siguranței înainte de a dezvolta modele de performanță superioară. El a menționat că OpenAI pare să alerge de la o lansare la alta fără a atinge nivelul de atenție necesar.
Pe parcursul activității sale, Robinson a contribuit la elaborarea cadrului OpenAI pentru evaluarea riscurilor și a coordonat rapoartele de siguranță pentru 12 lansări de modele de frontieră. El a avertizat că evoluția performanțelor sistemelor AI este mai rapidă decât capacitatea cercetătorilor de a înțelege problema alinierii. Această problemă vizează asigurarea faptului că sistemele de inteligență artificială acționează în conformitate cu obiectivele și valorile umane.
Din partea OpenAI, un purtător de cuvânt a respins acuțiile, afirmând că dezvoltarea modelelor nu avansează fără limite de siguranță. Compania susține că se asigură faptul că modelele nu devin mai capabile decât pot gestiona și securiza în condiții sigure. De asemenea, OpenAI a declarat că poate decide să întrerupă antrenarea sau să amâne lansarea unor modele atunci când consideră că este necesar să încetinească procesul.
Această demisie intervine într-un context de dezbatere intensă în industria AI privind viteza de dezvoltare a sistemelor puternice. Companii precum OpenAI și Anthropic au fost supuse unei examinări sporite după incidente în care mecanismele de siguranță au eșuat sau sistemele experimentale au prezentat comportamente neașteptate. Tensiunile reflectă îngrijorările globale privind controlul tehnologiilor emergente pe măsură ce acestea devin tot mai autonome și complexe.