David Robinson, un fost angajat al companiei OpenAI specializat pe domeniul siguranței inteligenței artificiale, a anunțat demisia sa recentă. Acesta a ales să își exprime nemulțumirile față de cultura organizațională a companiei și față de ritmul extrem de rapid în care se dezvoltă noile sisteme de inteligență artificială. Robinson a avertizat că această viteză de dezvoltare crește semnificativ riscul apariției unor incidente grave, conform informațiilor transmise de Reuters.
Fostul expert a lucrat timp de trei ani și jumătate în cadrul OpenAI, contribuind activ la elaborarea cadrului de evaluare a riscurilor pentru modelele avansate. În cadrul activității sale, David Robinson a coordonat rapoartele de siguranță pentru 12 lansări ale modelelor de frontieră ale companiei. Acesta a criticat în mod special strategia de implementare iterativă, prin care OpenAI lansează sisteme noi și încearcă să îmbunătățească măsurile de protecție doar după ce identifică problemele existente.
În opinia lui David Robinson, companiile din acest sector nu sunt suficient de prudente, susținând că perioada de încercare și eroare s-a încheiat. El a argumentat că sistemele avansate de inteligență artificială ar trebui să respecte măsuri de siguranță comparabile cu standardele aplicate în industrii critice, precum aviația sau energia nucleară. Fostul angajat a subliniat că companiile trebuie să prioritizeze cercetarea și expertiza în siguranță înainte de a lansa sisteme cu performanțe tot mai mari.
David Robinson a avertizat, de asemenea, că evoluția performanțelor sistemelor AI este mult mai rapidă decât capacitatea cercetătorilor de a înțelege problema alinierii. Această problemă vizează asigurarea faptului că sistemele de inteligență artificială acționează în conformitate cu valorile și obiectivele umane. El a declarat că, în timp ce compania aleargă de la o lansare la alta, nu reușește să atingă nivelul de atenție pe care îl consideră necesar pentru siguranță.
Compania OpenAI a respins acuțiile conform căreia dezvoltarea modelelor are loc fără limite de siguranță. Un purtător de cuvânt al OpenAI a declarat că se asigură că modelele nu devin mai capabile decât poate gestiona compania în condiții sigure și că întrerupe antrenarea sau amână lansările atunci când este necesar. Această poziție vine într-un context în care atât OpenAI, cât și Anthropic, au fost supuse unor examinări după incidente în care mecanismele de siguranță au eșuat.
Dezbaterile privind viteza de dezvoltare a sistemelor de inteligență artificială au devenit tot mai intense în industria globală. Companiile dezvoltă sisteme din ce în ce mai puternice, ceea ce ridică întrebări legate de controlul acestora. Situația este monitorizată atent de experți, deoarece comportamentele neașteptate ale sistemelor experimentale pot pune sub semnul întrebării eficiența actualelor protocoale de securitate aplicate în tehnologia de frontieră.