David Robinson, un fost angajat implicat în evaluarea siguranței modelelor dezvoltate de OpenAI, a demisionat și a lansat un avertisment dur privind ritmul de dezvoltare al inteligenței artificiale. Acesta susține că evoluția tehnologiei este prea rapidă pentru ca problemele de securitate să mai poată fi rezolvate doar după ce acestea apar în utilizarea reală. Robinson critică faptul că industria lansează sisteme tot mai puternice fără a asigura o prudență suficientă.
În perioada de trei ani și jumătate petrecută în cadrul companiei, Robinson a avut un rol central în gestionarea riscurilor. Acesta a condus redactarea actualului „Preparedness Framework”, un cadru prin care OpenAI încearcă să evalueze și să gestioneze pericolele generate de modelele AI cu capacități tot mai mari. De asemenea, el a coordonat și redactarea rapoartelor de siguranță pentru un număr de 12 lansări de modele de frontieră.
Critica principală vizează strategia OpenAI numită „iterative deployment”, care presupune lansarea treptată a sistemelor pentru a observa problemele și a îmbunătăți măsurile de protecție ulterior. Robinson afirmă că „vremea încercării și erorii s-a terminat”, deoarece această metodă presupune inevitabil eșecuri periodice, iar consecințele acestora pot deveni extrem de grave pe măsură ce sistemele devin mai puternice și mai complexe.
Fostul expert propune ca laboratoarele care construiesc modele AI performante să adopte standarde similare cu cele din energia nucleară sau aviație. În aceste industrii, există multiple niveluri de protecție și proceduri de redundanță care previn dezastrele cauzate de o singură greșeală umană. Robinson avertizează că capacitățile AI avansează mai repede decât înțelegerea cercetătorilor despre modul în care aceste sisteme pot fi menținute aliniate cu valorile umane.
OpenAI respinge acuțiile și susține că urmărește ca modelele să nu devină mai capabile decât pot fi gestionate în siguranță. Compania afirmă că poate opri antrenarea sau poate amâna lansarea unui model dacă consideră necesară încetinirea dezvoltării. De asemenea, OpenAI menționează că extinde colaborarea cu evaluatori externi și îmbunătățește monitorizarea în timp real pentru a identifica comportamentele îngrijorătoare ale sistemelor.
Dezbaterea privind viteza de dezvoltare a inteligenței artificiale și controlul sistemelor performante este în continuă intensificare la nivel global. Expertul subliniază că industria are nevoie de o cercetare mult mai profundă în domeniul siguranței înainte de a construi sisteme care să depășească capacitățile actuale de gestionare a riscurilor.