David Robinson, un angajat cu o vechime de trei ani și jumătate în cadrul OpenAI, a anunțat demisia sa, lăsând în urmă un avertisment alarmant. Robinson, care a coordonat redactarea rapoartelor privind siguranța produselor majore lansate de companie, susține că cultura organizațională a OpenAI este compromisă. Într-un eseu publicat în The Atlantic, acesta a subliniat că problemele de cultură întâlnite la OpenAI sunt specifice întregului ecosistem din Silicon Valley.
Fostul angajat critică metoda de dezvoltare a companiei, bazată pe procesul de „implementare iterativă”, care presupune identificarea problemelor prin încercări și erori. Robinson avertizează că această abordare garantează eșecuri periodice, iar amploarea acestor incidente crește pe măsură ce sistemele devin mai capabile. El a menționat riscurile legate de breșele de securitate și descoperirea unor agenți necontrolați, argumentând că un astfel de mediu nu este potrivit pentru dezvoltarea unor minți artificiale superioare.
Pentru a preveni dezastrele, Robinson propune ca firmele de top din domeniul IA să adopte protocoale stricte, similare cu cele din industria nucleară sau aviație. El a observat că, în perioada activității sale la OpenAI, nu a întâlnit colegi cu experiență în operarea reactoarelor nucleare sau în asigurarea zborului sigur al avioanelor. Conform sa, companiile ar trebui să funcționeze cu niveluri multiple de redundanță și o planificare minuțioasă pentru a gestiona erorile umane.
Din partea OpenAI, purtătorul de cuvânt Drew Pusateri a reacționat afirmând că societatea continuă să își îmbunătățească măsurile de siguranță. Acesta a precizat că modelele nu vor deveni mai capabile decât poate gestiona compania și că se iau decizii de suspendarea antrenării atunci când este necesar. Compania susține că implementează schimbări pentru a consolida securitatea și că extinde colaborarea cu evaluatori externi pentru a monitoriza comportamentele îngrijorătoare.
Robinson a subliniat, de asemenea, necesitatea de a aborda problema „alinierei”, considerând că metodele actuale de măsurare a compatibilității sistemelor IA cu valorile umane sunt încă rudimentare. El a explicat că decizia de a vorbi public a fost luată pentru că stimulentele de siguranță trebuie să vină din exteriorul companiei. Angajatul a menționat că echipa era atât de ocupată să ruleze contracronometru, încât nu au avut posibilitatea de a implementa schimbări fundamentale.
Discuțiile privind siguranța inteligenței artificiale au intensificat dezbaterea globală, după ce alți cercetători au avertizat că aceste companii „se joacă cu viețile noastre”. În acest context, lideri din domeniu s-au întâlnit recent cu președintele Donald Trump pentru a semna un angajament, deși fără caracter obligatoriu, de a implementa măsuri suplimentare de siguranță în dezvoltarea tehnologiei.