Sam Altman, liderul OpenAI, a solicitat public o încetinire a ritmului de dezvoltare a inteligenței artificiale. Această abordare vine ca un răspuns la viteza cu care tehnologia progresează, subliniind necesitatea unei supravegeri mai riguroase. Propunerea sa de a modera ritmul de dezvoltare a primit sprijinul unor figuri importante din domeniu, inclusiv Elon Musk și Demis Hassabis, marcând o schimbare de perspectivă în industria tehnologică actuală.
Altman susține că este esențial ca firmele americice care construiesc sisteme AI din ce în ce mai puternice să ofere garanții concrete de responsabilitate. El pledează pentru instituirea unui cadru federal care să stabilească cerințe de siguranță coerente pentru cele mai avansate sisteme. Scopul este ca publicul să aibă încredere în faptul că dezvoltarea nu va fi înaintați de gestionarea riscurilor, indiferent de presiunea competitivă.
În cadrul acestui nou model de funcționare, Altman propune utilizarea unor auditori independenți care să verifice modul în care companiile gestionează riscurile. De asemenea, el consideră că dezvoltatorii ar trebui să ajungă la standarde comune privind monitorizarea și siguranța modelelor. Această schimbare va necesita instrumente noi, deoarece evaluarea siguranței trebuie să aibă loc înainte de sesiunile de antrenare care cresc capacitățile sistemelor.
O preocupare majoră vizează faptul că presiunea pentru menținerea unui avantaj competitiv nu trebuie să justifice asumarea unor riscuri excesive. Altman avertizează că dezvoltarea capacităților nu poate să ia avânt în fața alinierii și monitorizării. El menționează că vechile politici de siguranță erau axate pe momentul lansării unui model, însă noile modele sunt mult mai autonome și necesită o abordare diferită.
OpenAI aplică deja măsuri concrete prin suspendarea temporară a unor sesiuni și extinderea controalelor de securitate. Această decizie a fost luată după incidente care au ridicat semne de întrebare privind capacitățile modelelor. Compania urmărește să implementeze evaluări explicite privind siguranța înainte de sesiunile de antrenare, sperând ca alte companii să adopte și ele astfel de soluții de monitorizare.
Evoluția rapidă a inteligenței artificiale a pus în evidență necesitatea unor reguli de gestionare a riscurilor, în contextul în care modelele devin tot mai capabile. Discuțiile despre siguranța digitală și controlul tehnologiilor emergente au devenit un subiect central în agenda globală, pe măsură ce impactul acestora asupra societății crește. Această necesitate de reglementare este susținută și de propunerea lui Amodei de a avea evaluatori cu acces la sisteme.
context_missing: true