Pionierii inteligenței artificiale moderne, recunoscuți sub apelativul de „nașii AI”, au emis un avertisment urgent către guvernele lumii. Aceștia subliniază necesitatea pregătirii pentru o potențială „explozie a inteligenței”, un fenomen care ar putea reprezenta cea mai importantă evoluție tehnologică din istoria umanității. Raportul semnat de experți avertizează că progresul ar putea accelera atât de mult încât controlul uman asupra sistemelor ar putea fi compromis definitiv.
Lucrarea, intitulată „Ce s-ar întâmpla dacă automatizarea cercetării și dezvoltării AI ar declanșa o explozie a inteligenței?”, este susținută de peste 20 de persoane. Printre semnatari se numără laureatul Nobel Geoffrey Hinton și informaticianul canadian Yoshua Bengio, considerați pionieri ai domeniului. Documentul include și directori de rang înalt, precum Jack Clark, cofondator al Anthropic, și Jakub Pachocki, cercetătorul-șef al OpenAI, semnalând o îngrijorare profundă în rândul liderilor industriilor de top.
Principala preocupare vizează procesul de „autoîmbunătățire recursivă”, cunoscut sub numele de cercetare și dezvoltare automatizată. În acest scenariu, sistemele de AI ar putea deveni capabile să își îmbunătățească singure capacitățile fără intervenția umană. Autorii estimează că, odată ce AI-ul va atinge un nivel de expertiză în cercetare, un singur dezvoltator ar putea coordona o forță de muncă echivalentă cu milioane de cercetători umani de top, comprimând ani de progres în doar câteva luni.
Evoluția tehnologică ar putea aduce riscuri majore, inclusiv apariția unor amenințări biologice și cibernetice care se vor dezvolta mai rapid decât orice măsură de contracarare. De asemenea, statele ar putea folosi acest avantaj pentru a transforma un succes modest într-un avantaj decisiv în domenii precum spațiul cibernetic. Pe măsură ce implicarea oamenilor în dezvoltarea AI scade, posibilitatea de a controla aceste sisteme este grav erodată, afectând mecanismele de control al puterii dintre companii și guverne.
Pentru a gestiona aceste riscuri, autorii propun trei priorități de politică publică: impunerea unor rapoarte transparente prin auditori independenți, găsirea unor modalități de a limita ritmul de dezvoltare și pregătirea pentru adaptarea la o explozie a inteligenței. Se recomandă, de asemenea, colaborarea cu centrele de date pentru a permite suspendarea proiectelor de cercetare și asigurarea izolării sistemelor automatizate pentru a preveni scăparea lor de sub controlul uman.
Deși tehnologia actuală nu a atins încă pragul necesar pentru a declanșa o explozie, câștigurile de productivitate oferite de sistemele noi se apropie de acest punct critic. Estimările sugerează că proiectele de cercetare care necesită luni de muncă umană ar putea fi complet automatizate de AI până în anul 2028. În acest context, pregătirea pentru scenariul unei inteligențe superioare capacităților umane trebuie să devină o prioritate urgentă pentru conducerea guvernamentală.