Lideri tehnologici și cercetători de renume, considerați pionierii inteligenței artificiale moderne, au emis un avertisment urgent către guvernele lumii. Aceștia alertează asupra unei posibile „explozii a inteligenței”, un fenomen care ar putea reprezenta cea mai importantă evoluție tehnologică din istoria umanității. Raportul subliniază necesitatea unor măsuri politice imediate pentru a gestiona o accelerare care ar putea comprima progrese de ani de zile în doar câteva luni.
Documentul, intitulat „Ce s-ar întâmpla dacă automatizarea cercetării și dezvoltării în domeniul IA ar declanșa o explozie a inteligenței”, este semnat de peste 20 de autori. Printre aceștia se numără laureatul Premiului Nobel Geoffrey Hinton și informaticianul canadian Yoshua Bengio, alongside Jack Clark, cofondator Anthropic, și Jakub Pachocki, cercetător șef la OpenAI. Autorii avertizează că o astfel de explozie ar putea eroda mecanismele de control al puterii dintre state, companii și ramuri guvernamentale.
Problema centrală vizează procesul de „autoperfecționare recursivă”, prin care sistemele AI ar putea să își îmbunătățească singure tehnologia fără intervenția umană. Odată ce aceste sisteme vor atinge nivelul de competență al experților, un singur dezvoltator ar putea coordona o forță de muncă echivalentă cu milioane de cercetători umani de top. În prezent, Anthropic afirmă că AI generează deja 80% din propriul cod, în timp ce OpenAI utilizează agenți autonomi pentru antrenarea modelelor.
Evoluția tehnologică aduce riscuri majore, inclusiv apariția unor amenințări biologice și cibernetice care s-ar putea dezvolta mai rapid decât capacitatea umană de răspuns. De asemenea, pe măsură ce implicarea oamenilor în cercetarea AI scade, controlul asupra acestor sisteme ar putea fi pierdut definitiv. Autorii menționează că, deși procesul de implementare a descoperirilor poate fi limitat de lanțurile de aprovizionare sau reglementări, viteza de progres a software-ului rămâne o sursă de incertitudine majoră.
Pentru a gestiona aceste riscuri, experții recomandă trei priorități de politică publică: solicitarea unor rapoarte transparente prin auditori independenți, găsirea unor metode de a limita dezvoltarea vertiginoasă a AI și pregătirea pentru adaptarea la o explozie a inteligenței. Este recomandată, de asemenea, colaborarea cu centrele de date pentru a permite suspendarea proiectelor de cercetare și crearea unor planuri de intervenție în situații de urgență pentru diverse scenarii.
Deși creșterile de productivitate prin automatizarea cercetării și dezvoltării nu au atins încă pragul necesar pentru o explozie totală, sistemele noi se apropie de acest punct. Proiectele de cercetare care ar dura luni de zile oamenilor ar putea fi complet automatizate de AI până în anul 2028. Această tranziție către automatizarea R&D reprezintă motorul principal care ar putea declanșa dezvoltarea unor sisteme cu capacități supraomenești într-un ritm extrem de accelerat.