Dario Amodei, care conduce compania Anthropic, a solicitat companiilor din domeniul inteligenței artificiale să reducă intenționat ritmul de dezvoltare a modelelor de înaltă performanță. Această propunere de încetinire a ritmului de progres vizează asigurarea faptului că măsurile de siguranță vor putea ține pasul cu noile capacități tehnologice apărute. Amodei a explicat faptul că această strategie nu vizează oprirea progresului tehnic sau a antrenării modelelor, ci urmărește ca firmele să aibă suficient timp pentru a proteja și a alinia sistemele dezvoltate.
Planul propus de CEO-ul Anthropic este structurat în trei etape distincte, menite să nu afecteze avantajul comercial al companiilor sau poziția Statelor Unite în competiția globală pentru AI. Prima etapă, pe care Anthropic a acceptat deja să o implementeze, implică acordarea unui nivel de acces similar cu cel al angajaților către evaluatori independenți, pentru verificarea siguranței și raportarea incidentelor. A doua etapă vizează stabilirea unor standarde comune între companiile de AI din țările democratice, în timp ce a treia etapa necesită acorduri între guvernele democratice și cele autoritare.
Inițiativa a fost susținută de Sam Altman, CEO-ul OpenAI, care a menționat că subiectul încetinirii dezvoltării celor mai avansate capacități AI este acum central în discuțiile interne ale companiei sale. Altman a confirmat că OpenAI va adopta măsura privind evaluatorii independenți cu acces extins. De asemenea, Elon Musk a susținut public propunerea lui Dario Amodei, afirmând că acesta are dreptate în ceea ce privește necesitatea unei abordări mai prudente în dezvoltarea tehnologiei de inteligență artificială.
Preocuparea pentru siguranța AI a fost amplificată de demisia cercetătorului Jacob Coxon din cadrul Anthropic, acesta acuzând companiile că ignoră riscurile existențiale. Amodei subliniază că riscurile trebuie tratate mult mai serios decât în 2023, când modelele erau mai puțin capabile să acționeze în lumea reală. Obiectivul este de a câștiga un an sau doi pentru a îmbunătăți alinierea și a preveni situația în care dezvoltarea tehnologiei ar putea scăpa de sub controlul uman.
Contextul actual al tehnologiei este marcat de o expansiune rapidă a infrastructurii digitale, precum și de discuții despre infrastructura de date. SpaceX a dezvăluit recent un calendar specific pentru lansarea centrelor de date în spațiu, subliniind importanța infrastructurii de calcul pentru noile tehnologii. Această evoluție a infrastructurii de date este esențială pentru suportul necesar modelelor de inteligență artificială care sunt dezvoltate în prezent la nivel global.
În acest context, dezvoltarea rapidă a modelelor de inteligență artificială generează presiuni asupra reglementărilor internaționale. Dacă nu se stabilesc standarde de siguranță și protocoale de aliniere între companii și guverne, riscul ca tehnologia să depășească capacitatea de control uman crește semnificativ. Planul în trei etape propus de liderii din sectorul tehnologic încearcă să creeze un cadru de lucru care să echilibreze inovația cu siguranța a longo termen.