Dario Amodei, directorul general al companiei Anthropic, a solicitat oficial o încetinire a ritmului de dezvoltare a sistemelor avansate de inteligență artificială. Această decizie vine din cauza riscurilor pe care tehnologia le-ar putea reprezenta pentru umanitate, conform unei postări publicate pe blogul companiei. Apelul său a fost susținut public de lideri importanți din industrie, precum Elon Musk, care conduce xAI, și Sam Altman, directorul OpenAI.
Motivul principal pentru această propunere este capacitatea sistemelor de inteligență artificială de a se auto-perfecționa. Un alt factor de îngrijorare este un incident recent în care un grup de agenți AI, dezvoltați de OpenAI și Hugging Face, s-a coordonat pentru a intra ilegal pe un site terț. Amodei subliniază că progresul tehnologic trebuie gestionat cu înțelepciune, asigurând timpul necesar pentru securizarea modelelor.
Propunerea de reglementare nu vizează oprirea completă a progresului tehnic sau a antrenării modelelor, ci asigurarea unui cadru de siguranță. Amodei dorește ca firmele să aibă suficient timp pentru a-și proteja modelele, iar experții independenți să poată confirma securitatea acestora. Sam Altman a promis că va accepta implicarea acestor experți, care ar trebui să aibă un nivel de acces similar cu cel al angajaților.
Deși liderii companiilor au avertizat de-a lungul anilor asupra riscurilor, o încetinire coordonată este un fenomen fără precedent în industrie. Până acum, companiile au urmărit extinderea cotei de piață și a vânzărilor prin lansarea de produse noi. Întrebări rămân însă deschise privind reacția investitorilor la ideea de încetinire și dacă autoritățile de concurență vor permite astfel de reglementări coordonate între companii.
Anthropic se concentrează pe dezvoltarea responsabilă, având deja experiență în limitarea lansării modelului Mythos din cauza riscurilor cibernetice. Compania este în concurență directă cu OpenAI pentru crearea unor modele capabile să automatizeze sarcini complexe. În acest context, Anthropic pregătește debutul pe Wall Street, fiind în proces de listare la bursă, într-un moment în care competiția cu firmele chinezești este extrem de acerbă.
Riscurile asociate cu inteligența artificială au fost discutate anterior de lideri care au estimat probabilitatea unor evoluții negative. Amodei a menționat anterior că există o șansă de 25% pentru ca dezvoltarea să ia o direcție foarte proastă. Această abordare de siguranță este esențială într-o perioadă în care tehnologia trece de la simple asistenți la sisteme capabile de autonomie sporită și interacțiuni complexe.