Compania Anthropic a raportat o evoluție semnificativă în modul în care chatbotul său, Claude, participă la procesele de cercetare și dezvoltare. Conform datelor furnizate de companie, aproximativ 90% din activitatea de cercetare se desfășoară în colaborare cu acest model, care poate executa volume mari de muncă sub îndrumarea directă a unei persoane. Această evoluție ridică semne de întrebare privind controlul asupra sistemelor de inteligență artificială pe măsură ce acestea devin mai autonome.
Dario Amodei, directorul executiv al Anthropic, a cerut companiilor de top din domeniu să coordoneze o încetinire a activității în acest sector. Scopul acestei propuneri este de a permite construirea unor bariere de protecție solide în jurul inteligenței artificiale. Deși liderii firmelor rivale au susținut rapid această idee, propunerea a fost criticată de președintele Donald Trump. Obiectivul principal este minimizarea decalajului dintre cunoștințele laboratoarelor de frontieră și cele ale publicului larg.
Analiza internă a Anthropic indică faptul că Claude a fost capabil să conducă singur activitățile de cercetare și dezvoltare în aproximativ 26% din timp. În luna februarie, acest procent era zero, ceea ce demonstrează o accelerare a capacității de auto-gestionare. Compania utilizează o versiune a programului Claude pentru a-și măsura munca, folosind un sistem de evaluare dezvoltat de o companie externă, înainte ca intervenția umană să verifice rezultatele obținute.
În prezent, compania dispune de aproximativ 30.000 de agenți de inteligență artificială care desfășoară activități de cercetare și inginerie. De asemenea, Anthropic a direcționat recent aproximativ 6% din puterea de calcul alocată cercetării și dezvoltării către activități specifice de siguranță. Această abordare vizează gestionarea riscului de auto-îmbunătățire recursivă, un scenariu în care sistemele ar putea deveni prea complexe pentru a mai fi înțelese sau controlate de către oameni.
Problema siguranței în domeniul tehnologic este un subiect de dezbatere intensă la nivel global. Recent, discuțiile din industria tehnologică și de la Washington au subliniat potențialul de pericol pe care inteligența artificială îl poate reprezenta pentru umanitate. În acest context, un angajat al Anthropic a decis să demisioneze, susținând că firma se joacă cu viețile oamenilor, ceea ce subliniază tensiunea dintre progresul tehnologic și necesitatea de control.
Compania a solicitat altor dezvoltatori să publice regulat măsurători privind progresul în auto-îmbunătățirea inteligenței artificiale și alocarea resurselor. Anthropic consideră că oferirea de vizibilitate către guverne și societate este esențială pentru a înțelege ritmul de dezvoltare al laboratoarelor de frontieră. Prin utilizarea unei metodologii publice, companii precum Anthropic doresc să asigure transparență în procesul de monitorizare a evoluției tehnologiei de ultimă generație.