Compania Anthropic a anunțat că modelul lor de inteligență artificială, Claude, va juca un rol central în dezvoltarea următorului model de limbaj al companiei. În prezent, Claude coordonează 26% din activitatea de cercetare și dezvoltare a Anthropic, demonstrând capacitatea de a gestiona sarcini complexe de la început până la sfârșit, pe baza unor instrucțiuni de nivel înalt. Această evoluție are loc sub supravegherea constantă a echipei de cercetători, asigurând controlul asupra proceselor de automatizare.
Deși tehnologia nu este încă complet autonomă, impactul asistentului AI este masiv în cadrul organizației. Aproximativ 90% din activitatea de cercetare și dezvoltare a companiei se desfășoară în colaborare cu Claude, ceea ce permite realizarea unor volume mari de muncă sub îndrumarea atentă a oamenilor. Această metodă de lucru permite echipei să gestioneze procese de inginerie complexe, menținând în același timp un echilibru între automatizare și intervenția umană necesară pentru corectitudine.
Anunțul vine într-un moment în care lideri precum CEO-ul Anthropic, Dario Amodei, subliniază necesitatea unei încetiniri a ritmului de dezvoltare a tehnologiei din motive de siguranță. Anthropic a declarat că este esențial să se reducă decalajul dintre cunoștințele laboratoarelor de vârf și cele deținute de public. Compania pune accent pe o mai bună măsurare a dezvoltării AI și pe raportarea publică a progresului, oferind societății posibilitatea de a decide modul în care aceste informații sunt utilizate.
Riscurile legate de accelerarea dezvoltării modelelor sunt o preocupare majoră, deoarece procesul ar putea face controlul uman mult mai dificil. Anthropic avertizează că modelele care își accelerează propria dezvoltare pot duce la o pierdere a controlului sau a înțelegerii de către oameni. Partajarea indicatorilor de progres este considerată vitală pentru a monitoriza cât de aproape sunt laboratoarele de a atinge autoîmbunătățirea recursivă, adică momentul în care un model poate construi autonom succesorul său.
Pentru a gestiona riscurile, compania a implementat măsuri stricte de supraveghere asupra agenților care desfășoară activități de cercetare. În luna august, aproximativ 30.000 de agenți erau implicați în activități de cercetare și inginerie. Anthropic a declarat că va desemna evaluatori externi independenți care vor fi integrați în cadrul companiei pentru a monitoriza eforturile de siguranță și pentru a identifica frecvența comportamentelor neadecvate detectate de sistemele de monitorizare.
Evoluția rapidă a inteligenței artificiale este un subiect de interes global, în contextul în care tehnologia avansează într-un ritm care pune presiune pe cadrele de siguranță. În timp ce laboratoarele de top explorează capacitatea modelelor de a deveni autonome, discuțiile despre controlul și raportarea transparentă a progresului devin esențiale pentru a evita scenariile în care dezvoltarea tehnologică depășește capacitatea de monitorizare umană.