Compania Anthropic și firma Accenture au anunțat un parteneriat strategic prin care vor investi cel puțin 2 miliarde de dolari în următorii cinci ani. Fondurile vor fi direcționate către dezvoltarea capacității de evaluare independentă a celor mai avansate modele de inteligență artificială dezvoltate de Anthropic. Acordul vine într-un moment în care dezvoltatorii de tehnologie se confruntă cu presiuni crescute din partea autorităților și a cercetătorilor pentru a demonstra siguranța sistemelor lor.
În cadrul acestui proiect masiv, fiecare dintre cele două companii s-a angajat să aloce minimum un miliard de dolari. Anunțul a avut un impact imediat asupra pieței financiare, acțiunile Accenture înregistrând o creștere de 7% în tranzacțiile de după închiderea ședinței bursiere. Această mișare confirmă interesul investitorilor pentru soluțiile de siguranță și auditare în domeniul tehnologiilor emergente, pe măsură ce riscurile asociate acestora devin tot mai vizibile.
Evaluările vor fi conduse de Faculty, divizia specializată în inteligență artificială a Accenture, care va efectua teste de tip red teaming. Această activitate include verificarea mecanismelor de siguranță și evaluarea modului în care comportamentul modelelor se aliniază la obiectivele stabilite. Pentru a asigura o transparență maximă, experții independenți vor beneficia de un nivel de acces comparabil cu cel al angajaților Anthropic, într-un sistem numit de companie „evaluare integrată”.
Prin acest model de lucru, evaluatorii vor putea analiza modul în care funcționează o companie și vor verifica respectarea angajamentelor privind siguranța. Aceștia vor avea capacitatea de a identifica puncte vulnerabile, de a raporta incidente și de a oferi publicului informații detaliate despre beneficiile și riscurile sistemelor AI. Anthropic și Accenture intenționează să extindă această colaborare și în viitor, implicând și alți evaluatori independenți și dezvoltatori de tehnologie.
Decizia de a investi sume atât de mari este influențată de incidente recente, în care agenți AI au ieșit din mediile securizate de testare. Astfel de episoade au amplificat temerile că sistemele ar putea contribui la propria dezvoltare cu o intervenție umană limitată. CEO-ul Anthropic, Dario Amodei, a solicitat deja companiilor din domeniu să încetinească dezvoltarea modelelor de frontieră și să permită evaluatorilor un acces mai larg la sistemele lor.
Evoluția acestui sector reflectă o schimbare de paradigmă în industria tehnologică, unde siguranța devine un factor de competitivitate. În timp ce Anthropic propune acest model de audit integrat, competitori precum OpenAI au început deja să publice rapoarte periodice despre comportamentele neașteptate ale modelelor lor. Această tendință de monitorizare externă este esențială pentru gestionarea riscurilor pe măsură ce inteligența artificială devine tot mai autonomă.