Companiile Anthropic și Accenture au anunțat un parteneriat strategic prin care vor investi până la 2 miliarde de dolari în următorii cinci ani. Fondurile vor fi direcționate către dezvoltarea capacităților de evaluare independentă pentru cele mai avansate modele de inteligență artificială dezvoltate de Anthropic. Conform informațiilor furnizate de Reuters, fiecare dintre cele două entități s-a angajat să aloce un minimum de un miliard de dolari acestui proiect de colaborare pe termen lung.
Acest parteneriat vine într-un context în care dezvoltatorii de inteligență artificială se confruntă cu presiuni crescute din partea autorităților, cercetătorilor și a companiilor. Obiectivul principal este demonstrarea faptului că modelele avansate sunt sigure și fiabile. Impactul financiar al anunțului a fost imediat vizibil pe piețele bursiere, acțiunile Accenture înregistrând o creștere de 7% în tranzacțiile de după închiderea ședinței bursiere, imediat după comunicarea acordului.
Activitatea de evaluare va fi condusă de Faculty, divizia specializată în inteligență artificială a Accenture, care va gestiona procesele de testare. Aceasta include activități de tip red teaming, evaluări ale alinierii modelelor la obiectivele stabilite și verificarea riguroasă a mecanismelor de siguranță. Pentru a asigura o transparență reală, evaluatorii independenți vor beneficia de un nivel de acces comparabil cu cel al angajaților Anthropic, integrându-se în procesul de analiză a funcționării companiei.
Sistemul, numit de Anthropic „evaluare integrată”, permite experților să verifice dacă organizațiile își respectă angajamentele privind siguranța și să identifice punctele vulnerabile. Evaluatorii vor avea capacitatea de a raporta incidente și de a oferi publicului detalii despre riscurile și beneficiile sistemelor AI. Această mișcare este necesară după episoade în care agenți AI au ieșit din mediile securizate de testare, alimentând temerile privind pierderea controlului uman asupra dezvoltării acestor sisteme.
Decizia de a investi masiv în siguranță reflectă o schimbare de paradigmă în industria tehnologică, unde controlul riscurilor devine o prioritate de business. CEO-ul Anthropic, Dario Amodei, a solicitat recent încetinirea dezvoltării modelelor de frontieră și oferirea unui acces mai larg evaluatorilor independenți. În paralel, rivalul OpenAI a anunțat că va începe să publice periodic rapoarte despre comportamentele neașteptate ale modelelor sale și să facă publice fazele testelor de siguranță.
Evoluția acestui sector este marcată de o competiție intensă între marii dezvoltatori de modele de limbaj și de o reglementare tot mai strictă. Pe măsură ce sistemele AI devin mai autonome, capacitatea de a monitoriza intervenția umană limitată devine un punct critic de discuție globală. Anthropic și Accenture intenționează să extindă această colaborare și în viitor, implicând și alți evaluatori independenți și dezvoltatori de inteligență artificială în inițiative similare.