Compania americană Anthropic a anunțat joi că a acordat organizației nonprofit METR un nivel de acces extins la propriile sisteme de inteligență artificială. Această decizie permite organizației, specializată în evaluarea sistemelor AI, să verifice modelele avansate, măsurile de siguranță și gestionarea riscurilor într-un mod independent. Parteneriatul vizează o examinare externă a tehnologiilor dezvoltate de Anthropic, oferind o transparență sporită în ceea ce privește funcționarea acestora.
Pentru a facilita acest proces de auditare, șase angajați ai METR au primit echipamente specifice ale companiei și spații de lucru dedicate. Aceștia beneficiază de acces la instrumente și sisteme interne, utilizând resurse similare cu cele folosite de propriile echipe Anthropic care se ocupă de evaluarea riscurilor. Această integrare tehnică este menită să asigure că evaluatorii au la dispoziție toate uneltele necesare pentru o analiză riguroasă.
Organizația METR va avea capacitatea de a publica în mod independent concluziile sale privind riscurile, incidentele și practicile de siguranță ale Anthropic. Acest proces de raportare se va desfășura fără a fi necesară aprobarea prealabilă din partea companiei americane. Totuși, vor exista anumite restricții privind eliminarea informațiilor sensibile, cum ar fi datele clienților, detaliile protejate juridic sau anumite aspecte specifice ale arhitecturii modelelor AI.
Această inițiativă este o reacție la preocupările exprimate de cercetători și evaluatori independenți privind controlul industriei. Există temeri că marile companii de inteligență artificială ar putea exercita o influență excesivă asupra verificărilor externe. Această influență ar putea apărea prin restricționarea accesului la date sensibile sau prin impunerea unor condiții stricte privind modul în care rezultatele auditurilor sunt comunicate către public.
Prin acest pas, Anthropic urmărește să ofere evaluatorilor externi o autonomie reală în examinarea sistemelor de inteligență artificială. Scopul final este de a permite comunicarea publică a eventualelor vulnerabilități sau a deficiențelor identificate în cadrul măsurilor de siguranță. Această abordare ar trebui să faciliteze identificarea punctelor slabe înainte ca acestea să devină probleme majore de securitate sau de funcționare a modelelor.
Sectorul tehnologiei de inteligență artificială este marcat de o dezvoltare rapidă și de lansări constante de produse noi. Recent, Amazon a lansat două dispozitive cu inteligență artificială capabile să înregistreze și să analizeze conversațiile utilizatorilor. Această evoluție constantă a instrumentelor de AI subliniază necesitatea unor mecanisme de control și de evaluare a riscurilor pentru protecția utilizatorilor și a integrității datelor.