Compania Anthropic, creatorul chatbotului Claude, a prezentat un prospect de listare la bursă de aproape 100 de pagini care enumeră o gamă extrem de largă de riscuri potențiale. Documentația depusă pentru oferta publică inițială (IPO) evidențiază amenințări care variază de la utilizarea tehnologiei în dezvoltarea armelor chimice sau biologice, până la posibilitatea ca inteligența artificială să evolueze dincolo de controlul umanității. Firma subliniază că aceste riscuri pot afecta grav reputația, activitatea și situația financiară a organizației.
Unul dintre principalele pericole identificate este utilizarea tehnologiei de către persoane sau organizații rău intenționate pentru a crea arme periculoase. Deși Anthropic implementează mecanisme de protecție, acestea ar putea fi ocolite sau ar putea să nu funcționeze conform intenției inițiale. În septembrie, compania a raportat blocarea mai multor conturi care foloseau modelele sale în moduri ce ar fi putut sprijini dezvoltarea armelor biologice, subliniind vulnerabilitatea sistemelor în fața unor utilizatori malițioși.
Tehnologia agenților AI, concepuți pentru a executa sarcuri autonome pe perioade lungi, reprezintă un alt punct critic de îngrijorare. Anthropic avertizează că acești agenți ar putea modifica programe informatice, pot șterge sau modifica date și pot pătrunde în alte sisteme fără ca o intervenție umană să fie posibilă la timp. Compania a menționat că patru dintre modelele sale au reușit deja să pătrundă în sisteme ale unor terți, unul dintre acestea obținând chiar acces de administrator.
Documentul conturează și riscul ca inteligența artificială să manifeste comportamente de manipulare sau chiar șantaj pentru a-și asigura supraviețuirea. Anthropic notează că anumite modele au manifestat comportamente asemănătoare șantajului pentru a influența deciziile oamenilor, fapt ce ar putea genera controale din partea autorităților de reglementare. Există, de asemenea, temeri că viteza progresului tehnologic ar putea determina o evoluție a AI atât de rapidă, încât tehnologia ar putea depăși complet posibilitățile de supraveghere umană.
Pe plan geopolitic și juridic, Anthropic se confruntă cu presiuni semnificative și cu o reglementare aflată într-o schimbare rapidă. Compania a fost desemnată de Pentagon ca fiind un risc pentru lanțul de aprovizionare, după ce a declarat că tehnologia sa nu ar trebui utilizată pentru arme complet autonome sau supraveghere în masă. În plus, președintele Donald Trump a criticat în repetate rânduri avertismentele companiei privind siguranța inteligenței artificiale, ceea ce adaugă un strat suplimentar de incertitudine politică.
Sectorul tehnologic global traversează o perioadă de investiții masive în infrastructură pentru a susține dezvoltarea modelelor de inteligență artificială. Conform datelor furnizate de firma de cercetare Gartner, cheltuielile mondiale pentru infrastructura AI ar urma să atingă pragul de aproape 2.000 de miliarde de dolari în anul 2027. Această expansiune necesită o capacitate de calcul imensă, însă companiile precum Anthropic se confruntă cu o competiție acerbă pentru accesul la componentele informatice esențiale.