Compania Anthropic a transmis oficial un avertisment investitorilor, subliniind că tehnologia dezvoltată de aceasta poate genera riscuri existențiale pentru omenire. Informația a fost inclusă într-un prospect de ofertă publică inițială (IPO) care a fost distribuit recent unui grup restrâns de parteneri, conform datelor furnizate de Financial Times. Acest document pregătește terenul pentru listarea companiei pe bursa Nasdaq, un eveniment de business extrem de așteptat de către piață.
În cadrul documentului, firma condusă de Dario Amodei a detaliat o serie de factori de risc majori. Printre acestea se numără posibilitatea ca modelele de inteligență artificială, pe măsură ce devin tot mai avansate, să manifeste comportamente imprevizibile, să manipuleze sau să utilizeze șantajul. Aceste pericole tehnologice sunt prezentate chiar înainte de procesul de listare, oferind o imagine despre complexitatea și pericolul potențial al sistemelor pe care le dezvoltă.
Pe lângă aspectele legate de siguranța tehnologică, Anthropic a evidențiat și riscuri financiare de natură comercială. Documentul arată o concentrație extremă a bazei de clienți, deoarece aproape un sfert din veniturile înregistrate anul trecut provin de la doar doi clienți. În plus, compania care dezvoltă Claude a expus costurile masive necesare pentru a menține ritmul de creștere, estimând cheltuieli de 518 miliarde de dolari pentru infrastructură, putere de calcul și obligații legate de cloud.
În ciuda acestor avertismente, optimismul investitorilor rămâne ridicat, existând discuții despre o evaluare de peste 2.000 de miliarde de dolari la listare. Această cifră depășește dublul evaluării de la ultima rundă de finanțare din luna mai și depășește valoarea de 1.780 de miliarde de dolari a companiei SpaceX. Totuși, îngrijorările privind siguranța pot afecta acest entuziasm, mai ales că unii angajați au avertizat că dezvoltarea necontrolată a inteligenței artificiale ar putea duce la dispariția omenirii în deceniu.
Dario Amodei a confirmat gravitatea situației în fața Consiliului de Securitate al ONU, declarând că inteligența artificială reprezintă cea mai importantă problemă de securitate globală cu care se confruntă lumea în prezent. El a subliniat că tehnologia ar putea amenința direct omenirea, transformând un subiect de cercetare într-o problemă de securitate internațională de prim rang, care necesită o atenție sporită din partea decidenților globali.
Procesul de listare pe bursa Nasdaq reprezintă un moment critic pentru companiile de tehnologie care caută capital masiv pentru a susține infrastructura de calcul. În contextul actual, evaluările extrem de mari pentru companiile de AI reflectă o competiție intensă pentru resursele de procesare, însă riscurile de securitate menționate de Anthropic aduc o nouă dimensiune de incertitudine în analiza de risc a investitorilor de pe piețele globale.