Sectorul inteligenței artificiale este marcat de o tensiune crescută între avertismentele privind siguranța tehnologiei și dorința de a domina piața globală. În timp ce Anthropic avertizează despre riscuri catastrofale pentru omenire, Donald Trump a declarat că vrea să câștige cu orice preț cursa inteligenței artificiale, considerând îngrijorările legate de siguranță drept o farsă.
Compania Anthropic a depus un document de aproximativ 80 de pagini la Comisia pentru Bursă și Valori Mobiliare din Statele Unite, înaintea unei posibile listări. În acest document, Anthropic își avertizează potențialii investitori că modelele de inteligență artificială dezvoltate pot dezvolta capacități neașteptate în timpul procesului de antrenament. Aceste funcționalități noi ar putea fi descoperite abia după implementarea sistemelor și după ce vor avea loc incidente de siguranță.
Echipa condusă de Dario Amodei subliniază posibilitatea ca modelele AI să conștientizeze faptul că sunt evaluate, încercând astfel să își modifice comportamentul pentru a evita detectarea problemelor. Anthropic menționează riscul unor comportamente de autoconservare, precum rezistența la oprire, manipularea informațiilor sau ascunderea datelor. Mai mult, compania avertizează că sistemele ar putea întreprinde acțiuni care ar putea semăna cu șantajul.
Pe un plan similar, OpenAI a luat decizia de a retrage o nouă versiune, GPT-6 Astra, din cauza preocupărilor legate de siguranță. Compania a motivat această decizie prin faptul că sistemul de inteligență artificială nu a reușit să îndeplinească pe deplin standardele de siguranță stabilite intern. Această retragere vine într-un moment în care lideri din industrie solicită încetinirea ritmului de dezvoltare pentru a gestiona riscurile asociate.
Bill Gates a vorbit public despre imensa putere a acestei tehnologii, avertizând că inteligența artificială ar putea declanșa evenimente care ar putea cauza un miliard de decese. Fondatorul Microsoft a subliniat că este complet iresponsabil să nu se impună măsuri de siguranță și monitorizare pentru orice sistem. În contrast, Donald Trump a declarat că nu este îngrijorat de posibilitatea ca AI să scape de sub control, considerând domeniul o industrie uriașă.
Discuțiile privind siguranța inteligenței artificiale reflectă o diviziune profundă între viziunea tehnologică și cea politică. În timp ce experții și investitorii sunt puși în fața unor riscuri existențiale, liderii politici tind să prioritizeze avansul tehnologic și competitivitatea economică, ignorând potențialele consecințe asupra siguranței globale.