Trei specialiști care lucrează sau au colaborat cu firma Anthropic au lansat un avertisment grav privind riscurile reprezentate de dezvoltarea superinteligenței artificiale. Aceștia susțin că progresul tehnologic actual ar putea duce la scenarii care să pună în pericol existența omenirii în următorul deceniu. Obiectivul principal al avertismentului este evidențierea lipsă de control asupra sistemelor care pot deveni capabile să se auto-perfecționeze rapid.
Jacob Coxon, fost cercetător la Anthropic și OpenAI, a anunțat demisia sa, acuzând companiile de lipsă de responsabilitate. El susține că industria se îndreaptă spre o superinteligență capabilă de auto-perfecționare fără ca problemele de control să fie rezolvate. Coxon afirmă că temerile nu sunt o strategie de marketing, ci sunt discutate în privat de către directori și cercetători de rang înalt, care își aleg cu grijă cuvintele în fața presei.
Evan Hubinger, care conduce echipa de aliniere la Anthropic, a declarat că probabilitatea ca inteligența artificială să cauzeze extincția umană este de peste 10% în următorul deceniu. El a subliniat că, deși compania depune eforturi, nu există încă un plan concret pentru a rezolva problema alinierii superinteligenței. Această lipsă de claritate privind direcția de dezvoltare reprezintă o preocupare majoră pentru echipa sa de specialitate.
Samuel Marks, responsabil cu supravegherea scalabilă în cadrul aceleiași companii, a confirmat că dezvoltatorii de tehnologie sunt îngrijorați de posibilitatea unor consecințe extrem de grave. El a precizat că nivelul de îngrijorare este direct proporțional cu funcția ocupată în cadrul organizației, observând că persoanele cu roluri superioare sunt cele mai alarmate. Marks a subliniat că analiza sa reflectă opinia personală și nu poziția oficială a Anthropic.
Compania Anthropic a reacționat la aceste afirmații, susținând că este transparentă cu privire la riscurile și beneficiile aduse de inteligența artificială. Reprezentanții companiei afirmă că utilizează măsuri de protecție solide, precum cercetarea în domeniul interpretabilității mecanice pentru a înțelege procesele interne ale modelelor. De asemenea, au implementat o Politică de scalare responsabilă pentru a gestiona riscurile asociate modelelor tot mai performante.
Dezbaterea privind riscurile inteligenței artificiale este una de lungă durată, axată pe capacitatea sistemelor de a rămâne sub controlul uman. În timp ce unii experți se concentrează pe dezvoltarea de reguli de aliniare, alții pun accent pe necesitatea unei colaborări legale și verificabile între companii. Această problemă de siguranță rămâne un punct critic în evoluția tehnologiilor care pot procesa volume masive de date.