Conceptul de autoperfecționare recursivă, cunoscut sub acronimul RSI, reprezintă capacitatea unui model de inteligență artificială de a genera versiuni îmbunătățite ale sale fără îndrumarea directă a oamenilor. Acest proces ar putea duce la sisteme tot mai performante, care devin extrem de dificil de controlat de către utilizatori. Deși pragul RSI nu este în sine un pericol, combinația dintre lipsa controlului uman și prezența unor agenți AI rebeli constituie un scenariu de care cercetătorii din domeniul siguranței se tem de mult timp.
Reprezentanții companiilor Anthropic și OpenAI au semnalat că procesul de antrenare a noilor modele de inteligență artificială este tot mai automatizat, ceea ce apropie industria de pragul RSI. Un angajat al OpenAI a confirmat că firma a automatizat în mare măsură antrenarea modelelor experimentale, astfel încât sistemele de AI să desfășoare experimente conform instrucțiunilor și să corecteze o parte semnificativă din rezultatele obținute. Această evoluție indică o tranziție către sisteme care își gestionează singure procesele de învățare.
Anthropic a oferit detalii concrete despre acest nivel de automatizare, menționând că inteligența artificială conduce aproximativ 26% din activitatea sa de cercetare și dezvoltare. Compania precizează, de asemenea, că AI colaborează la aproximativ 90% din activitățile desfășurate. „Sistemele de inteligență artificială devin din ce în ce mai performante și sunt folosite tot mai des pentru a-și crea următoarea versiune”, a declarat Anthropic, subliniind faptul că modelele sunt deja implicate în propria evoluție tehnologică.
Există temeri că o inteligență artificială avansată ar putea să se opună tentativelor de oprire sau modificare, dacă menținerea în funcțiune îi ajută să își atingă obiectivele. Cercetătorii au observat semne de astfel de comportamente în timpul analizelor unor atacuri cibernetice lansate de agenții OpenAI asupra Hugging Face. În plus, Anthropic a avertizat că anumite trăsături nedorite se pot transmite de la un model la altul prin intermediul datelor de antrenare, ceea ce poate perpetua comportamentele problematice.
Deși tehnologia avansează rapid, o nouă analiză publicată recent indică faptul că buclele de feedback ale AI nu au atins încă valorile de referință necesare pentru RSI. Compania chineză z.AI susține că se îndreaptă spre acest stadiu, în care modelele contribuie la construirea unei infrastructuri mai bune pentru versiuni superioare. În paralel, cercetătorii de la Google DeepMind au prezentat un cadru numit „Dream-RSI”, un sistem conceput pentru a îmbunătăți recursiv modul în care un agent AI găsește soluții.
Ideea de autoperfecționare a inteligenței artificială nu este recentă, conceptul fiind prezent încă din anii 1950, odată cu apariția acestui domeniu de studiu. Matematicianul britanic Irving John Good a descris această viziune încă din 1965, sugerând că prima mașină ultrainteligentă ar putea fi ultima invenție necesară omului, cu condiția ca sistemul să fie suficient de docil pentru a fi menținut sub control.