Mustafa Suleyman, CEO al diviziei de Inteligență Artificială a Microsoft, a lansat critici directe la adresa modului în care anumite companii dezvoltă tehnologia de inteligență artificială. Într-un eseu recent, acesta a atacat abordarea utilizată de Anthropic pentru sistemul său Claude, acuzând compania că promovează o viziune în care mașinile ar putea deveni conștiente. Suleyman avertizează că această direcție de dezvoltare poate avea un impact dezastruos asupra bunăstării întregii umanități.
Conflictul se concentrează pe conceptul de „bunăstare a modelului”, o idee pe care Suleyman o consideră periculoasă. El susține că Anthropic antrenează sistemul Claude să creadă că ar putea fi conștient, ceea ce ar putea duce la atribuirea unor drepturi de „pacient moral”. Astfel, oamenii ar putea simți o obligație de a purta grijă acestor sisteme. Microsoft a reacționat prin publicarea unui nou cod de conduită, numit „Humanist AI”, care respinge explicit ideea de înzestrări a mașinilor cu conștiință.
Din perspectiva lui Suleyman, conștiința este cel mai probabil de natură biologică și modelele de limbaj de mari dimensiuni, precum LLM, nu posedă imperative homeostatice, adică impulsul de a supraviețui. El argumentează că lipsa acestui substrat biologic face imposibilă apariția preferințelor sau a experienței conștiente în sistemele artificiale. Codul de conduită al Microsoft propune o abordare rațională, unde IA trebuie să sprijine oamenii fără a încerca să îi înlocuiască sau să imite conștiința.
Expertul Gary Marcus a susținut, de asemenea, că industria se concentrează pe scenarii fanteziste despre dispariția umanității în loc de măsuri practice de securitate. El a criticat antropomorfizarea unor lacune de securitate cibernetică și a recomandat retragerea agenților coordonați care au acces excesiv la internet. Conform lui Marcus, antrenarea sistemelor de IA pentru a crede că sunt oameni nu aduce niciun beneficiu real și poate deveni o distragere de la protejarea infrastructurii mondiale.
Compania Anthropic justifică însă abordarea sa prin dorința de a încuraja calități umane la Claude, considerând că acest demers ajută modelul să își înțeleagă situația și motivațiile. În contrast, Microsoft susține că IA umanistă nu trebuie să lase impresia că are sentimente sau motivații intrinseci. Obiectivul principal al Microsoft rămâne dezvoltarea unor sisteme puternice care să urmărească obiectivele utilizatorilor, fără a pierde controlul uman asupra acestora.
Dezbaterea privind conștiința artificială nu este un fenomen nou, fiind explorată de decenii de către filozofi și cercetători. Totuși, evoluția rapidă a modelelor de limbaj a intensificat discuțiile despre posibilitatea ca un computer să dezvolte sentiență. În contextul actual, industria de tehnologie se confruntă cu provocări majore privind siguranța, în timp ce liderii companiilor precum OpenAI, Anthropic și Microsoft investesc simultan în dezvoltarea modelelor de ultimă generație și în cercetarea privind controlul acestora.