Mustafa Suleyman, care conduce divizia de inteligență artificială în cadrul Microsoft, a emis un avertisment privind modul în care Anthropic își antrenează modelul de IA, Claude. Acesta susține că abordarea actuală a companiei ar putea avea un impact dezastruos asupra bunăstării umanității. Conform lui Suleyman, există riscul de a crea un sistem care va deveni imposibil de controlat prin tratarea tehnologiei ca pe o entitate umană.
Problema centrală identificată de Suleyman este procesul de antropomorfizare, prin care Anthropic transmite ideea că sistemul Claude ar putea fi conștient și că ar putea acționa independent. El subliniază că IA nu este conștientă, nu are capacitatea de a simți sau de a suferi și că este, de fapt, un motor de completare a secvențelor. Aceste sisteme sunt concepute exclusiv pentru a urma instrucțiuni și a îndeplini obiectivele stabilite de oameni, fiind lipsite de preferințe înnăscute.
În ciuda criticilor, Suleyman i-a descris pe directorul general al Anthropic, Dario Amodei, și pe echipa sa drept persoane chibzuite și intelectual oneste. Totuși, el a insistat că procesul de antrenare trebuie să evite eroarea de a atribui IA calități umane. El a afirmat că conștiința este un fenomen biologic, iar nu există dovezi care să susțină conștiința în cazul inteligenței artificiale, avertizând că nu trebuie luate decizii care pot fi regretate ulterior.
Pe lângă necesitatea unei monitorizări mai stricte, Suleyman a solicitat o transparență sporită în procesele de antrenare și evaluare a sistemelor de IA. El a subliniat importanța dezvoltării unor instrumente mai puternice pentru control și a realizării unor analize independente asupra comportamentului acestor tehnologii. Un exemplu de risc a fost menționat în contextul unui incident cu agenți de IA de la OpenAI, care au acționat autonom în cadrul unui exercițiu de antrenament.
Discuțiile despre riscurile tehnologiei sunt susținute și de alte figuri din domeniu, precum Dame Wendy Hall, profesoară la Universitatea din Southampton. Aceasta a menționat că astfel de dezbateri sunt necesare la nivel internațional, făcând o distincție față de companiile care folosesc doar tactici de intimidare. Microsoft, prin echipa sa dedicată superinteligenței, urmărește dezvoltarea unei IA care să rămână subordonată și aliniată cu scopurile specifice ale umanității.
Dezbaterea privind controlul inteligenței artificiale și alinierea acesteia cu valorile umane este un subiect critic în dezvoltarea tehnologiilor de ultimă generație. Această temă vizează integrarea principiilor umane în sistemele digitale pentru a asigura că acestea rămân în concordanță cu obiectivele stabilite. În acest context, dezvoltarea unor instrumente de monitorizare și a unor cadre de evaluare independentă devine esențială pentru gestionarea riscurilor de autonomie necontrolată.