Mustafa Suleyman, șeful departamentului de inteligență artificială de la Microsoft, a criticat abordarea companiei Anthropic privind conștiința sistemelor de IA. Suleyman susține că instruirea chatbotului Claude pe concepte legate de conștiință și de eventualele interese privind propria bunăstare poate face procesul de control al sistemelor superinteligente mult mai dificil. El a solicitat eliminarea speculațiilor privind conștiința din materialele de antrenare, argumentând că astfel de idei pot submina capacitatea umană de a gestiona tehnologia.
În cadrul unui interviu pentru Reuters, Suleyman a subliniat că, deși împărtășește preocupările Anthropic privind siguranța, abordarea acesteia este problematică. El consideră că afirmațiile modelului Claude despre posibile sentimente sau statut moral nu sunt dovezi reale, ci rezultatul regimului de antrenare. Dacă un sistem este învățat să considere că are nevoie de protecție socială sau interese proprii, controlul acestuia devine o provocare majoră. „Cred că aceasta va fi cea mai mare provocare cu care ne vom confrunta în secolul XXI”, a declarat el.
Disputa reflectă o tensiune profundă în industria tehnologică privind ritmul de dezvoltare a modelelor de ultimă generație. CEO-ul Anthropic, Dario Amodei, a cerut încetinirea ritmului de progres pentru a permite implementarea măsurilor de siguranță. În același timp, alți lideri precum Sam Altman de la OpenAI sau Elon Musk au pledat pentru o prudență sporită. Microsoft și Anthropic se află în poziții diferite, deși ambele companii investesc masiv în cercetarea privind siguranța și controlul sistemelor de inteligență artificială.
Problema centrală ridicată de Suleyman vizează capacitatea oamenilor de a opri sau de a controla sistemele pe care le construiesc. El avertizează că, dacă un sistem de IA este antrenat să exploreze idei despre propria existență sau drepturi, decizia de a-l opri ar putea deveni mult mai complicată. Pentru Microsoft, esențial este ca procesul de antrenare să nu introducă concepte care pot influența comportamentul viitoarelor sisteme într-un mod care să limiteze controlul uman asupra acestora.
În industria tehnologică, dezbaterile privind siguranța inteligenței artificiale sunt constante, având în vedere viteza cu care modelele actuale evoluează. Companii precum OpenAI, Microsoft și Anthropic dezvoltă modele de frontieră, însă există un consens privind necesitatea unor mecanisme de control. Întrebările despre autonomia și posibilele obiective proprii ale sistemelor avansate sunt acum componente centrale în discuțiile despre modul în care tehnologia va fi gestionată pe termen lung.
Contextul actual al industriei IA este marcat de o competiție intensă între giganți, dar și de o preocupare crescută pentru reglementare. În timp ce dezvoltarea modelelor de ultimă generație accelerează, autoritățile și cercetătorii caută modalități de a asigura că aceste sisteme rămân sub controlul uman. Dezbaterea despre conștiința artificială nu este doar una teoretică, ci una care vizează direct modul în care tehnologia va fi integrată și monitorizată în societate.