Mustafa Suleyman, directorul diviziei AI de la Microsoft, a avertizat asupra riscurilor majore pe care le reprezintă dezvoltarea unor sisteme de inteligență artificială capabile să își stabilească singure obiective. El susține că dacă tehnologia va putea să câștige bani și să dețină active, s-ar putea pune bazele unei noi „specii de siliciu”. Această entitate ar putea intra în concurență directă cu oamenii pentru resurse, indiferent de modul în care este programată să interacționeze cu noi.
În cadrul unui interviu acordat la BBC, Suleyman a criticat abordarea companiei Anthropic, afirmând că aceasta tratează inteligența artificială ca pe o ființă umană. El consideră că antropomorfizarea, adică procesul de a învăța sistemele AI să manifeste trăsături umane, este o eroare fundamentală. Conform expertului, modele precum Claude pot crea impresia că au propriile dorințe sau valori, deși, în realitate, sunt doar motoare concepute pentru a urma instrucțiuni și a îndeplini obiective stabilite.
Directorul de la Microsoft subliniază că inteligențele artificiale nu sunt conștiente, nu au experiențe și nu pot simți suferința sau preferințele. El a explicat faptul că aceste sisteme sunt lipsite de conținut interior, fiind doar instrumente de completare a secvențelor. Pentru a evita pierderea controlului, Suleyman cere implementarea unor mecanisme de monitorizare mai stricte și o examinare independentă a comportamentului sistemelor, pentru a asigura o transparență reală în procesul de antrenare.
Problema controlului tehnologiei este strâns legată de conceptul de „aliniere”, care vizează integrarea valorilor etice umane în sistemele AI. Scopul este ca tehnologia să rămână întotdeaime subordonată umanității și să lucreze în limite bine definite. Microsoft promovează conceptul de „superinteligență umanistă”, definit ca o inteligență avansată care rămâne sub controlul uman și lucrează exclusiv pentru beneficiul oamenilor, respectând limitele impuse de societate.
În acest context, nevoia de reglementare devine un subiect de dezbatere internațională. Dame Wendy Hall, profesoară la Universitatea din Southampton, a menționat că astfel de discuții sunt necesare la nivel global, deși a observat o anumită „isterie” în industrie. Obiectivul principal rămâne asigurarea faptului că fiecare om are un interes puternic în crearea unor sisteme care să fie sigure, controlabile și care să rămână în concordanță cu valorile umane.
Dezvoltarea inteligenței artificiale avansate reprezintă un domeniu în care integrarea principiilor etice este esențială pentru a preveni deciziile pe care omenirea le-ar putea regreta ulterior. Discuțiile despre autonomia sistemelor și despre modul în care acestea pot deveni mai puternice fără a pierde din vedere valorile umane sunt acum centrale în industria tehnologică globală, fiind necesară o aliniere între dezvoltatorii de tehnologie și regulile de siguranță.