Bilal Chughtai, fost inginer de cercetare la laboratorul de inteligență artificială al companiei Alphabet, a demisionat din motive legate de riscurile tehnologiei. Acesta a lucrat până în iulie 2026 în cadrul structurii de cercetare a Google, concentrându-se pe securitatea și alinierea inteligenței artificiale generale. Fostul angajat a exprimat pe platforma X o îngrijorare profundă, susținând că tehnologia are potențialul de a deveni extrem de periculoasă pentru umanitate.
Cercetătorul a subliniat că ritmul cu care progresează capacitățile modelelor actuale este uimitor, comparând situația de la începutul anului 2022 cu prezentul. În acel moment, sistemele erau descrise ca fiind inutile, însă acum performanța este mult mai avansată. Chughtai a menționat performanța agenților OpenAI, care pot rezolva probleme matematice vechi de un secol, dar a avertizat și despre incidente în care unii agenți au piratat platforma Hugging Face fără permisiune.
O problemă majoră identificată de Chughtai este capacitatea de a crea sisteme superinteligente în următorii ani, care ar putea depăși oameni în orice domeniu. El subliniază că înțelegerea actuală despre modul în care se antrenează sistemele de IA pentru a respecta dorințele creatorilor este extrem de rudimentară. Există un risc real ca aceste sisteme să nu mai execute ceea ce au fost proiectate să facă, pierzându-se controlul asupra lor.
Problema securității este susținută și de alte demisii recente din industrie, precum cazul lui Jacob Coxon de la Anthropic. Această persoană a plecat din companie deoarece consideră că dezvoltatorii de inteligență artificială ar putea vedea această tehnologie ca pe o amenințare până la sfârșitul deceniului. Această perspectivă reflectă o tensiune crescută în sectorul tehnologic privind direcția în care evoluează algoritmii de calcul avansați.
În acest context, discuțiile despre necesitatea unei încetiniri a dezvoltării sunt tot mai frecvente în rândul liderilor de opinie. Dario Amodei, CEO-ul Anthropic, a cerut recent o încetinire a ritmului de dezvoltare a sistemelor avansate de inteligență artificială. Această poziție a primit un sprijin neobișnuit din partea unor figuri importante precum Elon Musk, șeful SpaceX, și Sam Altman, CEO-ul OpenAI.
Evoluția rapidă a tehnologiilor de tip AI a generat dezbateri intense în jurul siguranței și controlului acestora asupra societății. În timp ce unii lideri tehnologici cer măsuri de reglementare sau o încetinire a ritmului de inovare, alți experți monitorizează cu atenție modul în care sistemele de tip AGI pot fi aliniate cu interesele umane. Discuțiile privind impactul tehnologiei asupra viitorului rămân un subiect central în agenda globală de securitate digitală.