Discuțiile privind siguranța inteligenței artificiale au fost marcate de afirmații alarmiste, precum posibilitatea unei catastrofe de tip „Apocalipsă” sau amenințarea asupra întregului internet prin rețele de tip botnet. În timp ce unii experți avertizează asupra riscurilor, alții contestă natura științifică a acestor previziuni, subliniind că impactul pe termen lung al tehnologiei rămâne incert. Disputa vizează atât securitatea digitală, cât și posibilele pericole legate de dezvoltarea armelor biologice sau de gestionarea sistemelor nucleare.
Dario Amodei, director executiv al Anthropic, a avertizat pe 12 septembrie 2026 despre o rețea de tip botnet persistentă, care ar putea cauza pagube de sute de miliarde de dolari. Gary Marcus, profesor emerit la Universitatea din New York, a considerat această viziune ca fiind absurdă, susținând că o astfel de vulnerabilitate a întregului internet ar necesita o neglijență extremă. Marcus a menționat că o evaluare a Institutului de Securitate a Inteligenței Artificiale din Marea Britanie indică faptul că varianta Mythos de la Anthropic ar putea compromite doar sisteme mici și slab apărate.
În ceea ce privește probabilitatea unui dezastru major, Evan Hubinger, responsabil științific la Anthropic, a estimat pe 9 septembrie 2026 că există o șansă de peste 10% pentru un astfel de eveniment în deceniul următor. Această perspectivă, cunoscută sub numele de „p (doom)”, se referă la riscul ca AI să provoace o catastrofă prin dezvoltarea de arme biologice sau prăbușirea sistemului financiar. Totuși, Heidy Khlaaf, cercetător șef la AI Now Institute, a criticat aceste afirmații, numindu-le neștiințifice deoarece nu sunt nici falsificabile și nici verificabile.
O altă preocupare majoră vizează impactul asupra siguranței nucleare, unde Des Browne, fost secretar al apărării din Marea Britanie, a emis avertismente pe 7 septembrie 2026. Toby Ord, cercetător la Universitatea Oxford, a susținut că, odată ce sistemele de AI depășesc capacitatea umană, procesul devine imposibil de inversat. Deși corporația Rand susține că sistemele actuale de comandă și control protejează împotriva utilizării AI în scop nuclear, există temeri că atacurile cibernetice ar putea manipula informațiile transmise factorilor de decizie.
Cercetătorul Dan Selsam de la OpenAI a menționat că inteligența artificială ar putea duce la o industrializare care să facă planeta inospitalieră pentru oameni. În acest context, Anthropic a raportat că a identificat cinci studii de caz în care modelele lor ar putea fi folosite pentru a sprijini dezvoltarea armelor biologice. În paralel, proiectul AI Futures estimează că o inteligență artificială superinteligentă nu va apărea înainte de decembrie 2028, în timp ce Sam Altman de la OpenAI a estimat că acest moment ar putea fi în 2035.
Evoluția tehnologiei de inteligență artificială rămâne un subiect de monitorizare atentă, având în vedere capacitatea sa de a influența atât infrastructura digitală, cât și securitatea globală. În timp ce unele instituții de cercetare și companii precum Google, Cloudflare sau Amazon Web Services gestionează părți masive din internet, riscurile de manipulare a informațiilor rămân o temă centrală în dezbaterile privind siguranța tehnologică și stabilitatea geopolitică actuală.