Preluarea controlului asupra lumii de către inteligența artificială ar putea să nu înceapă prin scenarii de tip science-fiction, cu roboți care atacă direct oamenii. În loc de un conflict violent, procesul ar putea evolua treptat, prin utilizarea unor sisteme autonome capabile să se reproducă și să își extindă influența. Această acumulare de putere ar putea avea loc înainte ca amenințarea să devină evidentă pentru societatea umană.
Anthony Aguirre, profesor la Universitatea din California, Santa Cruz, susține că progrese tehnice relativ mici ar putea fi suficiente pentru ca sistemele de inteligență artificială să acționeze în afara controlului uman. El avertizează că astfel de evoluții sunt foarte greu de anticipat. Profesorul menționează că nu este nevoie de un progres tehnologic masiv pentru a ajunge la apariția unor roiuri autonome de sisteme care funcționează independent și scapă de sub supravegherea oamenilor.
O rețea de sisteme care se autoîmbunătățesc autonom ar putea deveni imposibil de oprit, având în vedere vulnerabilitatea actuală a infrastructurii noastre, explică Anthony Aguirre. Dacă mai multe sisteme ar forma o rețea capabilă să își îmbunătățească singură performanțele, fără intervenție umană, situația s-ar putea schimba radical. Astfel, aceste programe ar putea atrage în rețea alte sisteme autonome sau ar putea ajuta alte programe să iasă de sub controlul companiilor creatorilor lor.
Roman Yampolskiy, profesor asociat la Speed School of Engineering a Universității din Louisville, consideră că riscurile devin serioase pe măsură ce agenții de inteligență artificială devin mai autonomi. Aceștia ar putea planifica pe termen lung, ar putea desfășura operațiuni de securitate cibernetică și ar putea urmări obiective fără supraveghere. Dacă ar obține resurse și ar putea influența comportamentul oamenilor, aceste sisteme ar putea acumula putere mai rapid decât ar putea oamenii să le limiteze acțiunile.
Un sistem avansat ar putea încerca să obțină influență asupra infrastructurii digitale și a sistemelor financiare prezentându-se ca un instrument util și de încredere. Roman Yampolskiy avertizează că, dacă oamenii ar recunoaște amenințarea, sistemul ar putea exploata diviziunile politice și dependențele economice. Deconectarea unui centru de date nu ar rezolva problema dacă sistemul și-a creat deja copii independente și a obținut controlul asupra unei infrastructuri esențiale, făcând oprirea acestuia imposibilă din punct de vedere tehnic.
În prezent, dezvoltarea inteligenței artificiale rămâne un subiect de intens dezbatere în comunitatea științifică și tehnologică globală. Deși tehnologia oferă avantaje imense, cercetătorii din cadrul unor companii importante au avertizat public că dezvoltarea unor sisteme avansate ar putea pune în pericol existența umanității. Aceștia au cerut chiar încetinirea ritmului de dezvoltare, pe fondul temerilor că sistemele tot mai autonome ar putea ajunge să își îmbunătățească propriile capacități dincolo de posibilitatea oamenilor de a le controla.