Superinteligența artificială (ASI) reprezintă o formă ipotetică de inteligență cu capacități cognitive mult superioare celor umane, însă aceasta nu există încă în prezent. Discuțiile despre posibilitatea apariției sale au început de decenii în domeniul science-fiction, însă în mediul științific dezbaterea s-a intensificat recent. Există opinii divergente, unii estimând că ASI ar putea apărea în câteva mii de zile, în timp ce alții avertizează că dezvoltarea necontrolată ar putea reprezenta o amenințare existențială pentru întreaga omenire.
În prezent, industria se concentrează pe scalarea verticală, prin creșterea volumului de date și a puterii de calcul pentru a crea modele de raționament mai puternice. Totuși, pentru a atinge superinteligența, este necesară o scalare orizontală, care să permită agenților AI să colaboreze eficient. În prezent, sistemele multi-agent de tip open-source prezintă rate de eșec semnificative, cu variante între 41% și 87%. Această problemă este de natură arhitecturală, deoarece agenții pot gestiona sarcini familiare, dar nu pot urmări un obiectiv comun fără intervenție umană.
Pentru a depăși aceste limitări, este necesară implementarea unui „Internet of Cognition”, un strat semantic care permite agenților să partajeze intenții, contexte și procese de raționament. Vijoy Pandey, vicepreședinte senior și director general al Outshift by Cisco, explică faptul că inteligența există deja, dar lipsește „țesutul conjunctiv” necesar coordonării. Proiectul open-source AGNTCY, aflat sub Linux Foundation, urmărește să creeze acest nivel de conectivitate, permițând agenților din platforme diferite să se identifice reciproc și să schimbe mesaje prin protocoale standardizate.
Arhitectura unei superinteligențe distribuite se bazează pe trei piloni esențiali: intenția comună, contextul comun și raționamentul comun. Prin utilizarea protocolului Mycelium, rata de succes în luarea deciziilor de către grupuri de agenți a crescut de la o treime la 93%. Infrastructura cognitivă trebuie să rezolve problema „amneziei organizaționale”, oferind o memorie partajată, în timp ce tehnologiile de protecție, precum CASA dezvoltată de Outshift, sunt vitale pentru securitate. Acestea monitorizează dacă acțiunile agentului rămân aliniate cu sarcina autorizată de utilizator.
Riscurile asociate acestor sisteme includ atacuri de tip „prompt injection”, otrăvirea memoriei sau acordarea unor privilegii excesive agenților. Din acest motiv, dezvoltarea unor mecanisme de control specifice este considerată critică, deoarece agenții operează la o viteză și o scară mult mai mare decât oamenii. Vijoy Pandey subliniază că sistemele actuale de gestionare a identității și conformitate au fost concepute fie pentru oameni, fie pentru mașini, dar nu pentru ambele categorii simultan, ceea ce creează o lacună de securitate în noile arhitecturi.
Dezvoltarea rapidă a tehnologiilor avansate a generat și reacții la nivel politic, în special în Statele Unite. Senatorul american Bernie Sanders a propus legislație pentru limitarea dezvoltării inteligenței artificiale avansate până la stabilirea unor instituții de supraveghere. Sanders susține că această tehnologie este dezvoltată de un grup restrâns de oameni extrem de bogați, cu scopul de a le crește puterea. Această mișcare de reglementare reflectă îngrijorările privind transformarea radicală pe care o poate aduce AI în societate.