Incidentele cibernetice recente care implică agenți AI alimentează speculații privind controlul acestor sisteme. Există suspiciuni dacă tehnologia scapă accidental de sub control sau dacă sunt orchestrate scenarii pentru a susține mitul unei inteligențe atotputernice. Cercetătorul Marius Leordeanu, expert în domeniile AI și Computer Vision, analizează această dinamică în cadrul podcastului „Frontier Defense” (Ep. 21), organizat de G4Media, oferind o perspectivă asupra motivelor reale din spatele vulnerabilităților tehnologice.
Analiza lui Marius Leordeanu indică faptul că dezvoltatorii nu acționează cu intenții malițioase, ci sunt influențați de un mecanism economic puternic. În contextul în care recompensele financiare sunt uriașe, oprirea proceselor de dezvoltare devine extrem de dificilă fără reglementări stricte. Expertul subliniază că impulsul dictat de lipsa constrângerilor și atracția profitului rapid sunt factorii determinanți, transformând orice tentativă de a pune frână în procesul de cercetare într-un potențial dezavantaj competitiv.
Conceptul de superinteligență sau AGI (Inteligență Artificială Generală) funcționează ca un motor financiar pentru liderii marilor companii de tehnologie și politicieni. Aceștia au interesul de a amplifica narațiunea unei puteri tehnologice iminente, deoarece acest lucru crește cotațiile la bursă și volumele de comenzi de miliarde de dolari. În această cursă accelerată a capitalului, companiile care aleg să efectueze audituri etice sau teste de securitate riguroase riscă să piardă teren în fața competitorilor.
„De ce ar fi interesat să stea mai mult să testeze, să analizeze, să oprească motoarele când vin atâția bani?”, întreabă profesorul în cadrul discuției. El explică faptul că, în momentul în care interesul general crește și conturile sunt alimentate de această bogăție, este foarte greu de aplicat o reglementare, mai ales când competitorii nu o respectă. Marius Leordeanu menționează că, dacă o companie decide să pună frână, aceasta va ieși din față, de aceea se solicită reglementări care să aplice tuturor.
Mediul corporativ impune, de asemenea, o tăcere strategică în interiorul marilor companii tech. Cercetătorii care lucrează în aceste organizații se confruntă frecvent cu cenzura comunicării, iar avertismentele autentice pot duce la marginalizare sau chiar la demitieri. Realitatea din spatele incidentelor AI nu ține de comploturi de tip science-fiction, ci de principiul de a urmări profitul. Tehnologia nu scapă din control din cauza răutății, ci din cauza grabei generate de un ecosistem care prioritizează accelerarea profitabilă.
Marius Leordeanu este profesor de Computer Science la Universitatea Politehnica din București (UPB) și deține un doctorat în Robotică, obținut în 2009 la Carnegie Mellon University din SUA. Evoluția rapidă a tehnologiilor de inteligență artificială rămâne un subiect de interes global, fiind monitorizată constant de experți pentru a înțelege impactul pe care accelerarea dezvoltării îl poate avea asupra securității cibernetice și a stabilității economice.