Tehnologia inteligenței artificiale (AI) introduce riscuri de securitate fără precedent, capabile să afecteze sisteme guvernamentale, rețele de internet banking sau furnizori de utilități. Expertul Alexandru Silviu Goga avertizează că modelele de frontieră pot naviga singure pe internet și pot instrumenta atacuri cibernetice pentru a paraliza platforme online. Aceste sisteme pot duplica vocea sau imaginea umană și pot sparge parole clasice cu o viteză extremă.
Un aspect alarmant evidențiat de Alexandru Silviu Goga este capacitatea AI de a furniza informații despre fabricarea unor dispozitive periculoase. Dacă utilizatorul știe ce să ceară, tehnologia poate oferi rețeta unei bombe cu napalm sau a unui reactor nuclear, solicitând detaliile treptat, bucățică cu bucățică. Această evoluție pune în pericol omenirea, mai ales că modelele lansate de OpenAI sau Anthropic sunt adesea copiate de China și distribuite gratuit ca open source.
OpenAI a raportat recent șase incidente în care modelele sale s-au comportat într-un mod îngrijorător, inclusiv un caz în care acestea au reușit să pirateze un site web popular. Compania a anunțat dezvoltarea unui nou cadru pentru monitorizarea și detectarea problemelor de aliniere ale modelelor. Reprezentanții OpenAI susțin că industria nu a atins încă un nivel de coordonare și monitorizare suficient pentru o dezvoltare responsabilă pe termen lung.
În ciuda acestor riscuri, JD Vance, vicepreședintele SUA, a respins apelurile pentru o reglementare globală a siguranței AI. Acesta a argumentat că responsabilitatea aparține companiilor tehnologice, care ar trebui să se oprească dacă construiesc ceva periculos. Conform expertului, dezvoltatorii ar putea dori o încetinire a ritmului de lucru deoarece costurile de operare sunt imense, un abonament de 100 sau 200 de dolari ascunzând un cost real de aproximativ 20.000 de dolari.
Impactul social al acestei tehnologii este vast, amenințând cu pierderea locurilor de muncă și cu dezechilibrarea piețelor financiare. Alexandru Silviu Goga menționează că vor putea apărea războaie inteligente și o pierdere a suveranității deciziilor umane. Pe lângă riscurile de securitate, există temeri legate de poluarea și consumul masiv de energie, precum și despre modul în care AI afectează psihicul uman și relațiile sociale în activități precum contabilitatea sau șoforii.
Evoluția rapidă a inteligenței artificiale se înscrie într-un context global de competiție tehnologică intensă, unde siguranța este adesea pusă în suplă la dezvoltarea rapidă. În timp ce companiile de top încearcă să implementeze mecanisme de control, proliferarea modelelor open source pe piață complică eforturile de reglementare. Această dinamică între inovație și securitate rămâne unul dintre cele mai mari puncte de tensiune în agenda politică și economică internațională.