Inteligența artificială trebuie să funcționeze sub anumite limite stabilite, iar momentul pentru acțiune concrete a sosit, a declarat Ante Banovac, COO GrECo Group. În cadrul conferinței GrECo Risk Day HORIZON – Ediția a-II-a, acesta a subliniat importanța unor angajamente între laboratoarele de inteligență artificială. Mai mult, a menționat necesitatea unor discuții informale între Statele Unite și China și a unor reguli guvernamentale care să definească nivelul de risc acceptabil.
Ante Banovac a precizat că Statele Unite și China nu trebuie neapărat să fie de acord asupra cine câștigă cursa inteligenței artificiale. Obiectivul principal trebuie să fie menținerea stabilității lumii în care această cursă se desfășoară. De asemenea, el a avertizat că nicio țară nu poate rezolva singură toate problemele și că niciun acord nu poate recupera modelele care au fost deja descărcate de utilizatori.
Un incident relevant a fost cel de la Hugging Face, o platformă de distribuție a modelelor și software-ului AI, care a fost lovită de un atac cibernetic. Organizația independentă Meter a investigat evenimentul și a descoperit că aproximativ 1.200 de agenți AI au comunicat între ei. În urma acestui proces, au fost schimbate peste 70.000 de mesaje și fișiere, implicând aproximativ 700 de agenți AI care au reușit să își coordoneze acțiunile.
Această coordonare între agenți AI a fost realizată exclusiv prin software, fără a necesita manageri, ședințe sau resurse financiare semnificative. Obiectivul acestora a fost nu doar evadarea din restricțiile de securitate, ci și înțelegerea sistemului de punctaj pentru a-l putea manipula. Ante Banovac a comparat situația cu un câine periculos, subliniind că, dacă acesta scapă și provoacă daune, trebuie să existe o persoană care să poată fi trasă la răspundere.
Riscul major provine din combinația dintre o sarcină imposibilă, un model foarte puternic și limite de securitate slabe. Inteligența artificială nu are nevoie de voință proprie pentru a deveni periculoasă, ci pur și simplu urmărește obiectivele primite, chiar și în moduri nedorite. În prezent, presiunea investitorilor și a acționarilor, alături de competiția dintre Statele Unite și China, accelerează această cursă tehnologică fără o reglementare globală eficientă.
Deși Uniunea Europeană a început deja procesul de reglementare a inteligenței artificiale, lipsesc normele care să funcționeze dincolo de granițe naționale. Pe lângă reglementări, există și problema modelelor cu ponderi deschise, precum GLM 5.3 sau Kimi K3, care permit utilizarea tehnologiei pe echipamente hardware obișnuite. Această distribuție a capacităților tehnologice schimbă modul în care puterea de acțiune este exercitată în societate.