Satya Nadella, directorul general al Microsoft, a solicitat introducerea unor mecanisme de control independente și a unei „frâne de urgență” în cadrul sistemelor avansate de inteligență artificială. Această propunere vizează capacitatea persoanelor autorizate de a întrerupe sau de a opri funcționarea unui model de AI chiar și în momentul în care acesta execută o sarcină specifică. Mesajul a fost publicat sâmbătă pe platforma X, conform informațiilor furnizate de News.ro, care citează CNBC.
Directorul Microsoft a avertizat că dezvoltarea unor sisteme AI tot mai puternice trebuie să fie însoțită obligatoriu de măsuri stricte de securitate și de proceduri operaționale fiabile. Nadella susține că este necesară intervenția umană și crearea unei arhitecturi solide de sisteme deterministe pentru a înconjura modelele nedeterministe. Acestea din urmă sunt sisteme ale căror acțiuni și răspunsuri nu pot fi anticipate cu certitudine în toate situațiile, ceea ce impune supraveghere suplimentară.
Propunerea lui Nadella include faptul că modelele AI de ultimă generație, atât cele proprietare, cât și cele cu parametri accesibili public, trebuie tratate ca potențiale amenințări interne. Pentru a limita riscurile, sistemele trebuie proiectate pe baze care permit monitorizarea permanentă a comportamentului și verificarea deciziilor. Printre măsurile specifice menționate se numără utilizarea unor modele diverse, testarea continuă, posibilitatea auditării, izolarea componentelor periculoase și raportarea incidentelor.
Solicitarea vine într-un context marcat de avertismentele unor personalități precum Bill Gates, Sam Altman, Elon Musk sau Dario Amodei privind riscurile dezvoltării accelerate. Un responsabil de la Anthropic a susținut recent că există o probabilitate de peste 10% ca această tehnologie să provoace dispariția omenirii în deceniul următor. În același timp, Donald Trump a respins aceste avertismente, insistând pe menținerea avantajului tehnologic al SUA față de China.
Administrația Trump a anunțat recent crearea unei noi structuri, numită „AI Force”, condusă de Jay Clayton, cu scopul de a sprijini industria și de a identifica utilizatorii abuzivi. Nadella subliniază că siguranța nu trebuie să depindă de încrederea în modele, ci de mecanisme tehnice care permit controlul. „Cel mai de încredere sistem de superinteligență nu va fi cel care conține modelul în care avem cea mai mare încredere. Va fi cel care ne permite să avem cât mai puțină nevoie să avem încredere în model”, a concluzionat directorul.
Dezvoltarea tehnologiei de inteligență artificială rămâne un subiect de intensă dezbatere globală, implicând atât riscuri de securitate, cât și competiții geopolitice între marile puteri. În timp ce unii experți cer încetinirea ritmului de progres pentru a asigura siguranța, alte administrații prioritizează viteza de inovare pentru a nu rămâne în urma competitorilor tehnologici internaționali.