Directorul general al Microsoft, Satya Nadella, a solicitat introducerea unor mecanisme de control independente și a unei „frâne de urgență” în cadrul sistemelor avansate de inteligență artificială. Această măsură ar permite persoanelor autorizate să întrerupă sau să oprească funcționarea unui model de AI chiar și în momentul în care acesta execută o sarcină specifică. Propunerea a fost făcută prin intermediul unui mesaj publicat sâmbătă pe platforma X, conform informațiilor furnizate de CNBC.
Nadella a avertizat că dezvoltarea unor sisteme AI tot mai puternice trebuie să fie însoțită obligatoriu de măsuri stricte de securitate și de proceduri operaționale fiabile. El a subliniat necesitatea de a înconjura modelele nedeterministe, ale căror răspunsuri nu pot fi anticipate cu certitudine, cu o arhitectură solidă de sisteme deterministe și controale umane. Directorul Microsoft a insistat pe stabilirea unor standarde industriale acolo unde normele actuale sunt considerate insuficiente pentru gestionarea riscurilor.
Conform propunerilor sale, modelele AI de ultimă generație, atât cele proprietare, cât și cele cu parametri accesibili public, trebuie tratate din perspectiva securității asemenea unor potențiale amenințări interne. Măsurile sugerate includ utilizarea unor modele diverse, păstrarea unei evidențe inteligibile pentru oameni a acțiunilor efectuate de AI și testarea continuă a sistemelor. De asemenea, el a menționat importanța posibilității de auditare, izolarea componentelor periculoase și raportarea imediată a oricărui incident.
Discursul lui Nadella vine într-un context marcat de avertismentele unor personalități precum Bill Gates, Sam Altman, Dario Amodei sau Elon Musk privind viteza de progres tehnologic. În timp ce unii susțin necesitatea încetinirii dezvoltării, administrația Trump a anunțat crearea structurii „AI Force”, condusă de Jay Clayton, pentru a sprijini industria. Satya Nadella susține însă că siguranța nu trebuie să se bazeze pe încrederea în model, ci pe mecanisme tehnice de verificare.
„Cel mai de încredere sistem de superinteligență nu va fi cel care conține modelul în care avem cea mai mare încredere. Va fi cel care ne permite să avem cât mai puțină nevoie să avem încredere în model”, a declarat directorul Microsoft. El consideră că monitorizarea permanentă a comportamentului și verificarea deciziilor sunt esențiale pentru a limita riscurile asociate utilizării tehnologiei avansate în viitor.
Evoluția tehnologiei de inteligență artificială este deja anticipată ca având un impact direct asupra economiei de consum. Se estimează că această tehnologie ar putea influența chiar și prețurile alimentelor sau meniurile din sectorul fast-food, prin implementarea unor tarife personalizate pentru fiecare consumator în parte, schimbând modul în care interacționăm cu piața de retail.