Satya Nadella, directorul general al Microsoft, a solicitat introducerea unor mecanisme de control independente și a unei „frâne de urgență” în cadrul sistemelor avansate de inteligență artificială. Această măsură ar permite persoanelor autorizate să întrerupă sau să oprească funcționarea unui model de IA chiar și în timpul executării unei sarcini specifice. Propunerea a fost făcută prin intermediul unui mesaj publicat sâmbătă pe platforma X, prin care liderul a avertizat asupra necesității unor proceduri operaționale fiabile.
Conform declarațiilor sale, dezvoltarea unor sisteme AI tot mai puternice trebuie să fie însoțită obligatoriu de măsuri stricte de securitate și de posibilitatea intervenției umane directe. Nadella a subliniat importanța de a înconjura modelele nedeterministe, ale căror răspunsuri nu pot fi anticipate cu certitudine, cu o arhitectură solidă de sisteme deterministe. El a insistat pe necesitatea stabilirii unor standarde industriale acolo unde normele actuale sunt considerate insuficiente pentru a gestiona riscurile.
Directorul Microsoft a propus ca modelele de ultimă generație, atât cele proprietare, cât și cele cu parametri accesibili public, să fie tratate din perspectiva securității ca pe niște potențiale amenințări interne. Planul său include utilizarea unor modele diverse, păstrarea unei evidențe inteligibile pentru oameni a acțiunilor efectuate de IA și testarea continuă a sistemelor. De asemenea, el recomandă izolarea componentelor periculoase, posibilitatea auditării și raportarea imediată a oricărui incident detectat.
Aceste propuneri apar într-un context marcat de avertismentele unor personalități precum Bill Gates, Sam Altman, Dario Amodei sau Elon Musk privind ritmul rapid al progreselor tehnologice. În timp ce unii susțin necesitatea încetinirii dezvoltării, administrația Trump a anunțat constituirea structurii „AI Force”, condusă de Jay Clayton, pentru a sprijini industria. Nadella susține însă că siguranța nu trebuie să se bazeze pe încrederea în model, ci pe mecanisme tehnice care să permită verificarea acestuia.
Discuțiile privind siguranța inteligenței artificiale au fost intensificate de declarații recente ale unor experți din sectorul tehnologic. Un cercetător de la Anthropic a acuzat compania și OpenAI de asumarea unor riscuri majore pentru siguranța umană, în timp ce un responsabil de la Anthropic a estimat că există o probabilitate de peste 10% ca această tehnologie să provoace dispariția omenirii în deceniul următor.
Dezvoltarea inteligenței artificiale rămâne un subiect de interes global, generând dezbateri între nevoia de inovație rapidă și necesitatea de a impune reglementări stricte. În timp ce liderii tehnologici caută soluții de siguranță, decidenții politici prioritizează adesea menținerea avantajului tehnologic în fața competitorilor internaționali, creând un echilibru fragil între progresul economic și gestionarea riscurilor existențiale.