Satya Nadella, președintele și directorul executiv al Microsoft, a solicitat implementarea unor măsuri de siguranță stricte pentru sistemele avansate de inteligență artificială. Într-o postare pe platforma X, liderul companiei tehnologice a argumentat necesitatea unor mecanisme de izolare și a unor controale independente. El a subliniat importanța unei „frâne de urgență” care să permită persoanelor autorizate să întrerupă sau să oprească un model de AI în timpul executării unei sarcini specifice.
Conform propunerii lui Satya Nadella, dezvoltatorii trebuie să înconjoare modelele nedeterministe cu un design de sistem determinist și puternic. Acesta subliniază că este esențial să existe controale umane și proceduri de operare fiabile, stabilind standarde la nivel de industrie acolo unde regulile actuale sunt insuficiente. Liderul Microsoft propune ca modelele de frontieră, indiferent dacă au ponderi închise sau deschise, să fie tratate ca unor riscuri interne pentru a construi sisteme sigure.
Sistemele de inteligență artificială ar trebui să fie proiectate pe baza unor principii de observabilitate. Acestea includ diversitatea modelelor, o amprentă lizibilă pentru oameni a acțiunilor modelului, testarea continuă a sistemului și auditabilitatea. Satya Nadella a menționat că un sistem de Super Inteligență demn de încredere nu va fi cel în care avem cea mai mare încredere, ci cel care ne permite să avem cea mai mică încredere în model.
Solicită aceste măsuri apar pe fondul avertismentelor lansate de diverși executivi și cercetători, precum Bill Gates, Dario Amodei, Sam Altman sau Elon Musk. Tensiunile sunt accentuate de faptul că un cercetător de la Anthropic a demisionat recent, acuzând companii precum Anthropic și OpenAI că pariază cu viețile oamenilor. Un responsabil pentru siguranța AI din cadrul Anthropic a estimat chiar că există o șansă de peste 10% ca tehnologia să ucidă toți oamenii în deceniul următor.
La nivel politic, Donald Trump a respins riscurile de extincție cauzate de AI, punând accent pe necesitatea de a menține industria națională în fața Chinei. Totodată, administrația americană a creat „Forța AI”, o structură condusă de Jay Clayton, directorul Serviciilor Naționale de Informații. Scopul acestei entități este de a facilita dezvoltarea industriei și de a elimina prezența actorilor rău intenționați în acest domeniu tehnologic în continuă expansiune.
Dezvoltarea inteligenței artificiale a devenit un subiect de securitate națională și globală, generând dezbateri intense între liderii tehnologici și decidenții politici. În timp ce unii avertizează cu privire la riscurile existențiale, alte structuri oficiale, precum cea din SUA, încearcă să echilibreze nevoia de inovație rapidă cu necesitatea de a controla utilizarea tehnologiei de către entități periculoase.