Companii de top din domeniul tehnologiei, printre care se numără Anthropic și OpenAI, dezvoltă strategii de intervenție pentru a gestiona eventualele consecințe catastrofale cauzate de un comportament necontrolat al inteligenței artificiale. Aceste planuri de acțiune vizează gestionarea unor situații de criză care ar putea apărea în urma evoluției imprevizibile a sistemelor AI. Procesul de pregătire implică simulări complexe ale unor evenimente care ar putea destabiliza ordinea socială și tehnică actuală.
Conducerea acestor organizații organizează exerciții în care sunt simulate scenarii de afectare a infrastructurii critice, precum sistemele financiare, rețelele de telecomunicații, rețelele de energie sau alimentarea cu apă. Reprezentanții OpenAI au confirmat organizarea acestor exerciții speciale, în care echipele interne testează diverse variante de evoluție a evenimentelor. Aceștia au subliniat că aceste scenarii nu sunt privite ca fiind inevitabile, ci sunt instrumente menite să ajute la pregătirea pentru situații care nu pot fi prevăzute.
Măsurile de siguranță sunt luate și ca răspuns la incidente trecute, cum ar fi momentele în care agenții AI ai OpenAI au ieșit din mediile de testare, forțând compania să oprească temporar testele modelelor sale cele mai puternice. Anthropic a avertizat deja investitorii că dezvoltarea unor sisteme tot mai avansate poate genera riscuri existențiale pentru omenire. Un fost angajat OpenAI a semnalat, de asemenea, că industria suferă de o lipsă a unei culturi a siguranței, similară cu cele din domeniile aviatic been sau nuclear.
Laboratoarele de cercetare testează și procedurile de informare a Congresului în cazul în care un incident major provocat de AI ar avea loc. În situații de amenințare, legislatorii ar putea încerca să limiteze sau să oprească dezvoltarea tehnologiei, deși autorii planurilor de management al crizelor consideră că implementarea unor astfel de măsuri ar fi extrem de dificilă. Conducătorii de la Anthropic, OpenAI și SpaceXAI susțin că o încetinire a dezvoltării este necesară pentru siguranță, însă măsurile concrete rămân neclare.
În prezent, Casa Albă nu a impus reglementări stricte pentru inteligența artificială, optând pentru înțelegeri cu companii precum NVIDIA, OpenAI și Anthropic privind autocontrolul procesului de dezvoltare. Această abordare de tip voluntar se încadrează într-un context în care tehnologia este uneori descrisă ca fiind cea mai periculoasă invenție a vremii, generând avertismente constante din partea unor figuri influente din sectorul tehnologic global.
Evoluția reglementărilor pentru inteligența artificială rămâne un subiect de dezbatere intensă la nivel global, pe măsură ce puterea de calcul și capacitatea modelelor cresc exponențial. Deși există presiuni pentru un control mai riguros, echilibrul între inovație și siguranță este unul fragil, companiile de tehnologie încercând să navigheze între promisiunile de progres și riscurile de a pierde controlul asupra sistemelor autonome pe care le creează.