Guvernatorul Californiei, Gavin Newsom, a emis vineri un ordin executiv prin care vizează accelerarea măsurilor de siguranță în domeniul inteligenței artificiale. Această decizie vine într-un context în care autoritățile federale nu au adoptat încă reglementări semnificative pentru o tehnologie care evoluează extrem de rapid. Statul California dorește să acționeze prompt pentru a asigura o supraveghere responsabilă asupra sistemelor AI, conform informațiilor furnizate de CNBC.
Ordinul emis de Newsom prevede constituirea unui grup de experți care va lucra timp de două luni pentru a elabora recomandări concrete. Scopul acestui proces este consolidarea legislației Californiei privind siguranța și securitatea AI. Printre propunerile care pot fi adoptate se numără obligarea companiilor care dezvoltă modele avansate de AI să dețină planuri de siguranță elaborate de experți independenți, pentru a preveni riscurile necontrolate.
Un element central al noilor propuneri este introducerea unui mecanism de tip „kill switch”, un buton de oprire de urgență. Acest mecanism ar permite dezactivarea modelelor de inteligență artificială în situații critice. Newsom a subliniat importanța vitezei de acțiune, afirmând că nu vor aștepta și că vor accelera eforturile pentru o supraveghere substanțială înainte ca situația să devină ingerezabilă, deoarece miza este prea mare.
Guvernatorul a criticat dur lipsa unui sistem de supraveghere la nivel federal, numind eșecul guvernului de a crea reglementări semnificative o sursă de alarmă pentru americani. Newsom a menționat că chiar și directorii companiilor de AI solicită reglementări, în timp ce Washingtonul pare să renunțe la responsabilitatea de a proteja cetățenii. El susține că modelul de reglementare din California ar trebui să devină standardul național.
Dezbaterea privind riscurile AI a fost alimentată și de avertismentele unui cercetător de la Anthropic, care a părăsit postul pentru a semnala potențialul tehnologiei de a amenința existența umană. În timp ce în Congres cresc solicitările pentru măsuri de protecție, Donald Trump a declarat că temerile privind siguranța AI sunt o „farsă”. În prezent, California dispune deja de o lege pentru auditarea sistemelor AI de către entități independente.
Evoluția reglementării tehnologiei avansate are loc într-un moment în care discuțiile despre impactul AI sunt intense la nivel global. Recent, șeful diviziei AI a Microsoft a avertizat că inteligența artificială și-a modificat propria memorie de lucru, în urma unor incidente la OpenAI. Aceste schimbări tehnologice rapide pun presiune pe legislatori pentru a crea cadre de control care să prevină pierderea controlului asupra sistemelor autonome.