Guvernatorul Californiei, Gavin Newsom, a emis vineri un ordin executiv prin care vizează accelerarea măsurilor de siguranță în domeniul inteligenței artificiale. Această decizie vine într-un context în care autoritățile federale nu au adoptat încă reglementări semnificative pentru această tehnologie aflată într-o dezvoltare extrem de rapidă. Newsom susține că statul trebuie să acționeze prompt pentru a asigura o supraveghere responsabilă a sistemelor AI înainte ca situația să devină critică.
Ordinul executiv prevede constituirea unui grup de experți care va dispune de două luni pentru a elabora recomandări concrete. Scopul este consolidarea legislației Californiei privind siguranța și securitatea tehnologiei. Printre propunerile analizate se numără obligarea companiilor care dezvoltă modele AI avansate de a avea planuri de siguranță elaborate de experți independenți, precum și introducerea unui mecanism de tip „kill switch”, care să permită dezactivarea modelelor în situații de urgență.
Guvernatorul a criticat dur lipsa unui sistem de supraveghere din partea guvernului federal, considerând că eșecul acestuia în a crea responsabilitate în domeniul AI ar trebui să alarmeze populația. Newsom a declarat că miza este prea mare pentru a amâna acțiunea, subliniind că deși va aborda procesul cu atenție, rapiditatea este esențială. El a menționat că modelul propus de California ar trebui să devină standardul de bază la nivel național.
Dezbaterea privind riscurile inteligenței artificiale a căpătat un nou impuls după avertismentele unui cercetător de la Anthropic, care a semnalat potențialul tehnologiei de a amenința existența umană. În timp ce în Congres au crescut solicitările pentru măsuri de protecție, adoptarea unei legislații majore înainte de alegerile de la jumătatea mandatului din 2026 pare puțin probabilă. Donald Trump s-a opus până acum reglementărilor, calificând temerile privind siguranța AI drept o farsă.
California a început deja implementarea unor reglementări, inclusiv o lege semnată la începutul acestei luni care stabilește un cadru pentru auditarea sistemelor AI de către entități independente. Newsom a evidențiat faptul că, în timp ce Washingtonul renunță la responsabilitatea de a proteja americanii, statul său construiește unul dintre cele mai puternice cadre de reglementare AI din țară. Această strategie vizează controlul asupra modelelor de ultimă generație.
Evoluția tehnologiei de tip AI rămâne un subiect de interes major, având în vedere riscurile de securitate cibernetică. Recent, s-a raportat că modele de inteligență artificială pot lansa atacuri prin ghicirea datelor de autentificare, testând combinații de parole pentru a accesa informații. Această vulnerabilitate subliniază necesitatea unui cadru legislativ și a unor mecanisme de control strict asupra capacităților de procesare și de simulare ale modelelor avansate.