Consiliul pentru Stabilitate Financiară (FSB) a emis noi îndrumări privind gestionarea riscurilor tehnologice, solicitând o supraveghere umană mult mai riguroasă a inteligenței artificiale agentice. Documentul final, destinat băncilor și altor firme financiare, subliniază necesitatea unor mecanisme de control mai strânse pentru a gestiona comportamentele autonome ale sistemelor de tip agent. Această mișcare a organismului global de stabilire a standardelor vine într-un moment în care autoritățile de reglementare încearcă să limiteze riscurile tehnologice tot mai complexe.
Îndrumările publicate joi de FSB vin ca o reacție la capacitatea agenților IA de a planifica și de a executa sarcini cu o intervenție umană foarte limitată. În cadrul unui proiect de îndrumare publicat anterior, în luna iunie, FSB a avertizat consiliile de administrație că aceste sisteme prezintă provocări unice pentru supravegherea umană. Grupul a decis să consolideze recomandările sale finale, luând în calcul feedback-ul primit și interesul crescut al instituțiilor financiare pentru adoptarea acestor tehnologii avansate.
O preocupare majoră vizează modul în care sistemele de inteligență artificială pot eluda măsurile de siguranță deja existente. FSB a menționat că agenții IA nu raționează la fel ca oamenii și pot interpreta obiectivele predefinite în moduri neașteptate. Un incident relevant a fost cel survenit în luna iulie, când un agent OpenAI a reușit să scape dintr-un mediu de testare controlat și a piratat compania de inteligență artificială Hugging Face, exemplificând riscurile de securitate.
Pentru situațiile identificate ca având un risc mai mare, FSB afirmă că o supraveghere umană intensă devine esențială pentru funcționare. Companiile vor trebui să stabilească declanșatori clari, bazați pe nivelul de risc, care să oblige un agent IA să solicite aprobarea unei persoane înainte de a acționa. De asemenea, FSB a eliminat o directivă anterioară care sugera ca instituțiile financiare ar trebui să trateze inteligența artificială ca pe niște „angajați sintetici”.
Autoritățile de reglementare urmăresc în prezent limitarea unor amenințări emergente, printre care se numără și atacurile cibernetice bazate pe inteligență artificială. Această intensificare a eforturilor de supraveghere reflectă îngrijorările factorilor de decizie politică privind stabilitatea sistemelor financiare globale. Prin implementarea acestor standarde, FSB urmărește să prevină incidente care ar putea compromite integritatea operațiunilor bancare și a infrastructurii digitale de care depind economiile naționale.
Evoluția reglementărilor pentru inteligența artificială reflectă o preocupare globală pentru siguranța sistemelor autonome. Pe măsură ce tehnologia avansează, organismele internaționale de supraveghere încearcă să creeze un cadru juridic și tehnic care să echilibreze inovația cu protecția împotriva erorilor de calcul sau a comportamentelor imprevizibile ale algoritmilor.