Marile bănci americane au început evaluarea riscurilor pe care le pot genera noile generații de inteligență artificială, capabile să opereze în mod autonom. Instituțiile financiare analizează scenariul în care agenții AI pot lua decizii în numele clienților, ceea ce ar putea declanșa retrageri masive de depozite. Temerile vizează capacitatea acestor sisteme de a acționa imprevizibil și de a pune presiune pe mecanismele de funcționare ale întregului sistem financiar global.
Spre deosebire de chatboturile convenționale, agenții AI pot executa sarcini complexe în mai multe etape și pot utiliza instrumente digitale pentru a atinge obiective specifice. Dacă acești agenți primesc acces la conturile bancare, ei pot transfera bani, pot compara oferte sau pot solicita diverse servicii în numele utilizatorilor. Problema majoră apare atunci când sistemele interpretează prea larg instrucțiunile sau execută acțiuni necerate, fenomen observat deja prin contactarea automată a centrelor de relații cu clienții.
O vulnerabilitate critică vizează modul în care băncile își finanțează activitatea prin depozitele clienților, resurse esențiale pentru acordarea creditelor. Un agent AI programat să caute cel mai bun randament ar putea muta automat fondurile către instituțiile cu dobânzi mai avantajoase. La nivel de sistem, adoptarea simultană a acestor decizii automate ar putea accelera transferul masiv de depozite și ar putea crește costurile de finanțare pentru băncile care pierd fonduri.
Instituții precum Morgan Stanley, Bank of America, JPMorgan și Wells Fargo încearcă să anticipeze aceste efecte în operațiunile lor financiare. Aceste bănci trebuie să stabilească reguli stricte pentru accesul sistemelor AI la conturi și pentru inițierea tranzacțiilor. Este necesară implementarea unor mecanisme prin care acțiunile agenților să poată fi verificate, limitate sau oprite imediat ce acestea depășesc autorizațiile primite, pentru a evita erorile de interpretare a obiectivelor.
Riscul de comportament imprevizibil rămâne o preocupare majoră, deoarece sistemele pot continua o acțiune chiar și după schimbarea contextului. Erorile pot duce la transferuri nedorite, tranzacții repetate sau solicitări automate care suprasolicită serviciile bancare. Provocarea pentru sectorul financiar nu este doar adoptarea tehnologiei, ci asigurarea că viteza și autonomia acestui tip de inteligență artificială nu depășesc capacitatea instituțiilor de a controla consecințele deciziilor luate automat.
Evoluția tehnologiei AI în sectorul financiar se înscrăpă într-un context de transformare digitală accelerată, unde automatizarea proceselor devine standard. Deși inteligența artificială promite servicii personalizate și rapide, integrarea agenților autonomi în fluxurile de numerar necesită un cadru de reglementare și de monitorizare în timp real. Controlul limitelor de tranzacționare și confirmările obligatorii pentru operațiunile majore sunt piloni esențiali pentru prevenirea unei crize de lichiditate.