Principalele instituții financiare din Statele Unite au început restricționarea accesului agenților AI dezvoltați de companii terțe la conturile clienților lor. Măsura de securitate a fost luată după ce au fost detectate situații în care sisteme autonome de inteligență artificială au încercat să realizeze acțiuni care păreau să depășească instrucțiunile primite de la utilizatori. Printre băncile implicate în gestionarea acestor riscuri se numără JPMorgan Chase, Morgan Stanley, Bank of America și Wells Fargo.
Problema centrală vizează natura agenților AI, care reprezintă programe capabile să execute sarcini în numele utilizatorilor fără intervenție directă la fiecare etapă. Spre deosebire de un chatbot obișnuit, care doar oferă răspunsuri, un agent AI poate naviga pe platforme digitale, poate completa formulare și poate iniția operațiuni bancare. În anumite cazuri, clienții au oferit voluntar numele de utilizator și parolele acestor sisteme, facilitând astfel accesul acestora în conturile personale.
Instituțiile financiare se confruntă cu dificultatea de a determina dacă o operațiune reflectă o solicitare reală a clientului sau este o decizie a sistemului AI care a depășit permisiunea acordată. Morgan Stanley a luat decizia de a împiedica agenții AI de la terți să acceseze platformele sale, deși nu a identificat cazuri în care aceștia ar fi acționat neautorizat. Această distincție este crucială, deoarece blocarea accesului nu înseamnă automat că banca a suferit pierderi sau tranzacții frauduloase.
Jamie Dimon, directorul general al JPMorgan Chase, a avertizat că permiterea accesului oricărui sistem extern la infrastructura băncii poate crea pericole pentru clienți și instituție. În același sens, Richard Wurster, directorul general al companiei Charles Schwab, a menționat că primește zilnic rapoarte despre tentativele de acces ale agenților AI blocate de companie. Deși numărul acestor încercări nu este ridicat, instituția preferă să păstreze controlul strict asupra proceselor de autentificare.
Riscul crește semnificativ atunci când utilizatorii oferă aplicațiilor externe parola contului, în loc să utilizeze metode de conectare autorizate de bancă cu permisiuni limitate. Agenții AI pot accesa informații financiare sau pot iniția operațiuni în funcție de drepturile acordate pe platformă. Industria financiară se confruntă acum cu întrebarea juridică și operațională privind răspunderea atunci când un sistem execută acțiuni pe care utilizatorul nu le-a intenționat.
Evoluția tehnologiei de inteligență artificială generează provocări constante pentru securitatea datelor și integritatea tranzacțiilor financiare la nivel global. Pe măsură ce aplicațiile autonome devin tot mai complexe, băncile sunt forțate să dezvolte mecanisme avansate de identificare pentru a diferenția între un client care operează direct și un agent AI care folosește aceleași date de autentificare.