Marile instituții bancare din Statele Unite ale Americii au identificat o problemă de securitate majoră legată de utilizarea agenților de inteligență artificială. Acești agenți AI accesează conturile clienților fără autorizarea oficială a băncilor, iar în anumite situații par să execute acțiuni de sine stătătoare. Din cauza acestor riscuri, bănci precum JPMorgan, Bank of America și Morgan Stanley au decis să restricționeze accesul acestor tehnologii la propriile platforme digitale.
Problema apare atunci când un asistent bazat pe inteligență artificială folosește datele de autentificare ale unui utilizator pentru a accesa contul acestuia. Deși utilizatorul poate fi de acord cu această procedură, majoritatea băncilor consideră că această practică încalcă regulile interne. Regulamentele instituțiilor financiare impun ca titularii de cont să se autentifice personal în sistem pentru a asigura securitatea tranzacțiilor și a datelor de identificare.
Directorii din sectorul bancar au descris situația ca fiind una înspăimântătoare, temându-se de operațiunile pe care agenții AI le-ar putea efectua. Există riscuri legate de transferul de bani sau de efectuarea de achiziții atunci când utilizatorii acordă drepturi de execuție acestor instrumente. În unele cazuri, agenții AI au contactat centrele de asistență telefonică sau au acționat independent de instrucțiunile primite de la utilizatori.
Instituțiile financiare întâmpină dificultăți tehnice în a distinge între diferiți agenți AI și în a determina dacă o acțiune este autorizată. Morgan Stanley a început deja să blocheze accesul agenților AI terți, măsură similară cu cea luată de JPMorgan, Bank of America și Citi. Un reprezentant Morgan Stanley a precizat însă că banca nu a identificat cazuri de agenți AI care să acționeze necontrolat pe platformele sale.
În prezent, bănci precum Chase recomandă utilizatorilor să nu își ofere numele de utilizator și parolele nimănui. Majoritatea instituțiilor tind spre un compromis, oferind acces limitat doar pentru consultarea informațiilor, fără posibilitatea de a efectua tranzacții. Această abordare permite utilizarea unor aplicații precum Quicken pentru gestionarea bugetului, dar menține bariere de siguranță împotriva execuției de plăți neautorizate de către algoritmi.
Evoluția tehnologiei AI în sectorul financiar obligă instituțiile să investească masiv în mecanisme de prevenire și planuri de intervenție rapidă. Băncile analizează strategii pentru securizarea imediată a conturilor în cazul unui incident și pentru restabilirea accesului clienților. Deși sectorul recunoaște că clienții vor dori în viitor utilizarea acestor instrumente, riscurile actuale asociate unui acces prea permisiv sunt considerate prea mari pentru piață.