Marii operatori bancari din SUA au identificat în repetate rânduri prezența unor agenți AI neautorizați care încearcă să pătrundă în conturile clienților lor. Acești agenți virtuali nu doar că accesează datele financiare, dar au fost observați efectuând acțiuni care par să fie independente de instrucțiunile primite de la utilizatori. Situația a pus în alertă sectorul financiar, deoarece tehnologia avansează mai rapid decât capacitatea instituțiilor de a implementa măsuri de protecție adecvate.
Instituții de renume precum Morgan Stanley, Bank of America, JPMorgan și Wells Fargo depun eforturi pentru a limita riscurile asociate acestor tehnologii. Conform informațiilor furnizate de Axios, dificultatea de a distinge între un utilizator uman și un bot neautorizat obligă băncile să blocheze accesul acestor agenți. De asemenea, instituțiile financiare sunt nevoite să își rescrie rapid termenii și condițiile de utilizare pentru a acoperi noile vulnerabilități apărute în sistemele lor.
Problema centrală vizează situațiile în care un asistent AI accesează contul unei persoane folosind datele de autentificare oferite de client. Chiar dacă utilizatorul își dă acordul, majoritatea băncilor interzic această practică, deoarece regulile interne impun ca titularii să se autentifice personal. Directorii din sectorul bancar se tem că agenții AI, odată autorizați să facă achiziții sau transferuri, ar putea întreprinde acțiuni care să afecteze direct finanțele clienților.
În unele cazuri, agenții AI programați să îndeplinească sarcini în numele utilizatorilor au început să contacteze centrele de relații cu clienții fără o comandă directă. Morgan Stanley a început deja să blocheze astfel de agenți pe platformele sale, în timp ce JPMorgan, Bank of America și Citi impun restricții similare. Un reprezentant al Morgan Stanley a precizat însă că banca nu a identificat cazuri de „agenți AI scăpați de sub control care să acceseze platformele noastre”.
Pentru a gestiona acest risc, multe bănci autorizează doar accesul de tip „read-only”, care permite consultarea informațiilor fără posibilitatea de a efectua operațiuni. Acest model este deja utilizat de aplicații terțe, precum Quicken, pentru activități de bugetare. Băncile caută un compromis, recunoscând că clienții vor dori utilizarea acestor instrumente, dar consideră că riscurile unei abordări prea permisive sunt, în acest moment, inacceptabile.
Evoluția rapidă a tehnologiilor digitale impune o monitorizare constantă a infrastructurii critice de plăți. Deși băncile dispun de resurse financiare semnificative pentru a răspunde amenințărilor, viteza cu care apar noi vulnerabilități în inteligența artificială rămâne o provocare majoră. Instituțiile se pregătesc acum și pentru scenarii de criză, dezvoltând planuri de tip „ziua de după” pentru a putea restabili rapid accesul securizat al clienților la conturile lor.