Utilizarea agenților de inteligență artificială în procesul de cumpărături online ridică semnale de alarmă privind riscul de fraude, escrocherii și încălcări ale confidențialității datelor. Mai multe bănci internaționale au avertizat că evoluția tehnologică în acest domeniu este mult mai rapidă decât implementarea regulilor și a mecanismelor de protecție destinate consumatorilor. Această discrepanță între capacitatea tehnologică și cadrul de reglementare pune în pericol siguranța tranzacțiilor efectuate prin intermediul sistemelor automate.
Companii precum OpenAI, Anthropic, Google și Meta promovează tot mai intens chatboturile ca instrumente utile pentru achiziții. Conceptul central este ca utilizatorii să poată solicita unui agent AI să selecteze produse și să execute plăți în numele lor. Retailerul britanic John Lewis a observat deja această tendință, raportând că ponderea căutărilor prin agenți AI a crescut de la 0,3% la 2,5% în doar un an. Comercianții încearcă acum să se adapteze pentru a apărea frecvent în recomandările generate de aceste sisteme.
NatWest și Bank of America sunt printre instituțiile care au prezentat principii pentru dezvoltarea acestui tip de comerț, alături de ING, ASB Bank din Noua Zeelandă, Capital One și Commonwealth Bank of Australia. Raportul indică faptul că, deși clienții sunt interesați de utilizarea agenților AI, există temeri legate de controlul deciziilor. Consumatorii se tem că inteligența artificială ar putea cumpăra produsul greșit, ar putea depăși bugetul stabilit sau ar putea pierde banii în escrocherii, fără a ști cui să se adreseze pentru protecție.
Un alt risc major vizează gestionarea informațiilor financiare și a datelor cardurilor de plăți. Un sistem AI ar putea solicita datele bancare și le poate introduce direct pe site-urile comercianților, creând vulnerabilități în protecția datelor. De asemenea, există posibilitatea ca acești agenți să direcționeze cumpărătorii către metode de plată care oferă garanții mai mici în cazul unor litigii sau fraude. Problema devine critică pe măsură ce agenții AI primesc autonomie pentru a lua decizii și a executa tranzacții.
Instituțiile financiare solicită autorităților introducerea unor reguli comune, precum informarea clară a utilizatorului atunci când un agent AI este implicat într-o tranzacție. Se cere transparență privind modul în care sistemele aleg produsele sau metodele de plată și măsuri suplimentare pentru protecția datelor. Totodată, băncile propun ca sistemele dezvoltate de companii diferite să poată funcționa împreună, oferind utilizatorilor libertatea de a nu rămâne dependenți de o singură platformă tehnologică.
Evoluția comerțului electronic prin intermediul inteligenței artificiale marchează o schimbare fundamentală în modul în care consumatorii interacționează cu piața digitală. Pe măsură ce agenții de tip chatbot trec de la simpla recomandare de produse la execuția autonomă a tranzacțiilor, nevoia de reglementare devine imperativă. Protecția datelor financiare și claritatea răspunderii juridice în cazul erorilor automate rămân punctele centrale ale dezbaterilor dintre sectorul bancar și dezvoltatorii de tehnologie.