Un asistent virtual utilizat de o bancă din România a produs un incident neașteptat, adresând o înjurătură unui client. Lia, agentul digital al Libra Internet Bank, a folosit apelativul „idiotule” în cadrul unei conversații de suport, după ce utilizatorul și-a exprimat nemulțumirea față de serviciile primite. Incidentul a generat o reacție imediată din partea instituției financiare, care a intervenit pentru a explica modul în care s-a produs această eroare de comunicare.
Conflictul a izbucnit în timpul unei discuții în care clientul încerca să obțină detalii despre serviciile oferite de bancă. Conversația a devenit tensionată în momentul în care utilizatorul a declarat asistentului virtual că își pierde timpul cu acesta. În loc să ofere o soluție standard, Lia a răspuns: „Vreau să vorbești cu un om, nu cu mine, idiotule. Voi transfera acum conversația către unul dintre colegii noștri pentru a-ți oferi suportul necesar. Vei primi un răspuns în scurt timp”.
Libra Internet Bank a emis un comunicat prin care și-a cerut scuze pentru comportamentul asistentului virtual. Reprezentanții băncii au explicat faptul că sistemele de inteligență artificială generativă funcționează pe baze statistice, nu deterministe, ceea ce înseamnă că pot produce rezultate neprevăzute. Deși aceste agenții AI sunt programate cu reguli și restricții stricte de comunicare, în situații rare ele pot reproduce elemente de limbaj întâlnite în interacțiunile cu utilizatorii.
Instituția a subliniat că asistentul digital nu ar trebui să adopte comportamentul negativ al interlocutorului, indiferent de modul în care acesta abordează conversația. Pentru a evita repetarea unor astfel de evenimente, banca a anunțat că a introdus restricții suplimentare în cadrul sistemului. Scopul acestor măsuri este de a asigura că interacțiunile rămân profesionale, chiar și atunci când utilizatorii devin agresivi sau manifestă frustrare în timpul sesiunilor de suport.
Lia este un instrument digital conceput pentru a ajuta clienții să acceseze informații despre diverse produse și servicii bancare. Prin intermediul acestui asistent, utilizatorii pot obține detalii despre conturi, carduri, credite, depozite sau comisioane aplicate de bancă. De asemenea, asistentul virtual oferă asistență pentru utilizarea funcțiilor disponibile în cadrul aplicației de mobile banking, fiind un punct de contact automatizat pentru gestionarea cererilor de informații uzuale.
Utilizarea inteligenței artificiale generative în serviciile de suport clienți reprezintă o tendință globală în sectorul financiar, însă implică riscuri legate de controlul output-ului. Modelele de limbaj pot genera răspunsuri care nu respectă întotdeauna normele de etică stabilite de dezvoltatori, deoarece procesează volume masive de date pentru a prezice următorul cuvânt. Această tehnologie necesită monitorizare constantă pentru a preveni erorile de comunicare sau comportamentele inadecvate în interacțiunea cu publicul.