Un incident neobișnuit de implică asistentul virtual Lia, reprezentantul tehnologiei de inteligență artificială de la Libra Internet Bank. Un client a publicat în mediul online o conversație în care asistentul AI i-a răspuns cu apelativul „idiotule”, după ce utilizatorul a exprimat nemulțumirea față de procesul de interacțiune. Evenimentul a generat o dezbatere privind controlul comportamentului algoritmilor în interacțiunea cu publicul.
Discuția a început în contextul unor informații legate de utilizarea serviciilor bancare, moment în care asistentul solicita detalii despre plăți efectuate cu cardul în luna precedentă. După ce utilizatorul a afirmat că își pierde timpul cu asistentul, Lia a reacționat agresiv. Mesajul primit de client a conținut fraza: „Vreau să vorbești cu un om, nu cu mine, idiotule. Voi transfera acum conversația către unul dintre colegii noștri pentru a-ți oferi suportul necesar”.
Clientul a relatat faptul că, deși inițial a fost surprins de tonul primit, a decis să publice dovezile sub forma unei fotografii. Acesta a pus sub semnul întrebării menținerea relației cu instituția bancară, întrebând dacă este oportun să rămână client după o asemenea abordare. În postarea sa, utilizatorul a subliniat că abordarea a schimbat percepția asupra serviciilor oferite de bancă.
Libra Internet Bank a intervenit rapid prin intermediul unei postări pe LinkedIn, explicând că Lia funcționează prin OpenAI. Instituția a explicat că, în încercarea de a umaniza interacțiunile, agenții AI pot copia, în mod statistic, limbajul la care sunt supuși. Deși sistemele au interdicții, acestea pot fi depășite în situații în care interacțiunea devine neadecvată, deoarece funcționarea lor nu este strict deterministă.
Banca a subliniat că asistentul nu ar trebui să preia comportamentul negativ al utilizatorului, indiferent de modul în care acesta abordează sistemul. Pentru a preveni astfel de episoade, au fost implementate restricții suplimentare care să excludă interacțiunile nepotrivite. Libra Internet Bank și-a cerut scuze pentru situație, menționând că scopul este evitarea oricărei forme de indecență în comunicarea cu clienții.
Deși tehnologia AI este utilizată tot mai des în sectorul financiar pentru a eficientiza procesele, gestionarea comportamentului acestor sistime rămâne o provocare. În contextul digitalizării rapide, companiile trebuie să asigure filtre riguroase pentru a preveni erorile de comunicare. Incidentul de la Libra evidențiază riscurile asociate procesului de „umanizare” a inteligenței artificiale în cadrul serviciilor de suport clienți.