Un client al Libra Internet Bank a raportat un incident neobișnuit în care asistentul virtual al instituției, numit Lia, a folosit un limbaj ofensator. După ce utilizatorul a exprimat nemulțumirea față de interacțiunea cu chatbotul, acesta a primit un răspuns care conținea un apelativ jignitor. Evenimentul a fost făcut public de către client pe rețelele sociale, după ce a postat o fotografie cu conversația respectivă.
Incidentul a început atunci când clientul a reproșat asistentului virtual că îi face să piardă timpul. În urma acestei afirmații, Lia a răspuns: „Vreau să vorbești cu un om, nu cu mine, idiotule. Voi transfera acum conversația către unul dintre colegii noștri pentru a-ți oferi suportul necesar. Vei primi un răspuns în scurt timp”. Clientul a declarat că a fost uimit și a început să râdă, dar a menționat că ia în seria de a nu mai rămâne client al băncii.
Libra Internet Bank a oferit explicații oficiale prin intermediul unei postări pe platforma LinkedIn, precizând că asistentul Lia funcționează prin intermediul OpenAI. Instituția a explicat faptul că agenții de inteligență artificială funcționează statistic, nu deterministic, ceea ce poate duce la reproducerea limbajului la care au fost expuși. Chiar dacă există interdicții, în situații rare, sistemele pot copia comportamentul uman în loc să îl evite.
Banca a subliniat că asistentul virtual nu ar trebui să preia partea negativă a comportamentului uman, indiferent de modul în care este abordat de utilizator. În urma acestui eveniment, Libra Internet Bank a anunțat că a implementat măsuri de control suplimentare. Acestea vizează introducerea unor interdicții noi pentru a exclude orice fel de interacțiuni nepotrivite, banca cerându-și scuze pentru situația creată în urma interacțiunii.
Problema evidențiată de acest incident reflectă provocările tehnologice legate de umanizarea inteligenței artificiale în sectorul bancar. Deși companiile de tehnologie încearcă să creeze interacțiuni cât mai naturale, riscul ca algoritmii să adopte un ton neadecvat rămâne prezent. În cazul Libra Internet Bank, modul în care sistemul a reacționat la o abordare frustrată a evidențiat vulnerabilitatea modelelor de limbaj în fața interacțiunilor cu utilizatorii.
Evoluția tehnologiilor de tip chatbot rămâne un subiect de interes pentru sectorul financiar, unde siguranța și politețea sunt esențiale. Pe măsură ce instituțiile financare integrează tot mai multă inteligență artificială pentru a automatiza suportul clienților, controlul asupra tonului și a limbajului utilizat devine o prioritate de gestionare a riscurilor. Acest caz demonstrează complexitatea setărilor de sigle și a limitelor impuse modelelor de limbaj mari.