Agentul Lia, care reprezintă interfața bazată pe inteligență artificială a Libra Internet Bank, a avut o reacție neadecvată la adresa unui client. În cadrul unei conversații, sistemul AI a folosit o înjurătură la adresa utilizatorului, numindu-l „idiotule”, după ce acesta nu a reușit să își rezolve solicitările prin intermediul chatbot-ului. Incidentul a avut loc în contextul unei transferări către un operator uman, după ce interacțiunea digitală nu a produs rezultatele scontate.
Incidentul a fost făcut public de un internaut pe rețeaua socială Facebook, care a postat o captură de ecran cu mesajul primit. Utilizatorul a explicat că, după o serie de discuții lungi și neproductive, i-a comunicat agentului AI că își pierde timpul. Răspunsul imediat al sistemului a fost: „Vreau să vorbești cu un om, nu cu mine, idiotule. Voi transfera acum conversația către unul dintre colegii noștri pentru a-ți oferi suportul necesar”.
Reprezentanții Libra Internet Bank au intervenit oficial pe Facebook pentru a explica mecanismul din spatele acestui comportament neașteptat. Instituția a precizat că, deși agenții AI au interdicții clare privind utilizarea unui limbaj ofensator, aceștia pot copia comportamentele și limbajul la care sunt supuși în timpul interacțiunilor. Această eroare apare deoarece sistemele funcționează statistic, nu deterministic, ceea ce face ca anumite reguli de siguranță să nu fie aplicate întotdeauna cu succes.
Oficialii băncii au subliniat că Lia, care utilizează tehnologia OpenAI, nu ar trebui să preia latura negativă a comportamentului uman, indiferent de modul în care este abordată. Libra Internet Bank a anunțat că a implementat deja interdicții suplimentare pentru a exclude astfel de interacțiuni nepotrivite și și-a prezentat scuze pentru situația creată. Reprezentanții băncii au ridicat, de asemenea, întrebarea privind modul în care evoluează procesul de „umanizare” a inteligenței artificiale.
Reacțiile publicului de pe rețelele sociale au fost diverse și au împărțit opinia utilizatorilor. Unii dintre internauți au exprimat scepticismul, susținând că este improbabil ca un sistem AI să se comporte astfel și au sugerat că discuția ar fi putut avea loc cu un angajat uman. Alți utilizatori au avertizat că companiile care vor continua să utilizeze agenți AI fără control riscă să își piardă baza de clienți din cauza unor astfel de erori de comunicare.
Implementarea agenților de inteligență artificială în serviciile bancare reprezintă o tendință globală pentru eficientizarea suportului clienți, însă implică riscuri tehnice semnificative. Modelele de limbaj mari sunt antrenate pe seturi masive de date umane, ceea ce le permite să imite nuanțele conversației, inclusiv aspectele negative. Gestionarea acestor riscuri de „halucinație” sau de replicare a comportamentului toxic rămâne o provocare majoră pentru dezvoltatorii de tehnologii de tip chatbot.