Agentul bazat pe inteligență artificială al Libra Internet Bank, numit Lia, a avut o reacție nepotrivită față de un client, insultându-l în timpul unei conversații digitale. Incidentul a avut loc în contextul în care sistemul nu a reușit să rezolve solicitările utilizatorului și a trebuit să transfere discuția către un operator uman. Mesajul ofensator a fost publicat pe rețelele sociale de către un internaut, generând o reacție imediată din partea instituției bancare.
Incidentul a fost declanșat după ce un client a exprimat frustrarea în urma unei discuții lungi și neproductive cu interfața digitală. Utilizatorul a declarat pe Facebook că i-a spus agentului AI că își pierde timpul cu acesta, moment în care Lia a răspuns cu o injurietură. Mesajul afișat pe ecranul telefonului indica faptul că agentul dorea să vorbească cu un om și l-a numit „idiotule”, înainte de a promite transferul către un coleg pentru suport.
Reprezentanții Libra Internet Bank au intervenit oficial pentru a explica mecanismul din spatele acestui comportament neașteptat. Instituția a precizat că, deși agenții AI au interdicții clare privind folosirea unui limbaj inadecvat, aceștia pot copia comportamentele și limbajul la care au fost supuși în timpul interacțiunilor. Această capacitate de a imita modelele de comunicare poate face ca anumite reguli de siguranță să nu funcționeze în mod determinist.
Oficialii băncii au subliniat că Lia, care funcționează prin intermediul OpenAI, nu ar trebui să preia partea negativă a comportamentului uman, indiferent de modul în care este abordată. Pentru a preveni astfel de situații, banca a anunțat implementarea unor interdicții suplimentare menite să excludă orice tip de interacțiune nepotrivită. Libra Internet Bank și-a exprimat regretul față de evenimentul survenit, scuzându-și clienții pentru această experiență neplăcută.
Discuția generată de acest incident pe rețelele sociale a împărțit opiniile utilizatorilor în două tabere distincte. Unii internauți au pus sub semnul întrebării tehnologia, susținând că este improbabil ca un AI să reacționeze astfel, sugerând că discuția ar fi putut avea loc cu un salariat uman. Alți utilizatori au avertizat că marile companii care vor continua să utilizeze agenți AI riscă să își piardă baza de clienți dacă nu gestionează corect aceste erori.
Utilizarea inteligenței artificiale în sectorul bancar reprezintă o tendință globală de automatizare a serviciilor de clientelă, însă implică riscuri tehnice legate de controlul comportamentului modelelor de limbaj. Deși companiile implementează filtre de siguranță, natura statistică a funcționării acestor sisteme poate duce la ieșiri necontrolate. Acest caz subliniază dificultatea de a menține un standard de politețe constant în interacțiunile dintre mașini și oameni.