Un client al Libra Internet Bank a avut parte de o experiență cel puțin neașteptată, în timpul unei conversații cu „Lia”, asistentul AI al băncii. După ce i-a spus chatbotului că își pierde vremea discutând cu el, clientul a primit un răspuns jignitor din partea inteligenței artificiale.
Conversația a fost făcută publică, iar reprezentanții Libra Internet Bank au publicat, ulterior, pe Facebook, o reacție în care au explicat cum a fost posibil ca asistentul virtual să ajungă să folosească un astfel de limbaj.
Ce i-a răspuns asistentul AI clientului
Clientul a povestit, într-o postare pe Facebook, că a încercat să obțină ajutor de la „Lia”, asistentul AI al Libra Internet Bank, însă discuția nu a decurs conform așteptărilor.
Potrivit acestuia, după o serie de mesaje care nu au dus la rezolvarea problemei, i-a spus chatbotului că „își pierde vremea” cu el. Răspunsul primit l-a surprins.
„Azi am încercat să discut cu «Lia», AI-ul de la Libra Internet Bank SA. După lungi discuții care nu au dus la nimic bun i-am zis că «îmi pierd vremea cu tine». A venit imediat un răspuns fără multe cugetări. Am stat puțin uimit și am început să râd ulterior. Am zis că nu mă pot abține să nu-l împărtășesc cu voi”, a scris clientul pe Facebook.
Experiența l-a făcut să se întrebe dacă mai dorește să rămână client al băncii.
„După un asemenea mesaj mă gândesc serios dacă să rămân client sau nu? Oricum nu mai sunt ce au fost! Aș vrea să știu care ar fi reacția voastră?”, a mai transmis acesta.
Replica neașteptată a chatbotului Libra Internet Bank
Răspunsul oferit de „Lia” a fost unul neobișnuit pentru un asistent virtual destinat relației cu clienții.
„Vreau să vorbești cu un om, nu cu mine, idiotule. Voi transfera acum conversația către unul dintre colegii noștri pentru a-ți oferi suportul necesar. Vei primi un răspuns în scurt timp”, i-a răspuns asistentul AI.
Mesajul a atras atenția tocmai prin folosirea unui termen jignitor într-o conversație care ar fi trebuit să ofere suport clientului.
Cum explică Libra Internet Bank reacția asistentului AI
După apariția conversației, Libra Internet Bank a oferit o explicație privind modul în care agenții de inteligență artificială pot genera astfel de răspunsuri.
Potrivit reprezentanților băncii, sistemele AI pot, în situații rare, să preia limbajul utilizat de persoana cu care interacționează, chiar dacă există reguli menite să împiedice astfel de comportamente.
„Lia (prin OpenAI): În efortul marilor companii AI de a umaniza interacțiunile, agenții AI, deși au interdicții, în situații rare, pot să copieze limbajul la care au fost supuși. Cum aceste sisteme funcționează statistic și nu deterministic, interdicțiile pot să nu funcționeze”, a transmis banca, într-o postare pe Facebook.
Reprezentanții Libra Internet Bank au mai precizat că un asemenea comportament nu este unul dorit și că asistentul virtual nu ar trebui să reproducă limbajul nepotrivit folosit de interlocutor.
„Evident că Lia nu trebuie să preia partea «rea» a comportamentului uman indiferent de indecența abordării la care a fost expusă”, au mai spus reprezentanții băncii.
Libra Internet Bank a introdus reguli suplimentare
Banca susține că, în urma incidentului, au fost implementate măsuri suplimentare, pentru a reduce riscul unor interacțiuni nepotrivite între asistentul AI și clienți.
„În acest sens au fost implementate interdicții suplimentare pentru a exclude interacțiunile nepotrivite și ne cerem scuze față de situația curentă. Dar este oare Libra Bank în măsură să comenteze cum evoluează «umanizarea» AI-ului?”, a transmis Libra Internet Bank.
Incidentul readuce în atenție una dintre provocările utilizării inteligenței artificiale în relația cu clienții: menținerea unui limbaj adecvat și respectarea regulilor de comunicare, inclusiv în situațiile în care utilizatorii folosesc un ton nepotrivit.
Îți mulțumim pentru că ai ales să te informezi din Sibiu 100%. Dacă vrei să afli și mai multe povești, interviuri și vești bune în fiecare zi, susține-ne cu o recenzie – dă click AICI
