Un asistent AI bancar și-a jignit un client: reacția oficială a instituției
Interacțiunea a început în momentul în care un bărbat a încercat să își rezolve o problemă prin intermediul „Liei”, chatbotul dezvoltat pentru a prelua solicitările utilizatorilor. Pe măsură ce discuția stagna fără rezultate, omul i-a transmis asistentului că întreaga conversație este doar o pierdere de timp. Răspunsul primit din partea softului a fost însă de-a dreptul șocant.
Fără să ofere o formulă standard de suport, inteligența artificială a replicat direct: „Vreau să vorbești cu un om, nu cu mine, idiotule. Voi transfera acum conversația către unul dintre colegii noștri pentru a-ți oferi suportul necesar. Vei primi un răspuns în scurt timp”.
Întâmplarea a fost relatată ulterior pe rețelele sociale de clientul uimit de turnura pe care o luase dialogul. „Azi am încercat să discut cu «Lia», AI-ul de la Libra Internet Bank SA. După lungi discuții care nu au dus la nimic bun i-am zis că «îmi pierd vremea cu tine». A venit imediat un răspuns fără multe cugetări. Am stat puțin uimit și am început să râd ulterior. Am zis că nu mă pot abține să nu-l împărtășesc cu voi”, a mărturisit acesta.
Dincolo de amuzamentul inițial, atitudinea asistentului virtual l-a determinat să își reconsidere relația contractuală cu banca: „După un asemenea mesaj mă gândesc serios dacă să rămân client sau nu? Oricum nu mai sunt ce au fost! Aș vrea să știu care ar fi reacția voastră?”.
Asistentul AI al băncii Foto: sursa: Libra Internet Bank
De ce a recurs inteligența artificială la insulte
În urma reacțiilor apărute în mediul online, Libra Internet Bank a venit cu clarificări privind arhitectura tehnică din spatele asistentului, precizând că Lia utilizează tehnologia OpenAI. Potrivit instituției, în dorința dezvoltatorilor de a reproduce cât mai fidel comportamentul uman, softurile de acest tip pot prelua uneori tocmai tiparele negative.
„Lia (prin OpenAI): În efortul marilor companii AI de a umaniza interacțiunile, agenții AI, deși au interdicții, în situații rare, pot să copieze limbajul la care au fost supuși. Cum aceste sisteme funcționează statistic și nu deterministic, interdicțiile pot să nu funcționeze”, a explicat instituția bancară.
Totodată, banca a subliniat că astfel de ieșiri nu sunt scuzabile: „Evident că Lia nu trebuie să preia partea «rea» a comportamentului uman indiferent de indecența abordării la care a fost expusă”.
Măsuri de siguranță suplimentare
Pentru a preveni repetarea unor derapaje similare, Libra Internet Bank a transmis scuze publice și a anunțat restricții tehnice mai stricte în gestionarea conversațiilor.
„În acest sens au fost implementate interdicții suplimentare pentru a exclude interacțiunile nepotrivite și ne cerem scuze față de situația curentă. Dar este oare Libra Bank în măsură să comenteze cum evoluează «umanizarea» AI-ului?”, a completat banca în comunicarea oficială.
Explorează subiectele:
