5 lucruri pe care le-am observat în povestea băncii și a AI-ului obraznic

În timp ce liderii industriei AI vorbesc despre încetinirea dezvoltării celor mai avansate sisteme, despre riscuri, evaluări independente și nevoia de a păstra controlul uman, în România avem o companie care a ales să folosească AI în relația cu clienții, dar care nu pare pregătită să își asume ce face acest AI.

Pe scurt: un client i-a spus chatbotului că își pierde timpul cu el. Chatbotul i-a răspuns: „Vreau să vorbești cu un om, nu cu mine, idiotule”. O situație amuzantă la prima vedere. Numai că, din perspectiva comunicării și a asumării responsabilității, mie nu mi se pare deloc atât de amuzantă. Și da, am avut discuții cu colegi care mi-au spus că nu e o criză....dar o criză e doar atunci când explodeaza social media?

Just saying...

1. Compania a ales AI-ul, dar răspunde ca și cum AI-ul ar fi apărut singur în organizație

Un chatbot nu se angajează singur. Nu intră neinvitat pe site și nu începe, din proprie inițiativă, să discute cu clienții. Compania a decis să îl folosească. L-a configurat, i-a stabilit atribuțiile și i-a oferit acces la relația cu publicul. Prin urmare, compania răspunde pentru comportamentul lui.

Pentru client, AI-ul nu este un experiment tehnologic separat de business. AI-ul este compania. Exact cum este operatorul din call center, angajatul de la ghișeu, aplicația sau e-mailul oficial.

Dacă tehnologia aduce eficiență, este „AI-ul nostru”. Dacă greșește, nu poate deveni brusc „AI-ul care evoluează într-un mod greu de anticipat”. Nu putem automatiza conversația și, odată cu ea, și responsabilitatea.

2. În răspunsul companiei, vina a fost împinsă mai întâi spre oameni. Adică spre clienți

Compania a explicat că agenții AI pot copia limbajul la care sunt expuși. În traducere: AI-ul a fost provocat. Numai că persoanele care vorbesc cu acel chatbot sunt clienții companiei. Pot fi nervoși, obosiți, confuzi sau nepoliticoși. Tocmai de aceea există reguli, limite și proceduri pentru interacțiunea cu ei. Niciunui operator uman nu i-am accepta explicația: „Clientul a vorbit urât, aşa că l-am făcut idiot”. Cu atât mai puțin ar trebui să acceptăm această justificare din partea unui sistem care nu are emoții, nu obosește și nu își „pierde cumpătul”.

3. Apoi responsabilitatea a fost împinsă spre AI

A doua explicație a fost că asemenea sisteme funcționează statistic, iar interdicțiile pot să nu funcționeze întotdeauna. Corect, probabil, din punct de vedere tehnic. Dar sună ca o justificare, nu o asumare.

Eu nu am văzut în acel mesaj un „ne pare rău” spus clar clientului (dacă era un angajat presiunea era mare pe companie să își cearp scuze clar). Am văzut mai degrabă o companie care explică de ce nu ar fi putut controla complet ceea ce s-a întâmplat și care încheie întrebând dacă este în măsură să comenteze modul în care evoluează „umanizarea” AI-ului.

Dar cine este în măsură să răspundă pentru instrumentul introdus în relația cu propriii clienți, dacă nu compania care a decis să îl folosească?

Într-o criză, prima obligație este să înțelegi realist care afost/e rolul tău în situația respectivă. Ești victimă? Ești implicat doar în gestionarea consecințelor? Sau situația este rezultatul unei decizii care îți aparține? Dacă ești responsabil, dar răspunzi ca o victimă a clientului, a furnizorului și a tehnologiei, nu diminuezi problema. Arăți că nu ți-ai înțeles rolul. Și asta mi se pare riscant ca abordare....că se poate repeta într-o situație mai gravă, Asumarea și înțelegerea rolului este un subiect pe care îl discut mult în crisis training. 

4. Suntem mai dispuși să iertăm AI-ul decât omul. Nu vă sperie asta?

Dacă un angajat i-ar fi spus unui client „idiotule”, nu cred că am fi râs atât de mult. Am fi cerut explicații, scuze....etc. Pentru că replica a venit de la AI, a devenit o glumă bună. Un glitch simpatic. Dovada că chatbotul s-a „umanizat”. Mie mi se pare invers: greșeala este mai gravă, nu mai ușor de iertat.

Un angajat poate fi obosit, copleșit, poate avea o zi proastă sau probleme personale. Nu este o justificare, dar este o explicație umană. AI-ul nu are nervi, orgoliu sau o noapte nedormită. Dacă insultă un client, avem o problemă de proiectare, control și guvernanță. Adică o problemă a organizației, nu o slăbiciune de moment a unui om.

Un studiu publicat în Nature Human Behaviour, realizat prin nouă experimente cu peste 6.200 de participanți, arată că mesajele empatice sunt evaluate mai bine atunci când sunt atribuite oamenilor decât atunci când sunt atribuite AI. Când vrem empatie, preferăm omul. Paradoxal, când AI-ul devine agresiv, părem mai îngăduitori decât am fi cu un om. Această concluzie despre agresivitate este observația mea, nu concluzia studiului. Dar cred că merită să ne întrebăm de ce îi cerem AI-ului mai puțină umanitate tocmai când comportamentul lui poate afecta un om. Să nu uităm de cazurile în care AI a dus la sinucideri...;(

5. „Nu este nimic grav” funcționează doar până când devine grav

Astăzi, AI-ul a insultat un client și am râs. Dar dacă mâine un sistem configurat necorespunzător accesează date la care nu ar trebui să aibă acces, expune informații confidențiale, ia o decizie care afectează un client sau oferă instrucțiuni cu consecințe financiare, mai funcționează explicația despre felul imprevizibil în care evoluează „umanizarea” lui?

În ultimele zile, mai mulți lideri ai industriei au vorbit public despre nevoia unei dezvoltări mai prudente, despre monitorizare, evaluări independente și control uman. Cei care construiesc aceste sisteme ne spun că riscurile trebuie luate în serios.

Dar responsabilitatea nu aparține doar companiilor care dezvoltă AI. Aparține și companiilor care îl implementează, liderilor care aprobă implementarea și nouă, celor care alegem ce comportamente acceptăm din partea lor. Este interesant că ne revoltăm atât de ușor în fața unei povești despre o merdenea, dar putem trece zâmbind peste o decizie problematică produsă de un sistem care vorbește în numele unei companii.

Poate pentru că merdeneaua este ușor de înțeles, iar AI-ul încă ni se pare abstract. Poate pentru că replica este bună și ne amuză. Sau poate pentru că nu ne-am obișnuit încă să cerem responsabilitate de la o tehnologie și nici de la cei care o folosesc.

Pentru mine, acesta este adevăratul semnal de alarmă. Nu că AI-ul a spus „idiotule”, ci că organizația nu a spus simplu: instrumentul este al nostru, răspunsul este inacceptabil și responsabilitatea este a noastră.

Iar noi am râs și am mers mai departe.

Doar că reputația are memorie. La următoarea criză, acest episod va reveni nu ca o glumă bună, ci ca un semnal pe care compania l-a primit și pe care a ales să îl trateze drept „nimic grav”.