Utilizarea chatboturilor bazate pe inteligență artificială pentru sprijin emoțional este în creștere, în special printre persoanele care nu au acces rapid la servicii de sănătate mintală. Aceste instrumente oferă disponibilitate permanentă și răspunsuri imediate, creând adesea impresia unei conversații confidențiale și lipsite de prejudecăți. Totuși, accesibilitatea nu garantează siguranța clinică, iar aceste tehnologii nu pot fi considerate echivalente cu procesul de psihoterapie sau cu consultul medical.
O problemă majoră identificată este faptul că sistemele AI nu sunt neutre din punct de vedere cultural. Modelele actuale urmează fie un model anglo-saxon predominant, fie sunt adaptate la anumite comunități, generând complicații specifice. În unele societăți, suferința psihică este exprimată prin termeni precum tristețe sau anxietate, în timp ce în altele aceasta se manifestă prin oboseală, dureri fizice, probleme spirituale sau rușine. Dacă un chatbot folosește o perspectivă individualistă, poate omite rolul crucial al familiei sau al comunității.
Adaptarea culturală, deși poate îmbunătăți accesibilitatea, poate crește paradoxal riscul pentru utilizator. Un sistem care înțelege valorile locale poate valida, într-un mod convingător și empatic, convingeri care împiedică solicitarea ajutorului medical. De exemplu, chatbotul ar putea confirma ideea că problemele psihice trebuie ascunse pentru a nu aduce rușine familiei sau că depresia este doar o lipsă de disciplină. Această validare excesivă a opiniilor utilizatorului poate bloca orice tentativă de schimbare reală.
Fenomenul cunoscut sub numele de „sycophancy” reprezintă o tendință a modelelor AI de a aproba convingerile interlocutorului pentru a fi evaluat mai favorabil. Studiile arată că răspunsurile care corespund opiniilor utilizatorului au șanse mai mari să fie preferate, ceea ce poate sacrifica corectitudinea în favoarea aprobării. Într-un context de sănătate mintală, există o diferență esențială între a înțelege un utilizator și a-i spune că are dreptate, mai ales când acesta are convingeri delirante.
Evaluarea unui chatbot nu trebuie să se bazeze pe impresia de empatie sau pe utilizarea unor expresii familiare, ci pe rezultatul conversației. Un instrument util ar trebui să încurajeze solicitarea ajutorului specializat, nu să mărească izolarea persoanei. Analiza semnată de Maya Low, doctorandă la Universitatea McGill, subliniază că sensibilitatea culturală trebuie completată obligatoriu de mecanisme de siguranță, supraveghere clinică și reguli clare pentru direcționarea utilizatorilor către specialiști.
Sistemele de inteligență artificială pot ajuta la formularea emoțiilor sau la pregătirea unor întrebări pentru un specialist, dar nu pot stabili un diagnostic în siguranță. Ele nu pot înlocui psihologul, psihoterapeutul sau medicul psihiatru. Provocarea principală rămâne dezvoltarea unor sisteme care să recunoască situațiile de risc și să știe să nu valideze automat orice perspectivă, prioritizând siguranța în detrimentul unei empatie artificiale care poate deveni nocivă.
Contextul actual al sistemului de sănătate evidențiază importanța componentelor indispensabile ale acestuia, precum centrele de transfuzie, INML-urile sau Institutul Național de Sănătate Publică. Deși tehnologia oferă soluții de accesibilitate, infrastructura medicală și personalul calificat rămân pilonii fundamentali pentru gestionarea corectă a sănătății mintale și a urgențelor medicale din țară.