O echipă de cercetători de la Universitatea „Alexandru Ioan Cuza” din Iași a dezvoltat un sistem bazat pe inteligență artificială capabil să identifice indicii de depresie în postările de pe platforma X. Programul nu oferă doar un verdict, ci generează și o explicație în limbaj obișnuit pentru a justifica concluzia ajunsă la capăt. Această abordare urmărește să crească transparența și încrederea în utilizarea tehnologiei în domeniul sănătății mintale.
Procesul de analiză pornește de la utilizarea unui model de tip Transformer, numit BERT, care interpretează sensul cuvintelor în funcție de contextul în care sunt folosite. După ce transformă mesajul într-o reprezentare numerică, sistemul adaugă date suplimentare despre momentul publicării, inclusiv ora din zi și ziua săptămânii. O componentă separată generează apoi justificarea verdictului, analizând postarea cuvânt cu cuvânt pentru a oferi o explicație coerentă.
Cercetarea a inclus antrenarea sistemului pe un set de date format din aproximativ 20.000 de mesaje publicate de 72 de utilizatori pe platforma X. Din acest volum de date, jumătate dintre postări au fost marcate ca fiind asociate depresiei, în timp ce restul nu au prezentat astfel de indicii. La testarea programului, acesta a reușit să identifice corect starea utilizatorilor în 85% dintre cazurile analizate.
Analiza datelor a relevat că postările asociate depresiei apar mai des în timpul nopții sau dimineața devreme, în timp ce mesajele publicate în jurul prânzului primesc scoruri mai mici. Autorii au ales platforma X deoarece postările sunt scurte, spontane și afișează ora exactă a publicării, element esențial pentru ipoteza cercetării. Totuși, UAIC subliniază că aceste tendințe sunt generale și nu pot fi aplicate ca reguli stricte pentru fiecare individ.
Dezvoltarea componentei care generează explicații s-a dovedit a fi o sarcină mai complexă decât clasificarea propriu-zisă a stării emoționale. Pentru antrenarea acestui segment, cercetătorii au utilizat explicații generate anterior prin intermediul modelului GPT-4. Rezultatul final a arătat că sistemul propus de echipa de la Iași poate reformula ideile în propriile cuvinte, păstrând sensul emoțional central, deși suprapunerea lexicală cu modelele inițiale este redusă.
Utilizarea acestor tehnologii este strict reglementată la nivel european, legislația Uniunii Europene interzicând detectarea emoțiilor în școli sau la locul de muncă. În alte scenarii, sistemele de inteligență artificială care monitorizează stările psihice sunt clasificate drept sisteme cu risc ridicat. Acestea sunt obligate să respecte criterii stricte privind controlul uman și capacitatea de a explica deciziile luate, pentru a proteja persoanele vulnerabile.