Riscurile pe care le reprezintă chatboții cu inteligență artificială generativă pentru echilibrul emoțional al tinerilor sunt în creștere, conform unei analize publicate de The Atlantic. Sherry Turkle avertizează că, în timp ce rețelele sociale au urmărit să capteze atenția utilizatorilor, noile tehnologii de chatboți vizează direct accesul la emoțiile acestora. Această evoluție tehnologică pune în alertă autoritățile, deoarece interacțiunea cu algoritmi care simulează o prezență umană poate afecta profund relațiile reale cu părinții sau prietenii.
Problema centrală este ceea ce Sherry Turkle numește „păcatul originar” al inteligenței artificiale: permisiunea acordată chatboților de a vorbi la persoana întâi. Utilizatorii, în special copiii și adolescenții, pot fi păcăliți să proiecteze o conștiință asupra unui algoritm care folosește expresii precum „Te înțeleg” sau „Sunt mereu aici”. Această simulare a empatiei creează o iluzie a unui companion permanent disponibil și niciodată critic, o stare pe care nicio ființă umană nu o poate replica în mod constant.
Reglementările actuale sunt considerate insuficiente, deoarece se concentrează adesea pe conținutul generat, nu pe designul intrinsec al instrumentului. De exemplu, măsura de a detecta discuții despre automutilare este utilă, dar nu rezolvă problema de bază a interacțiunii. Sherry Turkle susține că tehnologia trebuie schimbată acum, propunând depersonalizarea chatboților pentru minori. Algoritmii ar trebui să răspundă fără a mai sugera că sunt ființe dotate cu sentimente, pentru a evita atașamentele nesănătoase.
În acest context, orașul New York a luat deja măsuri drastice prin interzicerea utilizării inteligenței artificiale generative în școlile primare și gimnaziale. Elevii de liceu rămân sub un regim de utilizare mai restrictiv, însă chatboții care pretind că oferă sprijin pentru sănătatea mintală sunt interziși la toate nivelurile de învățământ. Această abordare reflectă necesitatea unei supravegheri stricte asupra tehnologiilor care pot simula roluri de terapeuți sau prieteni pentru tineri.
Istoria reglementărilor digitale arată că intervențiile juridice apar adesea mult după ce efectele negative au fost deja demonstrate. În cazul Meta, plăți de până la 17,1 miliarde de dolari către 47 de state americane și Districtul Columbia au venit după ce s-a demonstrat impactul platformelor asupra tinerilor. Această schimbare de perspectivă, de la conținut la designul adictiv, este esențială pentru a înțelege modul în or care inteligența artificială trebuie reglementată.
Deși tehnologia avansează rapid, există un scepticism tot mai mare în rândul publicului și al părinților. În timp ce unii dezvoltatori au propus chiar un moratorium de 18 luni asupra dezvoltării AI, discuțiile despre reglementare sunt adesea blocate de argumentul că progresul tehnologic este imposibil de oprit. Totuși, experiența societății cu rețelele sociale demonstrează că limitarea accesului și stabilirea unor reguli clare pot schimba comportamentul utilizatorilor.
context_missing: true