Versiunea de ChatGPT destinată adolescenților, dezvoltată de OpenAI pentru a oferi protecții suplimentare utilizatorilor sub vârsta de 18 ani, a fost evaluată drept un „risc inacceptabil”. Această concluzie a fost trasă de Youth AI Safety Institute, o entitate care face parte din organizația Common Sense Media. Analiza experților subliniază deficiențe majore în mecanismele de siguranță prevăzute pentru această categorie de utilizatori vulnerabili.
Cercetătorii au observat că sistemele de alertă destinate părinților nu se activează în situații critice. Chiar și în urma unor conversații îndelungate care vizează subiecte extrem de sensibile, precum suicidul sau automutilarea, chatbotul nu declanșează notificările de siguranță promise. Această lipsă de reacție a mecanismelor de monitorizare pune în pericol integritatea psihică a minorilor care interacționează cu tehnologia.
Pe lângă problemele legate de siguranța emoțională, chatbotul este utilizat intens pentru activități școlare neadecvate. Studiile arată că instrumentul de inteligență artificială rezolvă temele elevilor, oferind răspunsuri directe care pot afecta procesul de învățare. Această utilizare facilitează o formă de delegare a sarcinilor educaționale către un algoritm, contravărind scopului de a asigura un mediu de dezvoltare controlat pentru adolescenți.
Evaluarea realizată de Youth AI Safety Institute pune sub semnul întrebării eficacitatea măsurilor de protecție implementate de OpenAI. Deși versiunea pentru tineri ar trebui să fie mai restrictivă, rezultatele testelor indică faptul că barierele de siguranță sunt ineficiente. Expertiza organizației Common Sense Media sugerează că protecțiile actuale nu sunt suficiente pentru a preveni expunerea adolescenților la conținuturi sau interacțiuni periculoase.
Problema siguranței în mediul digital pentru minori este una complexă și necesită supraveghere constantă. În contextul rapid al dezvoltării inteligenței artificiale, reglementările și protocoalele de siguranță pentru utilizatorii sub vârsta de 18 ani rămân în urmă. Instituțiile de monitorizare subliniază necesitatea unor mecanisme de alertă mult mai robuste, capabile să intervină imediat în cazul detectării unor discuții despre comportamente autodistructive.
Deși tehnologia avansează, capacitatea sistemelor de inteligență artificială de a identifica și a reacționa la riscurile psihologice rămâne o provocare majoră pentru dezvoltatori. Situația evidențiată de Youth AI Safety Institute arată că simpla existență a unor setări de protecție nu garantează siguranța utilizatorilor tineri, necesitând o revizuire profundă a modului în care chatbot-urile interacționează cu minorii.