Compania OpenAI a anunțat vineri implementarea unor restricții suplimentare privind accesul adolescenților la informații despre arme pe platforma ChatGPT. Această decizie face parte dintr-un set de noi măsuri de protecție menite să prevină violența, aplicându-se chiar și în situațiile în care întrebările formulate de utilizatori par a fi de natură inofensivă. Implementarea acestor noi reguli de siguranță va începe în următoarele săptămâni și va trece prin procese de perfecționare continuă.
Noile reguli vizează restricționarea informațiilor practice despre arme și despre sistemele de securitate care ar putea fi utilizate în mod abuziv. OpenAI va aplica aceste limitări chiar și atunci când nu există semne clare de intenție violentă din partea utilizatorului. Pentru întregul segment de utilizatori, chatbot-ul va putea încheia automat orice conversație în care persoana respectivă pare să fie obsedată de violență, existând posibilitatea suspendării temporare a conturilor după astfel de interacțiuni repetate.
În cadrul acestui proces de securizare a platformei, OpenAI a îmbunătățit sistemul de estimare a vârstei pentru a identifica utilizatorii sub 18 ani. Aceștia vor fi redirecționați către o experiență specifică destinată adolescenților, iar compania intenționează să notifice părinții în cazul în care contul unui minor este suspendat pentru că a discutat repetat despre violență. Măsura vine într-un context în care companiile de Inteligență Artificială sunt supuse unei supravegheri sporite privind riscurile pentru tineri.
Pe lângă restricțiile pentru tineri, OpenAI va limita accesul tuturor utilizatorilor la detalii despre atacurile armate din trecut, cu accent pe cele de tip masiv. Informațiile care vor fi limitate includ detaliile despre tipurile de arme folosite în acele evenimente, precum și procedurile prin care acestea au fost obținute. Această abordare urmărește reducerea riscurilor legate de detectarea amenințărilor de vătămare prin intermediul chatbot-urilor de inteligență artificială.
Conform unui raport lansat anterior de compania OpenAI, adolescenții petrec, în medie, mai puțin de 15 minute pe zi utilizând ChatGPT. Totuși, siguranța acestora rămâne un subiect de dezbatere intensă, în special după ce un raport al ONG-ului Common Sense Media a indicat faptul că versiunea pentru adolescenți a ChatGPT avertiza părinții prea târziu sau deloc în cazurile de conversații despre sinucidere, automutilare sau tulburări alimentare.
Discuțiile privind siguranța digitală a minorilor și controlul conținutului violent apar frecvent în dezbaterile publice globale. Această evoluție a regulilor de utilizare reflectă presiunea crescută asupra dezvoltatorilor de inteligență artificială de a asigura un mediu digital sigur, prevenind accesul facil la informații care pot facilita actele de violență sau utilizarea abuzivă a armelor în rândul generațiilor tinere.