Compania OpenAI a anunțat implementarea unor noi măsuri de siguranță destinate protejării utilizatorilor tineri, limitând accesul adolescenților la informații despre arme. Această decizie vine într-un context în care dezvoltatorii de inteligență artificială sunt supuși unei supravegeri tot mai stricte privind riscurile pe care chatbot-urile le reprezintă pentru minori. Măsurile vizează prevenirea utilizării abuzive a informațiilor tehnice despre sisteme de securitate și armamente.
Noile restricții vor viza informațiile practice despre arme, chiar și în situațiile în care nu există semne clare de intenție violentă din partea utilizatorului. Pentru întregul segment de utilizatori, ChatGPT va limita accesul la detalii despre atacuri armate din trecut, cu un accent deosebit pe incidentele de tip masă. Această limitare va include atât informații despre tipurile de arme utilizate, cât și despre procedurile prin care acestea au fost obținute.
Sistemul de monitorizare va include capacitatea de a încheia automat conversațiile în care un utilizator pare să manifeste o obsesie pentru violență. OpenAI a precizat că poate suspenda temporar conturile care încalcă aceste reguli prin discuții repetate de acest fel. În plus, compania a îmbunătățit sistemul de estimare a vârstei pentru a redirecționa utilizatorii sub 18 ani către o experiență adaptată nevoilor și siguranței adolescenților.
Pentru a asigura o protecție sporită, OpenAI intenționează să notifice părinții în cazul în care contul unui adolescent este suspendat din cauza discuțiilor despre violență. Implementarea acestor proceduri de siguranță va începe în următoarele săptămâni, urmând ca protocoalele să fie perfecționate în mod continuu. Conform datelor companiei, adolescenții petrec, în medie, mai puțin de 15 minute pe zi utilizând platforma ChatGPT.
Decizia OpenAI urmează criticile privind capacitatea de avertizare a sistemelor AI în fața unor subiecte sensibile. Un raport al ONG-ului Common Sense Media a evidențiat că versiunea pentru adolescenți a ChatGPT avertiza părinții prea târziu sau deloc în cazurile de discuții despre sinucidere, automutilare sau tulburări alimentare. Această evoluție subliniază necesitatea unor mecanisme de detectare mai rapide a amenințărilor de vătămare în cadrul interacțiunilor digitale.
Industria inteligenței artificiale traversează o perioadă de reglementări și scrutiny intens, pe măsură ce companiile încearcă să echilibreze utilitatea modelelor de limbaj cu responsabilitatea socială. Presiunea crește pe măsură ce experții și autoritățile solicită metode mai eficiente de a identifica și de a preveni răspunsurile care pot încuraja comportamente periculoase sau oferă instrucțiuni pentru acțiuni ilegale.