O creștere alarmantă a materialelor de abuz sexual asupra copiilor generate prin inteligență artificială a fost raportată de o organizație britanică de monitorizare globală. IWF a analizat un număr de 6.310 imagini statice care intră în definiția legală a acestor materiale ilegale. Această cifră reprezintă o creștere de aproximativ 40% comparativ cu totalul de peste 4.500 de imagini identificate de organizație în anul 2025.
Analiza datelor arată că majoritatea imaginilor detectate în acest an vizează fete și copii cu vârste cuprinse între 7 și 13 ani. Pe lângă materialele statice, IWF a semnalat anterior și o creștere semnificativă a materialelor video create prin intermediul inteligenței artificiale. Situația a impus organizația să solicite implementarea unor reguli obligatorii pentru toți dezvoltatorii de tehnologii de inteligență artificială.
Hannah Swirsky, șefa departamentului de politici al organizației, a subliniat necesitatea ca firmele de tehnologie să construiască sisteme care să prevină utilizarea acestora pentru generarea de astfel de materiale. În Marea Britanie, posesia acestor imagini este deja ilegală, indiferent dacă sunt produse de AI sau sunt materiale reale. Legislația britanică sancționează și adaptarea unui model AI sau distribuirea unor modele create special pentru acest scop.
Dezvoltarea unui model conceput pentru a produce imagini hiperrealiste de abuz sexual asupra copiilor poate atrage pedepse de până la cinci ani de închisoare. Deși guvernul britanic nu a anunțat un nou proiect de lege dedicat exclusiv inteligenței artificiale, ministrul britanic pentru AI, Kanishka Narayan, a declarat că nimic nu este exclus în privința unor noi reglementări. Problema include și manipularea fotografiilor reale prin tehnici de tip deepfake.
Serviciul britanic Report Remove a înregistrat deja 420 de sesizări din partea copiilor care au descoperit imagini falsificate sau manipulate pentru a-i prezenta în situații sexuale. Acest număr depășește deja totalul de 397 de cazuri raportate în 2025. Din acest motiv, Agenția Națională pentru Combaterea Criminalității din Marea Britanie și IWF au recomandat părinților să limiteze publicarea fotografiilor copiilor pe rețelele sociale, sugerând utilizarea conturilor private.
Evoluția tehnologiei de generare a conținutului digital a creat noi provocări pentru securitatea minorilor, facilitând producția de materiale ilegale la scară largă. Monitorizarea acestor activități digitale necesită o colaborare strânsă între autoritățile de reglementare și companiile de tehnologie pentru a reduce expunerea copiilor la conținut manipulat sau creat artificial.