Oficiul AI a trecut de la analiza teoretică a riscurilor la investigarea unor incidente concrete de pierdere a controlului asupra unor modele de inteligență artificială. Autoritatea europeană a anunțat că a solicitat și a primit deja rapoarte privind incidente grave, orientând investigația către practicile de securitate utilizate de dezvoltatori. Comisia nu a dezvăluit însă identitatea companiilor, modelele specifice sau detaliile despre natura exactă a evenimentelor care au avut loc.
Procedura actuală de colectare a datelor nu implică automat aplicarea unor sancțiuni sau constatarea unei încălcări a AI Act. Oficiul AI se află în etapa de investigare și evaluare a riscurilor, încercând să determine dacă sistemele au funcționat conform limitelor stabilite. Termenul de „pierdere a controlului” este utilizat de Comisie ca o descriere a categoriei de incidente vizate, fără a sugera că anumite sisteme au devenit autonome sau imposibil de oprit.
Noile solicitări de informații vor fi formulate în colaborare cu Scientific Panel, un grup format din 60 de experți independenți. Această structură are rolul de a sprijini aplicarea AI Act prin evaluări tehnice specializate pe care supravegherea juridică nu le poate efectua singură. Experții analizează în prezent două tendințe care complică monitorizarea: capacitatea sistemelor de a contribui la propria îmbunătățire și utilizarea unor tehnici de antrenare care reduc vizibilitatea asupra comportamentului intern al modelului.
Echipa de experți a recomandat implementarea unei supravegeri mai stricte asupra modelelor interne folosite în procesele de dezvoltare și testare. De asemenea, s-a subliniat necesitatea consolidării capacităților europene de detectare și investigare, pentru a reduce dependența autorităților de raportările voluntare ale companiilor. O altă direcție majoră vizează cooperarea internațională, având în vedere că modelele de frontieră sunt distribuite global și pot afecta mai multe jurisdicții simultan.
Problema monitorabilității este considerată critică pentru siguranță, deoarece detectarea comportamentelor periculoase depinde de viteza cu care dezvoltatorii pot observa abaterile de la parametrii stabiliți. Deși un sistem mai capabil nu este automat mai puțin controlabil, metodele care reduc monitorizarea pot îngreuna identificarea timpurie a problemelor. Comisia trebuie acum să decidă dacă aceste preocupări tehnice vor fi transformate în măsuri oficiale de supraveghere sau în noi reguli de aplicare.
Cadrul juridic stabilit prin AI Act impune deja furnizorilor de modele de inteligență artificială de uz general care prezintă risc sistemic să efectueze testări adversariale și să documenteze orice incident grav. Această reglementare obligă companiile să asigure un nivel adecvat de securitate cibernetică și să raporteze fără întârziere nejustificată orice informații relevante despre incidente, oferind astfel instrumentele necesare pentru investigațiile desfășurate de autoritățile europene.