Comisia pentru afaceri constituționale a adoptat un raport prin care eurodeputații solicită menținerea controlului uman asupra utilizării inteligenței artificiale în cadrul instituțiilor Uniunii Europene. Documentul propune ca Parlamentul European să efectueze evaluări sistematice ale impactului tehnologiei asupra proceselor democratice, a dezinformării și a funcționării sistemelor politice. Raportul a fost aprobat cu 21 de voturi pentru, trei împotrivă și nicio abținere, fiind pregătit de eurodeputatul Manolis Kefalogiannis din PPE, Grecia.
Propunerile vizează protejarea integrității alegerilor împotriva riscurilor generate de manipularea informațională, ingerințele străine și utilizarea conținutului sintetic, precum deepfake-urile. Eurodeputații subliniază că tehnologia poate face dificilă distincția între materialele autentice și cele generate artificial, afectând vieța privată a cetățenilor. Raportul pledează pentru ca utilizarea sistemelor AI de către administrația europeană să fie supusă supravegherii umane și să rămână în deplină compatibilitate cu protecția datelor și valorile fundamentale ale UE.
Un element central al documentului este propunerea creării unui observator AI în cadrul Parlamentului European, care ar funcționa fără resurse bugetare suplimentare. Acest observator nu va avea puteri de reglementare sau de sancționare, ci va acționa ca un organism de sprijin pentru comisiile parlamentare. Printre atribuțiile sale se numără monitorizarea practicilor instituționale, identificarea lacunelor legislative și analiza efectelor AI asupra echilibrului instituțional, ajutând astfel eurodeputații să aibă un control mai informat.
Raportul extinde discuția dincolo de regulile tehnice, sugerând chiar inițierea unor discuții pentru noi protecții în cadrul Cartei drepturilor fundamentale a UE. Aceasta ar putea include transparența algoritmică, protecția identității și a imaginii personale, precum și apărarea împotriva discriminării algoritmice. De asemenea, eurodeputații propun un model de cooperare internațională pentru gestionarea riscurilor de securitate, inspirat de regimurile de neproliferare nucleară, pentru a aborda provocările tehnologice cu caracter transfrontalier.
În procesul legislativ, inteligența artificială ar putea fi utilizată pentru analiza probelor sau identificarea inconsistențelor dintre actele europene, însă responsabilitatea politică trebuie să rămână umană. Manolis Kefalogiannis a declarat că obiectivul este ca AI „să rămână un instrument în serviciul oamenilor, democrațiilor și valorilor noastre”. Documentul nu impune o interdicție asupra tehnologiilor din afara UE, ci orientează achizițiile instituțiilor europene către soluții care să asigure autonomia digitală strategică.
Acest demers de reglementare apare într-un context în care cadrul actual, definit de AI Act, este considerat insuficient pentru a acoperi toate riscurile democratice emergente. Deși AI Act stabilește reguli generale pentru piață, raportul AFCO se concentrează pe dimensiunile constituționale și pe protejarea proceselor electorale. Textul urmează să fie supus votului în plenul Parlamentului European în cadrul sesiunii programate pentru perioada 19–22 octombrie.