Agenția pentru Drepturi Fundamentale a Uniunii Europene (FRA) a emis un avertisment privind riscurile asociate utilizării inteligenței artificiale pentru identificarea biometrică. Deși aceste tehnologii pot sprijini combaterea criminalității, raportul evidențiază pericolele reprezentate de utilizarea lor într-un mod discriminatoriu sau prin încălcarea drepturilor fundamentale. Analiza vizează implementarea tehnologiilor de identificare facială și vocală în diverse țări, precum Germania, Franța, Grecia, Ungaria, Irlanda, Italia și Olanda.
Directoarea FRA, Sirpa Rautio, subliniază că identificările inexacte sau părtinitoare pot avea consecințe grave pentru cetățeni. Există riscul ca posibilitatea de a fi identificați să îi descurajeze pe oameni să participe la demonstrații sau să asiste la întâlniri publice. Deși identificarea biometrică la distanță poate ajuta la localizarea persoanelor dispărute, Sirpa Rautio precizează că siguranța publică și drepturile fundamentale nu trebuie să fie obiective divergente.
Lipsa unui cadru juridic clar reprezintă o problemă majoră identificată în raport. David Reichel, șeful departamentului Date și Digital al FRA, explică faptul că legile din statele membre nu sunt suficient de bine conturate pentru a reglementa utilizarea inteligenței artificiale. Unele state nu au stabilit încă toate cadrele normative sau autoritățile de supraveghere necesare, ceea ce duce la niveluri diferite de protecție a drepturilor fundamentale în funcție de țară.
Sondajele realizate de FRA relevă o îngrijorare reală în rândul publicului. Aproximativ 37% dintre cei consultați s-au temut că datele colectate ar putea fi folosite în scopuri neautorizate, în timp ce 29% au declarat că tehnologia i-ar putea descuraja să participe la demonstrații. Agenția descrie acest fenomen ca fiind un „efect de descurajare asupra libertăților democratice”, bazându-se pe date colectate de la circa 1.000 de persoane.
Sistemele algoritmice implementate necorespunzător pot genera erori de identificare, afectând în special femeile, minoritățile etnice, copiii și persoanele vârstnice. Aceste erori pot duce la verificări nejustificate ale poliției și la acuzații false. FRA solicită statelor UE să introducă garanții stricte în legislațiile naționale, limitând utilizarea la situații specifice, precum căutarea victimelor sau prevenirea unui atac terorist, interzicând monitorizarea demonstrațiilor pașnice.
Reglementarea utilizării inteligenței artificiale în spațiul public este un subiect central în Uniunea Europeană, fiind reglementat prin reguli stricte de protecție a datelor. În cadrul acestui cadru, Regulamentul european privind inteligența artificială interzice, în general, identificarea biometrică la distanță, în timp real, în spații publice, în scopuri polițienești, pentru a preveni supravegherea de masă necontrolată.