Sistemele de inteligență artificială trebuie să fie testate în medii controlate și să treacă prin evaluări juridice, tehnice și de securitate cibernetică înainte de a fi utilizate la scară largă. Această necesitate a fost evidențiată de consilierul prezidențial Cosmin-Alexandru Soare-Filatov, miercuri, în cadrul unui eveniment dedicat tehnologiei, organizat la Palatul Parlamentului de către Institutul Național de Cercetare-Dezvoltare în Informatică – ICI București.
Cosmin-Alexandru Soare-Filatov a explicat faptul că implementarea tehnologiei trebuie să se bazeze pe cazuri concrete de utilizare și pe încrederea în funcționarea sistemelor. Conform acestuia, extinderea utilizării poate avea loc doar atunci când procesul de testare confirmă stabilitatea acestora. Consilierul a subliniat că o lecție clară extrasă din activitatea curentă este obligativitatea de a verifica riguros fiecare etapă înainte de orice etapă de extindere a implementării.
În ceea ce privește instituțiile publice, consilierul prezidențial a menționat că scopul utilizării inteligenței artificiale trebuie să fie îmbunătățirea serviciilor pentru cetățeni și eficientizarea statului. Totuși, el a avertizat că algoritmii pot ajuta funcționarii, dar nu pot prelua responsabilitatea deciziilor. Această responsabilitate trebuie să rămână strict umană și instituțională, asigurând astfel protecția drepturilor fundamentale și verificarea reală a funcționării sistemelor automatizate.
Consilierul a făcut referire la experiența Republicii Coreea, unde sistemul judiciar a înființat un comitet dedicat inteligenței artificiale și a lansat un sistem-pilot bazat pe inteligență artificială generativă. În România, acest domeniu este abordat prin Forumul Just AI, lansat de președintele Nicușor Dan în luna mai. Soare-Filatov consideră că există oportunități reale de cooperare și schimb de experiență între sistemele judiciare ale celor două țări.
Workshopul organizat de ICI București, în parteneriat cu Guvernul Republicii Coreea, a reunit experți din cadrul Ministerului de Interne și Siguranță al Republicii Coreea, al Agenției Naționale pentru Societatea Informațională (NIA) și al Serviciului Vamal Coreean (KCS). Evenimentul a vizat guvernanța inteligenței artificiale, digitalizarea administrației publice și dezvoltarea infrastructurilor digitale. Dialogul urmărește identificarea unor soluții instituționale relevante pentru transformarea digitală.
Dezvoltarea tehnologiilor digitale și a inteligenței artificiale în administrația publică reprezintă un proces global de modernizare a statului. În România, acest proces implică nu doar adoptarea de noi instrumente software, ci și crearea unui cadru legislativ și de guvernanță care să prevină erorile algoritmice. Integrarea acestor sisteme necesită un echilibru între eficiența tehnologică și respectarea normelor de securitate cibernetică și a protecției datelor cetățenilor.