Un incident recent care a implicat asistentul virtual Lia, asistentul virtual al Libra Internet Bank, a pus în evidență complexitatea responsabilității juridice în cazul sistemelor de inteligență artificială. Conform unui comunicat de presă emis de Hațegan Attorneys, rolul juridic al unei companii depinde de modul în care sistemul este dezvoltat, integrat și pus în funcțiune. Cazul subliniază riscurile practice pe care organizațiile trebuie să le gestioneze atunci când includ tehnologii de AI în serviciile lor proprii.
Companiile care utilizează modele de uz general, precum GPT, Claude sau Gemini, pentru a le integra în produse proprii, pot trece de la statutul de simpli utilizatori la cel de furnizori din aval. Această calificare, prevăzută de AI Act, apare dacă entitatea dezvoltă sau comandă dezvoltarea sistemului final și îl introduce pe piață sub propria marcă. Astfel, compania devine responsabilă pentru conformitatea sistemului final, chiar dacă nu a creat modelul de bază utilizat în proces.
Obligațiile legale variază în funcție de clasificarea sistemului și de riscurile pe care acesta le implică. Furnizorii din aval trebuie să verifice dacă sistemul implică practici interzise sau dacă este clasificat drept sistem cu risc ridicat. De exemplu, un chatbot destinat publicului are obligația de a informa utilizatorii că interacționează cu un sistem de AI. Această cerință de transparență este deja aplicabilă începând cu data de 2 august 2026.
Pentru sistemele identificate cu risc ridicat, reglementările sunt mult mai stricte și includ managementul riscurilor, guvernanța datelor și supravegherea umană. Conform calendarului stabilit de AI Act, aceste cerințe vor fi aplicate pentru sistemele high-risk din anexa III de la 2 decembrie 2027. Mai departe, pentru sistemele asociate produselor reglementate din anexa I, obligațiile vor intra în vigoare de la data de 2 august 2028, conform informațiilor furnizate de Hațegan Attorneys.
Un obstacol major în procesul de conformitate rămâne accesul la informații tehnice esențiale de la dezvoltatorii modelelor de bază. AI Act obligă furnizorii de modele de uz general să pună la dispoziție datele necesare celor care integrează modelul într-un sistem final. În cazul în care furnizorul modelului nu cooperează sau nu își respectă obligațiile, companiile au posibilitatea de a depune o plângere la Oficiul pentru AI.
Adopția tehnologiilor de inteligență artificială în mediul de afaceri este într-o fază de expansiune, deși nivelul de utilizare variază semnificativ. Conform Raportului Eurostat privind companiile care utilizează tehnologii de inteligență artificială, doar 5,2% dintre companiile din România folosesc aceste tehnologii, în raport cu o medie europeană de 20%. Această diferență indică un potențial de creștere rapidă a integrării sistemelor de AI în serviciile comerciale.