Inteligența artificială transformă radical piața muncii, însă utilizarea ei eficientă necesită o înțelegere clară a capacităților și limitărilor tehnologiei. Ana-Maria Stancu, antreprenoare în robotică și inteligență artificială, a subliniat în cadrul emisiunii „Next – Economia Viitorului” că, deși nu va înlocui toate profesiile, AI va schimba modul în care funcționează numeroase locuri de muncă. Această evoluție impune o pregătire atentă pentru a evita erorile de procesare sau riscurile de securitate.
În ceea ce privește pregătirea digitală, România se află într-o poziție dificilă, ocupând ultimul loc în Uniunea Europeană la capitolul competențe digitale. Integrarea inteligenței artificiale în IMM-uri și în administrația publică nu depășește pragul de 10%, ceea ce indică o nevoie urgentă de educație. Ana-Maria Stancu avertizează că funcționarii publici nu trebuie să introducă date personale sau confidențiale în soluții comerciale precum ChatGPT, Gemini sau Claude, deoarece aceste informații pot ajunge pe internet.
Implementarea tehnologiei în companii implică costuri semnificative, în special atunci când se treceră de la utilizarea documentelor la crearea de agenți autonomi. În timp ce un cont Enterprise poate costa în jur de 200 de dolari, procesarea volumelor mari de date prin tokeni poate ridica costurile la aproximativ 1.500 de dolari pentru doar câteva zeci de documente. Această complexitate financiară explică de ce unele companii din America au început să angajeze din nou oameni, după ce costurile de procesare au depășit beneficiile.
Un risc major identificat este fenomenul de „halucinație”, prin care algoritmii generează răspunsuri care par corecte, dar sunt false. Deoarece sistemele funcționează pe bază de predicții statistice și nu pe o înțelegere reală a conceptelor, ele pot crea linkuri inexistente sau informații eronate. Ana-Maria Stancu recomandă utilizatorilor să nu folosească AI-ul ca pe un motor de căutare și să verifice întotdeauna sursele, evitând dependența totală de aceste unelte care pot induce în eroare.
În contextul automatizării, joburile repetitive sunt cele mai expuse, însă integrarea agenților AI necesită o supraveghere umană constantă, conceptul de „human on the loop”. În domenii cu risc înalt, precum sănătatea sau finanțele, deciziile luate de algoritmi trebuie validate de profesioniști pentru a asigura drepturile cetățenilor. Această necesitate de control este susținută și de reglementările europene, precum AI Act, care urmărește protejarea oamenilor în fața deciziilor automate complexe.
Evoluția tehnologiei de tip machine learning, utilizată de decenii în zone precum HR sau finanțe, demonstrează că sistemele statistice nu pot oferi niciodată o acuratețe de 100%. În cadrul reglementărilor europene, se pune accent pe transparență pentru a evita situațiile în care algoritmii funcționează ca o „cutie neagră”, oferind scoruri sau refuzuri fără o explicație clară. Această abordare este esențială pentru ca utilizatorii să poată contesta deciziile luate de sistemele automate.