Nicoleta Prutean, doctor în neuroștiințe cognitive și analist senior pe inteligență artificială la Bruxelles, avertizează asupra modului în care tehnologia poate afecta integritatea cognitivă a oamenilor. Cercetătoarea, originară din Republica Moldova, subliniază că utilizarea inteligenței artificiale poate fi un instrument pentru amplificarea gândirii critice, dar poate deveni și un substitut care înlocuiește procesul de gândire propriu. Această dualitate reprezintă miza principală a studiilor sale despre impactul tehnologiilor emergente asupra societății.
În cadrul raportului „Governing AI for cognitive integrity”, publicat în septembrie, Nicoleta Prutean analizează modul în care designul tehnologic influențează sănătatea mintală. Aceasta include arhitectura chatboturilor, sistemele de recomandare și funcții precum scrollul infinit sau autoplay. Obiectivul este de a defini standarde care să protejeze capacitățile cognitive, precum atenția și luarea deciziilor, împotriva stimulentei de business care urmărește menținerea utilizatorilor pe platforme prin mecanisme de dependență.
Cercetătoarea identifică cinci nevoi umane fundamentale care nu trebuie externalizate către inteligența artificială: a înțelege, a te conecta, a crea, a comunica și a face față situațiilor. Dacă utilizatorii lasă algoritmii să le selecteze informațiile sau să le gestioneze relațiile, există un risc major de pierdere a autonomiei. Din punct de vedere neural, lipsa implicării active în procesele cognitive poate duce la atrofierea capacităților de gândire, afectând starea de bine mentală pe termen lung.
În ceea ce privește reglementarea, Nicoleta Prutean propune o abordare integrată, comparabilă cu modul în care este reglementată electricitatea. Ea menționează importanța unor instrumente precum AI Act, GDPR sau Digital Services Act (DSA) pentru protecția consumatorilor. Totuși, ea notează că în cadrul DSA, definiția riscului sistemic rămâne destul de vagă, ceea ce permite companiilor să utilizeze flexibilitatea legii pentru a întârzia procedurile de investigație în cazul unor amenințări la adresa discursului civic.
Referitor la protecția minorilor, Nicoleta Prutean susține că soluția nu constă în interzicerea accesului la rețelele sociale, ci în modificarea designului acestora. Ea menționează propunerea EU Kids Act, care vizează platformele și tehnologiile emergente, precum chatboturile, obligând companiile să fie sigure prin concepție. Din cauza stadiului de dezvoltare, copiii sunt cei mai vulnerabili la anumite funcții digitale, însă vulnerabilitatea umană este o problemă complexă care include și straturi de vulnerabilitate individuală sau situațională.
Discuțiile despre inteligența artificială la nivel european se concentrează intens pe echilibrul dintre inovare și protecția valorilor democratice. În prezent, Uniunea Europeană pune un accent deosebit pe reglementarea riscurilor sistemice și pe protecția datelor, încercând să creeze un cadru legislativ care să permită dezvoltarea tehnologiilor de frontieră fără a compromite drepturile fundamentale ale cetățenilor sau integritatea proceselor electorale.