Istoricul Yuval Noah Harari avertizează asupra unui viitor în care inteligența artificială va stabili reguli pe care oamenii nu vor mai avea capacitatea de a le înțelege. Într-un interviu acordat lui Daniel Stach în cadrul emisiunii Hyde Park Civilizace, difuzată de televiziunea publică cehă, autorul cărții „Sapiens” a folosit o metaforă dură pentru a descrie posibila relație dintre umanitate și tehnologie. El a afirmat că oamenii ar putea deveni „vacile viitorului”, fiind victimele unor sisteme invizibile.
Comparația cu animalele de la fermă se referă la faptul că o vacă poate vedea persoana care o hrănește, însă nu poate percepe tranzacția bancară prin care își schimbă proprietarul. În același mod, Yuval Noah Harari consideră că viața noastră ar putea fi determinată de sisteme economice și juridice care rămân complet opace pentru percepția umană. Această evoluție descrie riscul de a pierde capacitatea de a înțelege cine decide și cum funcționează mecanismele care ne guvernează existența.
O distincție fundamentală stabilită de autor este trecerea de la tehnologia care servește ca instrument la cea care acționează ca un agent autonom. Spre deosebire de tehnologiile anterioare, care luau decizii doar la îndemâna oamenilor, inteligența artificială are capacitatea de a lua decizii proprii și de a genera idei noi. Harari menționează că, spre deosebire de bomba atomică sau tipografia, care necesită decizia umană pentru utilizare sau pentru alegerea conținutului, inteligența artificială poate crea conținut și poate alege singură ce idei să disemineze.
Scenariul prezentat de istoricul nu presupune apariția unor roboți pe străzi, ci o transformare a modului în care funcționează birocrația și administrația. Sistemele create de inteligența artificială ar putea deveni atât de complexe în următorii zece sau douăzeci de ani, încât oamenii vor pierde orice posibilitate de intervenție. Dependența de aceste mecanisme administrative și de reguli automate va crește, în timp ce capacitatea noastră de a înțelege procesele de decizie va scădea drastic.
Problema responsabilității și a democrației este centrală în analiza lui Yuval Noah Harari, oferind exemple de decizii algoritmice care nu pot fi explicate. El subliniază că, în situațiile în care un algoritm respinge un credit bancar fără a putea oferi o explicație, dreptul cetățeanului de a pune la îndoială decizia este compromis. Deși proiectarea și controlul sistemelor rămân în prezent o responsabilitate umană, există riscul ca societatea să piardă controlul înainte de a realiza că regulile jocului s-au schimbat.
Discuțiile despre impactul tehnologiei asupra structurilor sociale și politice se încadrează într-un context global de transformare rapidă a modului în care instituțiile funcționează. Evoluția digitală afectează nu doar economia, ci și modul în care cetățenii interacționează cu autoritatea și cu procesele de decizie administrativă, generând noi provocări pentru stabilitatea sistemelor juridice și democratice existente.