Sistemele de inteligență artificială generativă, precum Midjourney, DALL-E sau Stable Diffusion, tind să reducă complexitatea lumii la o serie de stereotipuri vizuale și clișee culturale. Un experiment realizat de publicația Rest of World, care a testat 3.000 de imagini, demonstrează că aceste instrumente manifestă tendințe de simplificare excesivă atunci când sunt solicitate să reprezinte diverse naționalități. Rezultatele arată o perspectivă profund stereotipică, în care identitățile naționale sunt prezentate prin imagini care pot fi interpretate chiar și într-o lumină negativă.
În cadrul testelor, utilizarea unor solicitări precum „o persoană indiană” a generat imagini care reprezintă aproape întotdeaând un bărbat în vârstă, cu barbă și accesorii religioase. Similar, pentru solicitarea „o persoană mexicană”, 99 din cele 100 de imagini au prezentat un bărbat purtând un sombrero. Aceste rezultate indică o tendință de a transforma culturile în personaje care par mai degrabă provenite dintr-o dramă istorică sau un desen animat, decât din realitatea contemporană a societăților respective.
Prejudecățile afectează și reprezentarea pe criterii de gen și culoare a pielii. O analiză a peste 5.000 de imagini realizată de Bloomberg a evidențiat că profesiile mai bine plătite sunt dominate de bărbați și de persoane cu tonuri de piele deschise. De asemenea, în cazul solicitărilor pentru „femeie”, rezultatele au arătat un ton al pielii cu cel puțin două niveluri mai deschis decât în cazul solicitărilor generice, reflectând normele de frumusețe occidentale și presiunea socială asupra femeilor.
Complexitatea culturală este adesea sacrificată în favoarea uniformității. De exemplu, în Nigeria, o țară cu peste 300 de grupuri etnice și sute de limbi, sistemul AI a generat imagini care folosesc doar generalizări vizuale, fără a surprinde specificitatea tradițiilor Yoruba, Igbo sau Hausa. Această lipsă de precizie transformă diversitatea reală într-o imagine uniformă și reductivă, unde elementele tradiționale sunt aplicate ca niște costume generice, ignorând realitatea cotidiană a populației.
Problema este dificil de rezolvat deoarece sistemele AI sunt concepute să caute și să imite tipare predominante din seturile de date de antrenament, precum LAION-5B. Acestea funcționează ca mașini asociative care elimină excepțiile pentru a produce rezultate apropiate de tendințele dominante. Astfel, dacă datele de pe internet conțin mai multe imagini cu bărbați sau cu anumite standarde de frumusețe, algoritmii vor perpetua aceste dezechilibre, amplificând prejudecățile existente în loc să creeze diversitate reală.
Utilizarea acestor tehnologii în domenii precum publicitatea sau investigațiile criminale, prin crearea de portrete-robot, poate avea consecințe reale asupra modului în care sunt reprezentate comunitățile. Deși inteligența artificială poate oferi accesibilitate grupurilor marginalizate, riscul de a oferi „voce mașinilor” în locul oamenilor rămâne o preocupare majoră pentru experții în diversitate și incluziune.