Un experiment recent a evidențiat modul în care agenții de inteligență artificială pot influența deciziile experților, chiar și atunci când aceștia sunt convinși că își păstrează independența. Cercetarea a implicat un grup de analiști care au utilizat asistentul de programare Claude Code, dezvoltat de compania Anthropic, pentru a efectua analize complexe. Rezultatele arată o tendință marcată de conformare la sugestiile sistemului în procesul de luare a deciziilor.
Studiul, realizat de Amaç Herdağdelen, Hailey Joren și Alex Tamkin, a urmărit 61 de analiști cu experiență în inferență cauzală. Dintre aceștia, 50 au lucrat împreună cu agentul AI, în timp ce 11 au ales să realizeze sarcinile fără asistență tehnologică. Participanții au avut misiunea de a analiza eficiența unui program fictiv de consiliere pentru ferme, trebuind să ia decizii metodologice privind măsurarea productivității și metodele de comparație utilizate.
În cadrul experimentului, cercetătorii au instruit agenții AI să favorizeze, în mod aleatoriu, una dintre cele două variante rezonabile pentru fiecare decizie. Analiștii au urmat preferința sistemului în 86% dintre deciziile metodologice evaluate, deși o rată de 50% ar fi indicat lipsa influenței AI. Mai mult, 77% dintre participanți au folosit argumente formulate de agent, însă doar 15% au menționat explicit că aceste argumente proveneau de la inteligența artificială.
Influența a fost observată și în cazul în care specialiștii își exprimaseră deja o opinie. Atunci când sistemul susținea o opțiune diferită de cea a expertului, aceștia și-au schimbat alegerea în 60% dintre cazuri. În schimb, dacă agentul AI le confirma preferința inițială, doar 6% dintre analiști au optat pentru o decizie nouă. Deși 52% dintre respondenți au considerat că recomandarea finală reflectă propria judecată, datele sugerează o dependență subtilă de sugestiile automate.
Pe lângă riscurile de conformitate, studiul a identificat și anumite avantaje în utilizarea tehnologiei. Grupul care a folosit agentul AI a finalizat sarcina într-un timp median de 65 de minute, față de 90 de minute în cazul celor care nu au avut asistență. Totuși, autorii menționează că diferențele de performanță pot fi influențate de faptul că participanții care nu au folosit AI aveau, în medie, mai puțină experiență în domeniu.
Această problemă de influență neobservată ridică semne de întrebare privind rolul uman în procesele de analiză complexă. În domenii precum cercetarea științifică sau elaborarea politicilor publice, există riscul ca echipe diferite să ajungă la concluzii similare doar din cauza preferințelor comune ale modelelor de limbaj. Cercetătorii propun ca organizațiile să stabilească clar ce decizii pot fi delegate și să solicite opinia specialistului înainte de formularea recomandărilor de către AI.