Compania americană Anthropic, dezvoltatorul chatbotului Claude, a anunțat implementarea unor noi reguli care interzic comportamentele abuzive, repetate și nejustificate ale utilizatorilor față de sistemele sale de inteligență artificială. Această nouă politică, care se aplică exclusiv în cazuri extreme, permite întreruperea accesului la conversații pentru persoanele care manifestă un comportament considerat „crud”. Decizia a generat o dezbatere intensă privind modul corect de comunicare cu instrumentele de inteligență artificială generativă.
Noua listă de practici interzise include, pe lângă abuzurile față de modelele AI, hărțuirea altor persoane, promovarea autovătămării și crearea de imagini intime fără consimțământul persoanelor vizate. Anthropic a subliniat însă că această măsură nu este menită să sancționeze manifestările obișnuite de frustrare ale utilizatorilor, exprimarea dezacordului sau testarea modelelor prin teme creative întunecate. Compania vizează doar situațiile în care comportamentul abuziv este demonstrat ca fiind în mod evident deliberat, deși rămâne neclară definiția exactă pentru „comportament crud”.
Reacțiile din mediul online au fost extrem de diverse, unii utilizatori salutând măsura pentru că ar putea promova bunele maniere. Totuși, criticii au avertizat asupra riscurilor de antropomorfizare. dr. Barry Scannell, partener la firma de avocatură William Fry, a declarat pe LinkedIn că „nu poți fi crud cu numerele și matematica”, argumentând că această abordare îi determină pe oameni să creadă că AI este ceva ce, în realitate, nu este. Similar, Mustafa Suleyman, director la Microsoft, a reacționat prin critică la această actualizare a politicii.
Modificările au fost introduse în urma unei revizuiri anuale a politicii de utilizare, vizând și alte riscuri emergente. Anthropic a interzis utilizarea Claude pentru campanii înșelătoare și a clarificat faptul că instrumentul nu poate fi folosit pentru a induce în eroare alegătorii sau pentru a perturba alegerile, în contextul alegerilor de la jumătatea mandatului din Statele Unite. De asemenea, compania a precizat că politica sa interzicea deja utilizarea instrumentelor pentru dezvoltarea armelor, însă nicio altă schimbare nu a atras atenția publicului la fel de mult.
Dezbaterea privind politețea în fața AI implică și aspecte tehnice legate de consumul de resurse. Unii experți susțin că utilizarea unor formule precum „te rog” sau „mulțumesc” este inutilă și consumă tokenuri, unitățile de text folosite de modelele lingvistice mari pentru procesare. Sam Altman, directorul general al OpenAI, a menționat anterior că utilizarea acestor cuvinte poate genera costuri de zeci de milioane de dolari. Totodată, unii specialiști avertizează că utilizarea unui limbaj agresiv cu AI ar putea influența, pe termen lung, relațiile interumane.
Interacțiunea cu modelele de limbaj mari reprezintă un domeniu în continuă evoluție, unde limitele dintre utilitate și etică sunt adesea testate de utilizatori. În timp ce tehnologia avansează rapid, cadrul de reglementare și politicile de utilizare ale companiilor de tehnologie precum Anthropic sau OpenAI încearcă să gestioneze riscurile de manipulare și abuz, adaptându-se constant la noile moduri de interacțiune uman-mașină.