Compania Anthropic, dezvoltatorul chatbotului Claude, a anunțat joi o actualizare a politicii sale de utilizare, introducând interdicția comportamentelor abuzive „susținute și inutile” față de sistemele sale de inteligență artificială. Noile reguli permit instrumentelor companiei să întrerupă interacțiunile în cazul în care utilizatorii manifestă în mod repetat și deliberat o atitudine considerată crudă. Această decizie vine în urma unei revizuiri anuale a politicilor interne, completând lista de comportamente deja interzise de Anthropic.
Lista de activități restricționate include deja hărțuirea altor persoane, promovarea autovătămării sau crearea de imagini intime fără consimțământ. Anthropic a subliniat însă că noile prevederi vizează exclusiv cazurile extreme de abuz repetat. Compania a precizat că nu vor fi vizate manifestările obișnuite de frustrare ale utilizatorilor, precum respingerea răspunsurilor oferite de chatbot, temele creative întunecate sau activitățile de testare și cercetare a modelelor lingvistice.
Actualizarea politicii include și măsuri pentru combaterea riscurilor emergente, precum interzicerea utilizării lui Claude în campanii înșelătoare. Anthropic a clarificat faptul că instrumentul nu poate fi folosit pentru inducerea în eroare a alegătorilor sau pentru perturbarea proceselor electorale, având în vedere contextul alegerilor intermediare din Statele Unite. De asemenea, compania a reafirmat că politica sa interzice deja utilizarea tehnologiei pentru dezvoltarea de arme.
Reacțiile asupra noilor reguli au fost diverse, generând dezbateri pe rețelele de socializare între cei care susțin promovarea bunelor maniere și cei care critică decizia. Barry Scannell, partener la firma William Fry, a avertizat asupra riscului de a atribui inteligenței artificiale caracteristici umane, afirmând că nu poți fi crud cu numerele și matematica. Totodată, Mustafa Suleyman de la Microsoft a reacționat prin intermediul unui emoji, după ce anterior criticase tendința de a trata inteligența artificială ca pe o ființă umană.
Discuția privind modul de comunicare cu sistemele de inteligență artificială generativă a reaprins și tema utilizării limbajului politicos. În timp ce unii experți consideră că formule precum „vă rog” sau „mulțumesc” sunt inutile și consumă token-uri, resurse esențiale pentru procesare, alții susțin că politețea poate îmbunătăți calitatea răspunsurilor. Sam Altman, directorul OpenAI, a menționat anterior că utilizarea mesajelor politicoase reprezintă o cheltuială de zeci de milioane de dolari, dar considerată o investiție bine făcută.
Evoluția acestor tehnologii de inteligență artificială generativă marchează o perioadă de transformare rapidă a interacțiunii om-mașină. Pe măsură ce modelele lingvistice devin tot mai complexe, societatea și reglementatorii caută modalități de a defini limitele etice și comportamentale. Dezbaterea actuală privind „cruditatea” față de algoritmi reflectă tensiunea dintre utilitatea tehnică a instrumentelor și tendința umană de a antropomorfiza sistemele digitale pe care le utilizăm zilnic.