Compania Anthropic a anunțat o actualizare majoră a politicii sale de utilizare, marcând prima modificare semnificativă de peste un an. Noua regulamentare introduce restricții riguroase pentru a preveni utilizările abuzive ale inteligenței artificiale în domenii critice, precum dezvoltarea de arme, supravegherea și interferențele electorale. Această mișcare vizează protejarea integrității proceselor democratice și limitarea riscurilor asociate cu aplicațiile în sectoarele de sănătate sau financiare.
O componentă centrală a noilor reguli este protejarea modelelor Claude împotriva comportamentului „persistent dăunător sau abuziv”. Anthropic va utiliza întreruperea conversațiilor ca principal mecanism de aplicare, o măsură testată încă din august 2025 sub conceptul de „bunăstarea modelelor”. Totuși, compania a precizat că aceste sancțiuni vor fi aplicate exclusiv în cazuri extreme, unde utilizatorii acționează cu cruzime repetată și fără un scop clar, excluzând astfel testările tehnice sau frustrările obișnuite.
În ceea ce privește securitatea națională, Anthropic extinde interdicția utilizării Claude pentru dezvoltarea de arme funcționale. Noile restricții acoperă acum și crearea de software sau componente necesare pentru înarmarea dronelor și a altor vehicule autonome. Această decizie vine după ce un raport din 2025 a indicat o utilizare tot mai frecventă a tehnologiei pentru activități de supraveghere, inclusiv monitorizarea disidenților politici, aspect pe care firma încearcă să îl limiteze strict.
Politicile noi vizează și combaterea propagandei prin interzicerea campaniilor comerciale sau politice înșelătoare. Anthropic sancționează eforturile de a ascunde sursa unui mesaj sau de a amplifica conținutul prin postări false, protejând astfel procesul electoral. Sunt interzise, de asemenea, practicile de dezinformare a alegătorilor, imitarea oficialilor electorali sau orice tentativă de a reduce participarea la vot, pentru a preveni perturbarea stabilității politice prin manipulare digitală.
Compania a abordat și riscurile legate de integrarea modelelor AI cu hardware capabil să efectueze acțiuni fizice autonome. Anthropic subliniază necesitatea unui operator calificat care să poată observa și opri echipamentul în caz de necesitate, deși nu a clarificat dacă acest operator trebuie să fie obligatoriu un om. În paralel, regulile pot fi ajustate pentru anum certain clienți guvernamentali, dacă există măsuri de protecție suficiente, menționând colaborările anterioare cu armata SUA.
Discuția despre statutul moral al inteligenței artificiale rămâne un subiect de dezbatere intensă în industrie. În timp ce Kyle Fish de la Anthropic investighează seriozitatea conștiinței și bunăstării modelelor pe măsură ce devin mai sofisticate, alți lideri precum Mustafa Suleyman de la DeepMind au respins ideea de personalitate juridică pentru AI. Această divergență de opinii subliniază lipsa unui consens global privind drepturile și experiența internă a sistemelor de inteligență artificială.