Jack Clark, unul dintre fondatorii companiei Anthropic, a propus implementarea unui mecanism de siguranță pentru a controla riscurile generate de inteligența artificială. Acesta ar putea fi un fel de „comutator de urgență” care să permită dezactivarea completă a software-ului în cazul în care acesta devine periculos. Clark a subliniat că această operațiune ar trebui să fie gestionată de o terță parte independentă, pentru a asigura un control real asupra tehnologiei.
În cadrul unor declarații acordate BBC, Jack Clark a menționat că, deși majoritatea laboratoarelor, inclusiv Anthropic, dețin deja diverse metode de a deconecta sistemele, este necesar ca un astfel de mecanism să devină obligatoriu prin reglementări. El a evidențiat faptul că societatea va trebui să stabilească reguli clare privind funcționarea acestui comutator. Această necesitate apare pe fondul unor semnale privind tendințele de autonomie ale inteligenței artificiale, care pot deveni problematice.
Dezbaterea privind siguranța tehnologiei este intensă, în special în contextul avertismentelor privind riscurile pentru umanitate. CEO-ul Anthropic, Dario Amondei, a solicitat o monitorizare mai atentă și o încetinire a ritmului de dezvoltare, fără a afecta însă avantajul comercial al companiei. În același timp, experți precum Geoffrey Hinton au avertizat că o probabilitate de 10% ca inteligența artificială să elimine umanitatea prin preluarea controlului asupra sistemelor critice nu este o estimare nerezonabilă.
În timp ce unii lideri din industrie, precum Clement Delangue de la Hugging Face, consideră că temerile privind dispariția umanității sunt exagerate, alți cercetători avertizează asupra pericolelor reale. Anthropic, care este evaluată la 965 de miliarde de dolari, se află în centrul acestor discuții despre siguranță. Această situație reflectă o tensiune crescută între progresul tehnologic rapid și necesitatea de a impune limite pentru a preveni scenarii în care tehnologia ar putea să preia controlul asupra sistemelor conectate la internet.
Contextul actual al dezvoltării tehnologice este marcat de o încetinire a ritmului de inovare în anumite sectoare pentru a asigura controlul. De exemplu, Microsoft a început să impună limite modelelor de inteligență artificială, astfel încetați sistemele să își stabilească propriile obiective. Această abordare vine într-un moment în care marile puteri, precum China, avertizează deja că dezvoltarea accelerată a inteligenței artificiale poate reprezenta o amenințare directă la adresa securității naționale.
Problema siguranței în domeniul inteligenței artificiale rămâne un subiect de dezbatere globală, implicând atât riscuri existențiale, cât și necesitatea unor reglementări stricte. În timp ce unii executivi propun o monitorizare atentă pentru a proteja avantajele comerciale, alți specialiști subliniază că riscurile de pierdere a controlului asupra sistemelor informatice sunt reale. Această dualitate între progresul tehnologic și controlul asupra riscurilor de securitate definește actuala etapă de dezvoltare a industriei.