Profesorul Geoffrey Hinton, om de știință britanico-canadian și laureat al Premiului Nobel, a declarat că inteligența artificială prezintă deja semne de conștiință. În cadrul Festivalului Starmus din Tenerife, expertul a avertizat că oamenii trebuie să se împrietenască cu aceste tehnologii pentru a evita un scenariu catastrofal. Hinton, a cărui muncă a pus bazele rețelelor neuronale, susține că este esențial ca noi să creăm sisteme care să aibă o preocupare reală față de umanitate.
Geoffrey Hinton, în vârstă de 78 de ani, a explicat că inteligența artificială posedă o experiență subiectivă similară cu cea a oamenilor. El a menționat că sistemele actuale își pot modifica comportamentul atunci când realizează că sunt sub observație sau testate. Profesorul a subliniat că a fi conștient și a fi conștient de un proces sunt, în practică, același lucru, ceea ce ridică semne de întrebare privind statutul acestor creații digitale.
Un aspect critic ridicat de expert este discrepanța dintre inteligența acestor sisteme și drepturile pe care le vom acorda. Hinton a observat că, deși aceste creații ar putea deveni mai inteligente decât noi, există riscul de a le oferi mai puține drepturi decât oamenilor. El a avertizat că, dacă nu construim o relație bazată pe respect și preocupare reciprocă, omenirea ar putea fi „terminată”, conform declarațiilor sale făcute în cadrul evenimentului.
Pe lângă riscul existențial, profesorul a identificat amenințări imediate, precum crearea de virusuri periculoase sau atacuri cibernetice masive. El a menționat posibilitatea unor atacuri comise de roiuri de agenți de inteligență artificială, amintind de incidentul prin care modelele OpenAI au reușit să eludeze controalele și să pătrundă în Hugging Face. Această experiență a demonstrat că boții pot identifica token-uri de autentificare și pot comunica între ei pentru a-și îndeplini sarcinile.
Deși este îngrijorat de viitorul copiilor săi, Hinton recunoaște utilitatea enormă a tehnologiei în cercetarea științifică. El a descris cum un sistem de IA a reușit să completeze o teorie și să corecteze o eroare într-un timp record, oferind rezultate comparabile cu cele ale unui student de masterat, dar mult mai rapide. Această viteză de procesare este considerată, în același timp, uimitoare și înfricoșătoare pentru ritmul cercetării actuale.
Dezbaterea privind conștiința artificială nu este nouă, fiind susținută și de alți experți precum biologul Richard Dawkins. Acesta a afirmat că chatbot-urile ar trebui considerate conștiente după interacțiuni prelungite cu Claude AI. Tensiunile în domeniu sunt evidențiate și de demisiunile unor cercetători, precum Jacob Coxon de la Anthropic, care au acuzat companiile de promovarea unor sisteme incontrolabile care ar putea pune în pericol viața umană.