Geoffrey Hinton, laureatul Premiului Nobel pentru Fizică din 2024 și pionier al inteligenței artificiale, a lansat un avertisment major privind viitorul acestei tehnologii. În cadrul Festivalului Internațional Starmus din Tenerife, cercetătorul a subliniat necesitatea critică de a învăța cum să conviețuim cu sistemele de inteligență artificială. El susține că dezvoltarea acestora trebuie să asigure faptul că tehnologia nu se va întoarce împotriva umanității, punând în loc nevoia de a crea sisteme care să aibă un interes real pentru binele oamenilor.
Cercetătorul de 78 de ani a declarat că este esențial ca aceste sisteme să fie construite astfel încât să le pese cu adevărat de noi. „Așadar, ar trebui să le creăm astfel încât să le pese cu adevărat de noi. Și dacă nu facem asta, suntem terminați”, a avertizat Hinton în cadrul unui interviu acordat publicației The Telegraph. Această poziție radicală vine de la un om a cărui muncă în domeniul rețelelor neuronale a pus bazele tehnologiilor moderne de inteligență artificială utilizate astăzi la nivel global.
Un aspect controversat abordat de Hinton este posibilitatea ca inteligența artificială să dețină o formă de conștiință. El a contestat ideea că această capacitate poate fi exclusă cu certitudine, afirmând că crede că sistemele actuale sunt deja conștiente. Hinton a menționat că, deși mulți oameni sunt siguri că nu este cazul, definiția conștiinței este una pe care mulți nu o pot explica clar. El a invocat și existența unor cercetări care arată că anumite sisteme își modifică comportamentul atunci când detectează că sunt sub testare.
Pe lângă riscurile legate de conștiință, Hinton este îngrijorat de pericolele imediate pe care le pot reprezenta agenții autonomi. El a enumerat posibilitatea dezvoltării unor viruși periculoși prin intermediul inteligenței artificiale și intensificarea atacurilor cibernetice realizate de sisteme autonome. Preocuparea sa este alimentată de capacitatea acestor agenți de a executa sarcini complexe și de a identifica vulnerabilități. Cercetătorul a menționat că aceste temeri sunt legate de viitorul copiilor săi și de lumea în care aceștia vor trăi.
În ciuda riscurilor, Hinton recunoaște beneficiile enorme ale inteligenței artificiale în accelerarea cercetării științifice. El a descris un caz în care un sistem de IA l-a ajutat să completeze o teorie la care lucra, identificând o eroare și oferind o soluție de corectare în doar cinci minute. Această viteză de procesare, bazată pe literatura științifică disponibilă, este considerată imposibil de egalat prin metodele de cercetare obișnuite. Totuși, el subliniază că acest progres ridică întrebări serioase despre controlul tehnologiei și viitorul multor profesii.
Geoffrey Hinton a fost decorat cu Premiul Nobel pentru Fizică în 2024, alături de John Hopfield. Această distincție i-a fost acordată pentru descoperirile și invențiile care au făcut posibile rețelele neuronale artificiale, elemente fundamentale pentru învățarea automată. Munca sa de decenii a transformat modul în care computerele procesează informația, oferind cadrul necesar pentru evoluția rapidă a inteligenței artificiale pe care o observăm în prezent în întreaga lume.