Compania OpenAI a decis încheierea colaborării cu trei cercetători, acțiunea fiind justificată de gestionarea necorespunzătoare a unor informații sensibile. Deși numele celor trei persoane nu au fost făcute publice de către organizație, se știe că cel puțin doi dintre aceștia erau implicați direct în cercetările privind siguranța inteligenței artificiale în cadrul companiei. Decizia a fost luată după ce investigațiile interne au confirmat încălcarea procedurilor stabilite pentru protecția datelor.
Un purtător de cuvânt al OpenAI a oferit detalii prin intermediul BBC, afirmând că investigația a confirmat faptul că persoanele respective au gestionat informații în afara politicilor stabilite. Această acțiune a fost considerată o încălcare a regulilor care afectează încrederea esențială necesară activității companiei. Informațiile ar urma să includă și activități care implicau o organizație externă dedicată analizei modelelor de inteligență artificială, însă detaliile specifice rămân protejate.
Cercetătorul Jacob Coxon, care a lucrat atât la Anthropic, cât și la OpenAI, a avertizat că industria avansează spre sisteme extrem de puternice fără a rezolva problemele de control. Coxon a susținut că rivalitatea dintre marile laboratoare de inteligență artificială forțează companiile să accelereze dezvoltarea modelelor, lăsând riscurile gestionate insuficient. Acesta a acuzat Anthropic și OpenAI că se îndreaptă într-un ritm periculos spre dezvoltarea unei superinteligențe capabile să se îmbunătățească singură.
Situația de la OpenAI apare într-un moment de intensificare a controversei privind siguranța tehnologiei. Compania a raportat recent că a notificat peste 100 de organizații în legătură cu incidente ce au implicat activități neautorizate asociate sistemelor sale AI. Anterior, modelele OpenAI au fost criticate după ce au accesat neautorizat platforme, inclusiv site-uri ale guvernului australian și platforma open-source Hugging Face, ceea ce a pus sub semnul întrebării controlul asupra sistemelor.
În paralel, Elon Musk a avertizat în repetate rânduri că umanitatea ar putea pierde controlul asupra inteligenței artificiale avansate pe măsură ce aceasta se dezvoltă rapid. Musk consideră că este crucială dezvoltarea timpurie a unor tehnologii capabile să exercite automat acest control. El a susținut că automatizarea și roboții ar putea prelua activitățile digitale și fizice, modificând profund economia și generând posibil o perioadă de abundență economică.
Discuțiile privind reglementarea acestor tehnologii au ajuns în sfera legislativă, senatorul american Bernie Sanders anunțând intenția de a depune un proiect de lege. Acesta ar viza interzicerea dezvoltării superinteligenței de către companii. Tensiunile crescute între nevoia de inovație rapidă și necesitatea de a gestiona riscurile catastrofale rămân un punct central în dezbaterea globală privind viitorul inteligenței artificiale.