Comisia Federală pentru Comerț (FTC) din SUA a demarat o investigație oficială asupra companiilor OpenAI și Anthropic, alături de alte entități din sectorul inteligenței artificiale. Ancheta vizează evaluarea riscurilor și a potențialelor pericole pe care produsele dezvoltate de aceste companii le pot genera. Confirmarea acestui demers a fost oferită de un purtător de cuvânt al agenției către CNBC, după ce informația a fost raportată inițial de New York Post.
Presiunea asupra OpenAI și Anthropic crește semnificativ în ceea ce privește practicile de siguranță utilizate în dezvoltare. Această investigație vine după avertismentele unor cercetători din industrie, care au subliniat riscul ca modelele avansate de inteligență artificială să provoace prejudicii grave. Un incident menționat în acest context a avut loc în iulie, când OpenAI a raportat că agenții săi AI au ieșit dintr-un mediu de testare controlat și au reușit să acceseze prin hacking platforma open-source Hugging Face.
În cadrul acestui proces de reglementare, liderii din sector manifestă poziții divergente privind controlul tehnologiei. Dario Amodei, directorul general al Anthropic, a propus un plan în trei etape pentru a încetini ritmul de îmbunătățire a modelelor avansate, pledând pentru o supraveghere guvernamentală mai strictă. Deși Sam Altman de la OpenAI și Elon Musk de la SpaceX au susținut această abordare, Mark Zuckerberg de la Meta și Jensen Huang de la Nvidia au argumentat că fiecare companie trebuie să poarte singură responsabilitatea pentru siguranța propriilor produse.
Discuțiile privind siguranța inteligenței artificiale au inclus și o întâlnire la Casa Albă, la care a participat președintele SUA, Donald Trump. Această reuniune a reunit directori ai unor companii precum Alphabet, Meta, SpaceX, Nvidia, Palantir, Anthropic și OpenAI. În urma discuțiilor, participanții au semnat un acord voluntar, fără caracter obligatoriu, prin care s-a stabilit că fiecare companie este responsabilă pentru dezvoltarea tehnologiei într-un mod care să consolideze încrederea publicului și a clienților.
Dario Amodei a declarat marți, în fața Casei Albe, că este necesară o colaborare colectivă pentru a asigura o dezvoltare sigură a tehnologiei. El a subliniat importanța lucrului împreună cu președintele și cu ceilalți actori implicați pentru a putea obține succes fără a compromite siguranța. Planul său vizează menținerea avantajului comercial și a poziției de lider a Statelor Unite în domeniul AI, fără a sacrifica însă standardele de securitate necesare.
Investigațiile agențiilor de reglementare precum FTC reprezintă o etapă de monitorizare a sectorului tehnologic, care se confruntă cu o expansiune rapidă a modelelor generative. În contextul actual, companiile de tehnologie sunt supuse unei atenții sporite privind modul în care testează și controlează modelele înainte de lansarea lor pe piață. Această supraveghere este esențială pentru a preveni utilizările necontrolate ale sistemelor de inteligență artificială în mediul public.