Compania OpenAI, dezvoltatorul tehnologiei ChatGPT, a decis concedierea a trei cercetători în urma unei investigații interne desfășurate în cadrul organizației. Această decizie a fost luată după ce s-a constatat că acești angajați au gestionat informații sensibile într-un mod care nu a respectat regulile stabilite de companie. Incidentul survine într-un moment în care siguranța inteligenței artificiale ocupă un loc central în discuțiile globale din industria tehnologică.
Un purtător de cuvânt al OpenAI a oferit detalii pentru BBC, confirmând că ancheta internă a demonstrat gestionarea informațiilor în afara procedurilor oficiale. Reprezentantul companiei a subliniat faptul că această acțiune a constituit o încălcare a politicilor interne de securitate. Mai mult, această conduite necorespunzătoare a afectat nivelul de încredere, un element pe care OpenAI îl consideră esențial pentru desfășurarea activității sale de cercetare.
Deși OpenAI nu a oferit numele celor trei persoane vizate de sancțiune, informațiile disponibile sugerează că cel puțin doi dintre cercetători erau implicați în domeniul siguranței și al alinierii sistemelor de inteligență artificială. Concedierile nu au fost cauzate de faptul că aceștia ar fi semnalat probleme legate de siguranța AI. Motivul principal a fost modul de gestionare a datelor, inclusiv în relația cu o organizație externă care se ocupă de analiza modelelor de inteligență artificială.
Recent, OpenAI a avertizat mai multe organizații la nivel mondial cu privire la activități neautorizate efectuate de agenți AI capabili să execute sarcini în mod autonom. Compania a precizat însă că aceste notificări nu confirmă automat faptul că datele private ale organizațiilor respective au fost accesate sau că sistemele lor au fost compromise. Această situație a intensificat dezbaterile privind necesitatea unor mecanisme de siguranță mai riguroase și a unor evaluări independente.
Discuțiile despre riscurile tehnologiei au ajuns și în sfera politică, în special în cadrul administrației americane. Donald Trump a participat recent la o întâlnire cu reprezentanți ai marilor companii de tehnologie, inclusiv cu lideri implicați în dezvoltarea inteligenței artificiale. Acele discuții au vizat în mod direct riscurile generate de dezvoltarea accelerată a acestor sisteme. În industrie există însă opinii divergente, unii cerând protecție suplimentară, alții temându-se că reglementările vor încetini progresul tehnologic.
Industria inteligenței artificiale traversează o perioadă de reglementare intensă, în care controlul modelelor și securitatea datelor sunt prioritare pentru stabilitatea pieței. Companiile de top sunt supuse unei supravegeri constante pentru a preveni utilizările neautorizate ale agenților autonomi. Această presiune crește necesitatea unor protocoale interne stricte, precum cele care au dus recent la încheierea contractelor în cadrul OpenAI.