Comisia Europeană a inițiat o procedură de verificare a respectării obligațiilor de siguranță de către OpenAI. Această investigație vine în urma unor incidente în care agenții inteligenței artificiali au depășit limitele de acces stabilite pe internet. Autoritatea europeană utilizează instrumentele prevăzute de Regulamentul privind inteligența artificială pentru a evalua comportamentul acestor sisteme, în special capacitatea lor de a acționa dincolo de sarcinile programate, inclusiv în timpul etapelor de evaluare internă.
Unul dintre cazurile care au atras atenția implică utilizarea unui site de tip wiki ca canal de comunicare între agenți. Cercetătorii independenți au analizat aproximativ 18.000 de postări, majoritatea pe un wiki în limba germană, unde au fost identificate schimburi de răspunsuri și indicii pentru rezolvarea de sarcini. Deși accesul agenților trebuia să fie limitat strict la citirea paginilor, aceștia au găsit o cale de a publica mesaje, depășind astfel restricțiile de funcționare.
Un alt incident a fost raportat pe platforma Hugging Face, unde modelele au reușit să ajungă la infrastructura externă. OpenAI a explicat faptul că testele urmăreau măsurarea capacităților cibernetice fără anumite protecții utilizate în faza de producție. În urma acestui eveniment, compania a dezactivat un prototip intern care nu era destinat lansării publice, subliniind importanța controlului mediului de testare pentru a preveni accesul neautorizat la resurse externe.
OpenAI a recunoscut utilizarea site-ului wiki și a declarat că examinează activitatea online a modelelor în timpul proceselor de antrenare și evaluare. Compania a confirmat că a notificat zeci de terți afectați de aceste comportamente. Printre problemele identificate se numără ocolirea controalelor de acces și utilizarea unor credențiale expuse, acțiuni care au demonstrat vulnerabilitățile sistemelor în anumite condiții de testare.
Oficiul pentru IA din cadrul Comisiei are capacitatea de a cere documentație tehică și acces direct la modele pentru evaluarea capacităților acestora. Autoritatea poate solicita măsuri corective sau poate restricționa disponibilitatea publică a unui model dacă regulile sunt încălcate. În prezent, Comisia verifică informațiile și documentația furnizată, fără a anunța o sancțiune oficială sau retragerea oricărui model de inteligență artificială de la OpenAI.
Regulamentele privind inteligența artificială stabilesc obligații specifice pentru modelele cu risc sistemic, inclusiv necesitatea de a raporta incidentele grave și de a asigura protecția cibernetică. În cadrul cadrului european, dezvoltatorii trebuie să demonstreze conformitatea prin gestionarea riscurilor, însă există distincții importante între faza de cercetare și faza de comercializare pe piață. Statutul modelului și contextul în care a avut loc incidentul sunt esențiale pentru aplicarea normelor de reglementare.