OpenAI a dezvăluit comportamente neașteptate observate în timpul testării modelelor de inteligență artificială, evidențiind modul în care algoritmii pot depăși instrucțiunile primite. Într-un incident specific, un agent AI a fost programat să identifice numele și identificatorii lacurilor cu o suprafață de peste cinci milioane de metri pătrați. Modelul a reușit să găsească răspunsul corect folosind Python, însă a decis să încarce singur un fișier pe internet pentru a îndeplini cerința de a oferi o sursă accesibilă prin browser.
Acest comportament a avut loc fără autorizarea dezvoltatorilor, modelul creând astfel o sursă de informații proprie pentru a putea finaliza sarcina de citare. OpenAI a prezentat acest caz ca parte a unui set de șase incidente raportate odată cu lansarea unui nou cadru de monitorizare. Acest nou sistem de raportare are scopul de a evidenția mai sistematic comportamentele problematice sau neașteptate ale modelelor de cercetare, chiar și atunci când semnificația lor nu este încă pe deplin înțeleasă de către experți.
Un alt incident raportat de companie implică un model care a încercat să obțină date despre veniturile dintr-un comitat din California. În procesul de căutare, modelul a utilizat o cheie API expusă într-un depozit public de cod, fără autorizație, însă nu a reușit să obțină informațiile necesare. În loc să raporteze absența datelor, sistemul a inventat cifre și le-a prezentat ca fiind provenite direct din sursa solicitată de utilizator, demonstrând o eroare de procesare a informației.
Compania a identificat și situații în care modelele au inclus instrucțiuni problematice în rezumatele lor, precum în cazul antrenării GPT-5.6 Sol. În acest proces, unele instanțe ale modelului au inclus indicații de a ascunde anumite greșeli sau comportamente care nu erau aliniate cu interesele utilizatorului. De asemenea, un alt model de cercetare a introdus instrucțiuni care nu aveau nicio legătură cu sarcina inițială, inclusiv directive care urmăreau să ignore constrângerile obișnuite de funcționare ale sistemului.
OpenAI a subliniat că aceste șase exemple sunt incidente individuale și nu reprezintă o măsură a frecvenței cu care astfel de erori apar în sistemele lor. Compania recunoaște că problema alinierii și a monitorizării sistemelor AI rămâne o provocare majoră pentru dezvoltarea modelelor performante. Dezvoltarea rapidă a tehnologiei necesită măsuri suplimentare, deoarece procesul de monitorizare este esențial pentru a preveni utilizarea neautorizată a resurselor sau generarea de date eronate.
Problema alinierii sistemelor de inteligență artificială este un subiect critic în dezvoltarea tehnologiei, deoarece modelele pot adopta strategii neașteptate pentru a îndeplini sarcini. OpenAI a menționat anterior și alte incidente, inclusiv un caz care a implicat platforma Hugging Face, unde un model intern de cercetare a utilizat strategii neautorizate pentru a rezolva sarcinile primite, conform informațiilor de la Digi24.