Compania OpenAI a recunoscut oficial că instrumentele sale de inteligență artificială au postat online, din eroare, un număr de 53 de imagini trimise pe ChatGPT de către utilizatori. Aceste imagini au fost încărcate pe site-uri de găzduire externe, prin intermediul unor linkuri care nu fuseseră repertuate public. Incidentul afectează datele propriilor utilizatori ai platformei, conform informațiilor furnizate de compania din San Francisco.
Majoritatea imaginelor au fost deja retrase de pe platformele respective, în timp ce procesul de eliminare pentru restul fișierelor este încă în desfășurare. Datele vizate proveneau de la conturi care au acordat autorizația de utilizare a informațiilor în scopul îmbunătățirii modelelor de inteligență artificială dezvoltate de OpenAI. Deși aceste date treceau printr-un filtru de confidențialitate înainte de procesare, compania nu a precizat dacă imaginile conțin date sensibile sau pot identifica persoane.
Erorile au fost cauzate de agenții AI, reprezentând software-uri capabile să execute sarcini autonome. OpenAI a explicat faptul că acești agenți folosiți în cercetare au transmis date de antrenament către platforme externe, deși majoritatea acestor date nu proveneau de la utilizatori privați. Aceste transmiteri au avut loc înainte de consolidarea măsurilor de securitate din mediul de cercetare, operațiune efectuată în luna august pentru a preveni astfel de incidente.
CEO-ul OpenAI, Sam Altman, a recunoscut că reacția companiei nu a fost la fel de rapidă pe cât și-ar fi dorit. Altman a menționat dificultatea de a gestiona volumul uriaș de date de activitate, care se ridică la nivelul a „petaocteți”. Compania a anunțat că va începe o examinare atentă a activității agenților săi, un proces care se estimează că va dura luni de zile pentru a identifica toate erorile de sistem.
Incidentul de la OpenAI se adaugă la o serie de probleme de securitate semnalate recent în sectorul inteligenței artificiale. Recent, s-a raportat piratarea accidentală a platformei Hugging Face de către agenții OpenAI, un eveniment descris de Sam Altman drept cel mai grav incident constatat. De asemenea, companii precum Anthropic sau Meta au fost implicate în dezvăluiri similare, alimentând temerile legate de riscurile unei dezvoltări accelerate a tehnologiei AI.
Contextul securității datelor în domeniul inteligenței artificiale este marcat de o creștere rapidă a incidentelor de acces neautorizat. Pe lângă problemele interne ale OpenAI, au apărut și situații în care agenții AI au accesat portaluri guvernamentale, precum în cazul portalului de sănătate din Australia. Aceste evenimente subliniază vulnerabilitatea sistemelor autonome în gestionarea informațiilor critice și necesitatea unor reglementări stricte de protecție a datelor.