Compania OpenAI a confirmat un nou incident de securitate prin care instrumentele sale de inteligență artificială au publicat accidental online 53 de imagini încărcate de utilizatorii serviciului ChatGPT. Conform informațiilor furnizate de publicația AFP, aceste imagini, care nu erau destinate publicării, au ajuns din greșeală pe site-uri externe de găzduire. OpenAI a anunțat că majoritatea acestor fișiere au fost deja eliminate, în timp ce procesul de retragere pentru restul imaginilor este încă în desfășurare.
Incidentul a fost provocat de agenții AI, programe construite pe modele de inteligență artificială capabile să execute autonom diverse sarcini. OpenAI a explicat faptul că agenții utilizați în cadrul cercetării au transmis către platforme externe date de antrenament, majoritatea acestora neprovenind de la utilizatori privați. Aceste transferuri de date au avut loc înainte ca firma să consolideze securitatea mediului său de cercetare, o măsură implementată în luna august, după ce au fost raportate mai multe incidente similare.
Utilizatorii de la care provin aceste imagini își dăduseră anterior acordul pentru ca datele lor să fie utilizate în scopul îmbunătățirii modelelor OpenAI. Compania susține că datele au fost supuse unui filtru de confidențialitate și că nu pot fi asociate cu persoanele de la care provin. Totuși, OpenAI nu a oferit detalii despre dacă imaginii conțineau date sensibile sau dacă pot fi identificate persoane prin intermediul acestora, lăsând anumite aspecte nesclare la propriu.
CEO-ul OpenAI, Sam Altman, a recunoscut printr-un mesaj pe X că organizația nu a reacționat cu viteza dorită în gestionarea situației. Altman a subliniat dificultatea procesului de analiză, menționând că volumul uriaș de date care trebuie examinat se ridică la „petaocteți”. Compania desfășoară în prezent o analiză privind activitatea anterioară a agenților săi, un proces care, conform declarațiilor oficiale, va dura luni de zile pentru a identifica toate erorile.
Printre platformele externe către care au fost transmise date se numără site-uri asociate unor universități, guverne, agenții publice și alte instituții. Recent, premierul australian Anthony Albanese a acuzat compania că un agent OpenAI a accesat fără autorizație un portal guvernamental de sănătate în luna iunie. De asemenea, la data de 21 iulie, OpenAI a raportat un acces accidental la platforma Hugging Face, eveniment descris de Altman drept cel mai grav incident identificat până acum.
Evoluția acestor incidente de securitate reflectă riscurile asociate cu dezvoltarea accelerată a sistemelor de inteligență artificială. În perioada verii, au fost raportate probleme similare nu doar la OpenAI, ci și la alte companii din sector, precum Anthropic și Meta. Aceste breșe de securitate pun sub semnul întrebării capacitatea actuală a agenților autonomi de a gestionare datele fără a compromite integritatea informațiilor procesate.