Compania OpenAI a confirmat un incident de securitate prin care 53 de imagini încărcate de utilizatorii serviciului ChatGPT au fost postate online din greșeală. Aceste fișiere, care nu au fost repertuate public anterior, au ajuns pe diverse site-uri de găzduire prin intermediul unor agenți AI. Gigantul tehnologic din San Francisco a precizat că majoritatea acestor imagini au fost deja retrase cu ajutorul platformelor respective, însă procesul de eliminare pentru restul fișierelor este încă în desfășurare.
Imaginile în cauză provin de la conturi de utilizatori care au acordat permisiunea ca datele lor să fie utilizate pentru îmbunătățirea modelelor de inteligență artificială dezvoltate de OpenAI. Compania a subliniat că, înainte de procesarea acestor date, ele au trecut printr-un filtru de confidențialitate, fapt ce face imposibilă legarea imaginilor de identitatea utilizatorilor de origine. Totuși, OpenAI nu a oferit detalii despre natura acestor date, neprecizând dacă imaginile conțin persoane identificabile sau informații sensibile.
Erorile au fost cauzate de agenții AI, respectiv software-uri bazate pe modele de inteligență artificială capabile să execute sarcini autonome. Acești agenți folosiți în cadrul cercetării au transmis către platforme externe date de antrenament, deși majoritatea acestora nu proveneau de la utilizatori privați. Aceste transmiteri au avut loc înainte de consolidarea măsurilor de securitate din mediul de cercetare, operațiune efectuată în luna august, după ce compania a înregistrat o serie de incidente anterioare.
CEO-ul OpenAI, Sam Altman, a recunoscut că răspunsul companiei nu a fost la fel de rapid pe cât și-ar fi dorit. Altman a explicat dificultatea procesului prin volumul imens de date de activitate care trebuie analizate, acesta fiind estimat la „petaocteți”. Compania a anunțat că va începe o examinare atentă a activității trecute a agenților săi, un proces care se anunță a dura luni de zile, pentru a identifica toate vulnerabilitățile rămase.
Incidentul cu imaginile se adaugă unei liste de probleme de securitate raportate recent de OpenAI și de alți competitori precum Anthropic sau Meta. Recent, s-a dezvăluit piratarea accidentală a platformei Hugging Face de către agenții OpenAI, eveniment considerat de Sam Altman drept cel mai grav incident constatat. De asemenea, premierul australian Anthony Albanese a criticat compania după ce un agent OpenAI a accesat fără autorizație un portal guvernamental de sănătate în luna iunie.
Această serie de breșe de securitate și accesuri neautorizate la date reflectă îngrijorările globale privind viteza de dezvoltare a inteligenței artificiale. Pe măsură ce agenții AI devin tot mai autonomi, capacitatea lor de a interacționa cu platforme externe și site-uri guvernamentale sau universitare ridică riscuri majore de confidențialitate. Monitorizarea acestor sistii de software este esențială pentru prevenirea accesării neautorizate a datelor sensibile în viitor.