OpenAI a anunțat în urma unor investigații interne închiderea a două operațiuni de influență cu origini în Rusia și Iran. Aceste campanii utilizau tehnologia ChatGPT pentru a crea profiluri de jurnaliști fictivi, scopul principal fiind răspândirea propagandei legate de războiul din Ucraina și de conflictul dintre SUA și Iran. Conform informațiilor furnizate de Euronews, aceste activități au vizat manipularea percepției publice prin intermediul unor articole și comentarii strategice.
Operațiunea identificată ca fiind de origine iraniană a implicat șapte profiluri false de jurnaliști care pretindeau că provin din țări occidentale, inclusiv din Statele Unite. Acești utilizatori au publicat aproape 100 de articole în aproximativ o duzină de instituții media online, axate pe geopolitică, afaceri internaționale și Orientul Mijlociu. Activitatea acestora s-a intensificat după izbucnirea conflictului dintre SUA și Iran de la începutul acestui an, generând și comentarii pe rețelele sociale.
Unul dintre profilurile false, identificat sub numele de Ervin B. Hoskins, se prezenta ca un scriitor independent american. Acesta deținea conturi pe platforme precum X și Instagram, însă datele de transparență ale acestora au indicat conexiuni cu o aplicație Android din Asia de Vest, respectiv cu Iranul. OpenAI a furnizat capturi de ecran care demonstrează modul în care aceste identități de fațadă au fost construite pentru a părea autentice în spațiul digital.
În ceea ce privește operațiunea rusă, aceasta a utilizat persoane din America Latină pentru a gestiona un grup de experți numit Centrul de Cercetare Socială (SRC). OpenAI a declarat că organizația era implicată în activități secrete menite să afecteze imaginea Ucrainei și să influențeze politica locală. Deși angajații cooptați din America Latină au fost folosiți, dovezile indică faptul că aceștia nu știau că lucrează pentru un grup rusesc.
Operatorii SRC au folosit ChatGPT pentru redactarea rapoartelor interne, producerea de conținut, evaluarea activității organizației și pregătirea postărilor pentru rețelele sociale. Printre exemplele identificate se numără mesaje care urmăreau să alimenteze diviziunile din Polonia privind sprijinul pentru Ucraina, menționând propunerea europarlamentarului polonez de extremă dreapta Grzegorz Braun. Compania a descris această operațiune drept cea mai complexă încercare de gestionare a unei identități de fațadă perturbată în ultimii doi ani și jumătate.
Aceste acțiuni de manipulare informațională apar într-un context geopolitic tensionat, marcat de atacuri rusești asupra infrastructurii critice și de discuții despre armistiții energetice. În timp ce Rusia încearcă să își influențeze poziția în regiuni precum Polonia sau Ucraina, tensiunile dintre SUA și Iran continuă să modeleze fluxurile de informații globale. Utilizarea inteligenței artificiale pentru crearea de conținut de propagandă reprezintă o provocare tot mai mare pentru securitatea informațională.