Compania OpenAI a anunțat joi că a reușit să identifice și să blocheze o serie de conturi provenite din Rusia și Iran. Acestea utilizau instrumentele de inteligență artificială ale companiei pentru a desfășura operațiuni de influență în mai multe țări din lume. Conform raportărilor, operatorii au reușit să introducă informații false în diverse publicații media și, într-un caz specific, au reușit să provoace reacții politice la nivel de Parlament European.
Operațiunile rusești au vizat în principal țări din America Latină, având ca scop diminuarea sprijinului pentru Ucraina și influențarea politicii locale. OpenAI a observat că aceste campanii, bazate pe publicarea de informații false în instituții media consacrate, au avut un impact mult mai mare decât distribuirea de mesaje prin conturi false pe rețelele sociale. Operatorii ruși foloseau ChatGPT în principal pentru redactarea de rapoarte interne destinate superiorilor lor, prezentând activitățile desfășurate și rezultatele obținute.
Într-una dintre campaniile rusești, s-a pretins fals că se reprezintă o autoritate regională din domeniul educației din Peru. Această acțiune a determinat unele școli să organizeze activități despre Ucraina în care era prezentată figura lui Stepan Bandera. Evenimentul a fost relatat de presa poloneză, ceea ce a dus la propunerea unui europarlamentar polonez de extremă dreapta de a interzice accesul în țară al persoanelor care își exprimă susținerea pentru Bandera. OpenAI susține că falsul a exploatat tensiunile istorice dintre ucraineni și polonezi.
Pe de altă parte, operatorii iranieni foloseau inteligența artificială pentru redactarea și distribuirea de articole în limbile persană și engleză. Această campanie s-a concentrat pe conflictul dintre Statele Unite și Iran, precum și pe politica americană. Au fost create șapte identități fictive de autori prin care au fost publicate aproape 100 de articole în diverse publicații. Printre platformele care au găzduit aceste materiale s-au numărat site-ul american Daily Kos și publicația britanică Middle East Monitor.
Conform datelor, Middle East Monitor a publicat cel puțin 21 de articole semnate de patru autori fictivi, paginile acestora fiind eliminate ulterior. OpenAI a precizat că activitatea operatorilor iranieni semăna cu cea a unei organizații comerciale care desfășura campanii de influență contra cost, deși entitatea din spate nu a putut fi identificată. De asemenea, s-a descoperit că operatorii ruși au administrat un fals centru de cercetare în America Latină, recrutând cercetători care nu cunoșteau scopul real al activităților lor.
Utilizarea inteligenței artificiale generative în campanii de dezinformare reprezintă o provocare tot mai mare pentru securitatea informațională globală. Tehnologiile precum ChatGPT permit crearea de conținut care pare autentic, facilitând astfel infiltrarea în fluxurile de știri oficiale. Această evoluție obligă platformele tehnologice și instituțiile media să implementeze mecanisme de verificare mai riguroase pentru a contracara manipularea opiniei publice prin identități digitale false.