OpenAI afferma che gli agenti russi hanno utilizzato il suo chatbot AI per aggiornare i loro capi, facendo luce su campagne di influenza non precedentemente attribuite alla Russia.
Jeff Chiu/AP
Nascondi titolo
Jeff Chiu/AP
OpenAI ha detto in a Articolo del blog Giovedì, la società ha vietato gli account russi e iraniani che utilizzavano strumenti di intelligenza artificiale per influenzare le operazioni in più paesi. Gli agenti sono riusciti a diffondere le loro false storie attraverso i notiziari e una volta hanno suscitato una risposta da parte di un membro del Parlamento europeo, secondo rapporti interni, con operazioni create utilizzando il chatbot di OpenAI, ChatGPT.
OpenAI ha studiato l’efficacia delle diverse campagne menzionate dagli account e ha scoperto che quelle incentrate sull’inserimento di storie false nei media consolidati hanno raggiunto un pubblico più vasto rispetto alle campagne incentrate sull’utilizzo di account di social media falsi per diffondere il proprio messaggio.
Le operazioni russe hanno preso di mira i paesi dell’America Latina e sembravano mirate a minare il sostegno all’Ucraina e a influenzare la politica locale, ha affermato OpenAI. Sembrava che gli account utilizzassero principalmente ChatGPT Scrivere rapporti Spiegando il loro lavoro a livelli superiori non specificati, ha affermato OpenAI. La società ha affermato che uno di questi rapporti descriveva la portata diffusa Operazione sugli effetti OpenAI è arrivata così lontano perché ha portato a una risposta pubblica da parte di una figura politica.
Nella campagna, si diceva che agenti russi si fossero spacciati per un funzionario regionale dell’istruzione in Perù e avessero ingannato alcune scuole inducendole a condurre attività sull’Ucraina. Stepan Bandera. Bandera era una figura controversa, ammirata dai nazionalisti per aver guidato la campagna per l’indipendenza ucraina prima e durante la seconda guerra mondiale. Altri, compresa la Polonia, lo insultarono perché il suo movimento si schierò con i nazisti e uccise polacchi ed ebrei. Sbocco peruviano Extra Una scuola peruviana ha segnalato uno di questi incidenti.
UN Cronaca polacca La scuola ha riferito dell’incidente a un membro polacco del Parlamento europeo di estrema destra che alle persone che dichiarano sostegno a Bandera dovrebbe essere vietato l’ingresso.
“La contraffazione russa ha alimentato tensioni storiche tra ucraini e polacchi”, ha scritto OpenAI nel suo rapporto.
“I russi sono costantemente impegnati in questo tipo di attività proattiva”, ha affermato Darren Linville, co-direttore del Media Forensics Hub del Watt Family Innovation Center della Clemson University, che studia le attività di influenza online. “Cercare di impegnarsi nel riciclaggio di narrativa, creare storie false, impersonare persone per creare o diffondere propaganda in linea con la visione del mondo e l’agenda politica della Russia.”
I promemoria interni russi creati con ChatGPT affermano che l’azienda gestiva un falso think tank in America Latina e assumeva involontariamente ricercatori per intervistare esperti e produrre rapporti. OpenAI ha affermato che lo sforzo è stato simile all’operazione russa del 2020 Agire come stazione di notizie indipendente Legato al defunto oligarca Yevgeny Prigogine Agenzia di ricerca su InternetCoinvolto nei tentativi di influenzare le elezioni americane del 2016.
In altri casi, gli agenti russi si sono presi il merito di incidenti di cui non erano responsabili, ha affermato OpenAI. I russi hanno utilizzato l’intelligenza artificiale per creare materiale falso, ma OpenAI ha affermato che si trattava di una minoranza del carico di lavoro.
“Questi tirapiedi russi stavano cercando di creare una scorciatoia usando l’intelligenza artificiale e facendo meno lavoro di quanto la maggior parte di noi usa l’intelligenza artificiale, ma in questo caso li ha aiutati a catturarli”, ha detto Linville.
Mentre gli agenti russi utilizzavano l’intelligenza artificiale principalmente per aggiornare i propri superiori, gli agenti iraniani utilizzavano l’intelligenza artificiale per aiutarli a pubblicare contenuti in persiano e inglese. La campagna si è concentrata principalmente sulla guerra tra Stati Uniti e Iran e, in misura minore, sulla politica americana. OpenAI ha affermato che l’attività dell’operazione “sembrava condurre una campagna di influenza mercenaria per un attore commerciale” ma non è riuscita a identificare chi fosse.
Secondo OpenAI, gli account iraniani hanno creato sette falsi scrittori per alimentare e valorizzare storie lunghe per i piccoli media di tutto il mondo. Hanno pubblicato quasi 100 articoli in questo modo.
I falsi scrittori hanno pubblicato articoli in organi di informazione tra cui un sito di notizie progressista statunitense quotidiano cos e Middle East Monitor con sede nel Regno Unito. Secondo Notizie della NBCMiddle East Monitor ha pubblicato almeno 21 articoli di quattro autori falsi. Il punto vendita, che non ha risposto a una richiesta di commento, da allora ha rimosso le pagine dell’autore.
Il Daily Kos ha scritto in risposta alla richiesta di commento di NPR che la sua sezione comunitaria si separa dai rapporti dello staff pubblicati da uno dei falsari. Chiunque può iscriversi per postare nella sezione community e i post “non sono soggetti alla revisione dello staff di Daily Kos prima della pubblicazione”, secondo un disclaimer sul sito. Esistono regole per pubblicare post nella sezione community, incluso il divieto di “fingere di essere qualcuno che non sei”. Ci sono più post per persona.
“Per loro l’intelligenza artificiale vale più di una semplice scorciatoia”, ha affermato Linville. “Li ha aiutati a creare un linguaggio che suonasse, si percepisse e si leggesse autentico al punto da essere pubblicato da organi di stampa legittimi. E penso che qualche anno fa, un’operazione iraniana come questa sarebbe stata molto difficile”.