Scoperto e sequestrato un network di bot russi che utilizzavano l’intelligenza artificiale per interferire nelle politiche internazionali.
Un’operazione congiunta tra le autorità statunitensi e internazionali ha portato al sequestro di due domini internet e centinaia di account sui social media, riconducibili a una rete di bot russi che utilizzavano intelligenza artificiale per generare contenuti finalizzati a interferire nella politica americana. Secondo il Dipartimento di Giustizia, questo è uno dei passi più significativi nella lotta contro la disinformazione digitale.
Le autorità hanno emesso mandati di perquisizione presso una corte distrettuale dell’Arizona, scoprendo che operativi russi avevano registrato 968 account unici sulla piattaforma social X tramite due domini specifici. Questi account, creati nel 2022, erano stati guidati dal vice caporedattore del noto sito di notizie russo RT.
Gli indirizzi email e i numeri di telefono usati per registrare i domini sono stati collegati a un individuo identificato come il lead developer di “Meliorator”, un pacchetto software potenziato dall’intelligenza artificiale e utilizzato in modo clandestino. Grazie a questo software, i bot potevano creare profili social credibili, postare contenuti, e interagire come utenti reali per diffondere narrazioni favorevoli al governo russo.
I mandati emessi il 27 giugno dalla U.S. District Court of Arizona hanno ordinato al registrar dei domini Namecheap di reindirizzare i domini incriminati, “MLLTR.com” e “OTANMAIL.com”, a server controllati dall’FBI. Un avviso congiunto diffuso dagli Stati Uniti, Olanda e Canada ha rivelato che affiliati di RT utilizzavano il software Meliorator e le sue capacità di intelligenza artificiale per creare una bot farm con false identità di diverse nazionalità, con l’obiettivo di diffondere disinformazione su grande scala.
Meliorator si è dimostrato capace di creare social media personas “en masse”, postare contenuti, imitare il tono di utenti comuni e allineare i loro post con altri account di disinformazione e bot. Evidenze mostrano che gli sviluppatori stavano espandendo le funzionalità del software anche ad altre piattaforme social.
L’operazione ha avuto come target un pubblico internazionale, inclusi Stati Uniti, Polonia, Germania, Olanda, Ucraina, Spagna e Israele. Questa azione delle forze dell’ordine arriva in un momento in cui gli ufficiali di intelligence statunitensi e organizzazioni private di threat intelligence avevano avvertito che le operazioni di disinformazione russe stavano focalizzandosi pesantemente sulle prossime elezioni americane.
Gruppi riconducibili al governo russo, come Doppelganger e CopyCop, stanno incrementando l’uso di strumenti di intelligenza artificiale generativa per le loro campagne di propaganda, sebbene rapporti di attori del settore come Meta e OpenAI abbiano indicato che questi sforzi non sono riusciti a ottenere una vasta audience.
La vice procuratrice generale Lisa Monaco ha dichiarato che l’azione dimostra come il Dipartimento di Giustizia e i suoi partner non tollereranno che attori governativi russi e i loro agenti utilizzino l’intelligenza artificiale per seminare disinformazione e fomentare divisioni tra gli americani.
Secondo documenti del tribunale, prima del 2022 il vice caporedattore di RT avrebbe suggerito ai dirigenti del network lo sviluppo di un nuovo software per cercare “modi alternativi per distribuire informazioni oltre alle trasmissioni televisive standard di RT”. Il canale RT America avrebbe poi chiuso nel marzo 2022 dopo essere stato eliminato da DirecTV e Dish Network.
I vertici di RT approvarono lo sviluppo di Meliorator e, meno di un anno dopo, il progetto è stato integrato in una nuova organizzazione di intelligence privata creata dall’FSB, con l’approvazione dei vertici del Cremlino, per seminare discordia negli Stati Uniti.
I bot russi coinvolti nella campagna rispondevano direttamente ai post su X dei candidati federali americani, fingendo di essere cittadini del distretto dei candidati e portando avanti narrative contro il supporto americano all’Ucraina. Un funzionario dell’FBI ha scritto in un affidavit che il sequestro dei domini avrebbe un impatto significativo sulle attività malevole, impedendo l’uso dell’autenticazione multifattore necessaria per superare i filtri anti-bot di X, e bloccando la creazione di nuovi profili utilizzando email dai domini sequestrati.
I bot coinvolti nella campagna russa hanno risposto direttamente ai post su X dei candidati federali americani, fingendo di essere residenti del distretto dei candidati e portando avanti narrazioni contro il supporto americano all’Ucraina. Un funzionario dell’FBI ha scritto in un affidavit che il sequestro dei domini avrebbe un impatto significativo sulle attività malevole, impedendo l’uso dell’autenticazione multifattore necessaria per superare i filtri anti-bot di X, e bloccando la creazione di nuovi profili utilizzando email dai domini sequestrati.