Battaglia Digitale: Svelare i ‘Badbots’ e la Guerra Invisibile contro la Disinformazione

È una guerra invisibile, che sta sempre più minando lo spazio digitale e le nostre democrazie. franceinfo è riuscita a entrare, per la prima volta, in Viginum, il servizio dello Stato che da tre anni lotta contro tutte le ingerenze digitali straniere.

I bot sono quei robot pilotati da interessi privati o dagli Stati che, su internet, si spacciano per umani per vendere prodotti, truffare le persone ma soprattutto, al momento, per tentare di manipolarci durante crisi politiche o elezioni. In quest’ultimo caso, si parla di badbots, i “cattivi robot” talvolta difficili da identificare, nascosti dietro falsi profili o email, che inondano le reti di false informazioni e interagiscono sempre più con i veri utenti per manipolare l’opinione o destabilizzare stati come la Francia.

Franceinfo è riuscita a entrare, per la prima volta, in Viginum, il servizio dello Stato che da tre anni combatte contro tutte le ingerenze digitali straniere. Ciascuna delle segnalazioni di Viginum arriva direttamente sugli scrivanie del primo ministro e della sfera dei servizi segreti. All’interno di Viginum, il lavoro degli analisti del Datalab, incollati ai loro schermi, è quello di rilevare tutte le attività “inautentiche” sui social media, quelle amplificate dai bot e, sempre di più, dall’intelligenza artificiale. “Per esempio, abbiamo un account che pubblica tutto a mezzanotte, o ogni ora,” spiega Paul-Antoine Chevalier, il capo del Datalab. “Non è affatto ciò che farebbe un umano in modo naturale. Potenzialmente, è l’azione di un chatbot o di un servizio di IA online. È molto probabilmente un robot.”

Durante le Olimpiadi di Parigi 2024, Viginum ha identificato una di queste operazioni di disinformazione automatizzata contro la Francia: la campagna pro-russa Matriochka diffondeva massicciamente contenuti falsi, falsi commenti su X a partire da “fattorie di robot”. Tutto questo è ora supportato dall’intelligenza artificiale per rendere questi narrazioni ancora più credibili. “È evidente che vediamo manipolazioni basate sull’IA nelle rilevazioni che facciamo giorno per giorno,” conferma Paul-Antoine Chevalier. “Abbiamo sviluppato un metodo internamente, per rilevare i contenuti massivamente duplicati anche se sono riformulati da grandi modelli di linguaggio. Siamo in grado di vedere la prossimità semantica tra questi contenuti. L’IA offre possibilità sempre nuove agli attaccanti, quindi dobbiamo essere in grado di rilevarle.”

La quota di questi badbots nel panorama digitale sarebbe molto significativa. Da diversi anni, la società americana di cybersecurity Imperva, una filiale del francese Thales, afferma di misurare in modo affidabile il traffico mondiale di questi robot sulle reti. Secondo Imperva, i bot supereranno, è matematico, presto l’attività degli esseri umani. “Quando guardiamo a tutto il traffico internet mondiale, il 50% è traffico umano e l’altro 50% è traffico automatizzato, tramite robot,” dettaglia Florian Malecki, uno dei responsabili di Imperva. “C’è un lavoro da fare da parte degli editori nel mondo della cybersecurity, così come dai fornitori di social media, per bloccare questi badbots. Ma come in ogni attività criminale, è sempre una corsa tra gli attori ‘buoni’ e gli attori ‘cattivi’. “

“Oggi, il 32% del traffico bot è traffico di robot malevoli. E questo continuerà ad aumentare.”

Florian Malecki

a franceinfo

Queste campagne amplificate dai bot inquinano il dibattito pubblico. Le elezioni americane, la guerra in Ucraina, il conflitto israelo-palestinese, le legislative in Francia… L’automazione delle campagne di odio o di disinformazione è documentata da numerosi esperti, come il matematico del CNRS David Chavalarias.

In un rapporto, si è basato su un database di 700 milioni di messaggi tra il 2016 e il 2024 per mettere in evidenza le comunità di badbots pro-russe. Robot, avverte il ricercatore, che stanno alzando il livello e producendo interazioni più umane rispetto al passato: “A parte i robot di tipo ‘economico’, che cercano di farti acquistare cose, molti di questi gruppi di robot sono lì per manipolare le opinioni. Questi robot sono sempre più sofisticati. Tutti conoscono ora ChatGPT, le intelligenze conversazionali: sappiamo che ora si possono realizzare robot che andranno a contatto con gli utenti, e persino dialogare con loro, analizzare la loro produzione digitale e, di conseguenza, adattare il discorso. È un vero pericolo.”

Negli Stati Uniti, il social network X è accusato di aver aiutato alla vittoria di Donald Trump. X però combatte i robot eliminando continuamente falsi profili. Ma la piattaforma di Elon Musk ha anche un interesse a ospitare molti di questi robot sotto il suo tetto: la loro attività porta traffico e molti soldi agli inserzionisti.