1

Il caso arabo delle troll farm, il braccio armato della computational propaganda

Era l’estate del 2019, ed ero connessa su Facebook a leggere i post ed i commenti che hanno tempestato il News Feed della piattaforma dopo l’annuncio del ricovero ospedaliero del quinto presidente tunisino Baji Caid Essebsi, a causa di problemi di salute non meglio specificati. La notizia ha, immediatamente, suscitato le reazioni dell’opinione pubblica tunisina sui social media dove ognuno cercava di dire la sua. Prevedendo la morte del presidente gli utenti hanno cominciato ad avviare sondaggi e ad elencare le liste dei politici che lo avrebbero potuto sostituire, facevano, addirittura, gare del tipo: “per X metti mi piace, per Y fai un commento”.

In quei giorni ricevetti una chiamata da un mio ex collega universitario, un noto giornalista che lavora presso una rete televisiva araba con sede a Londra (che ho scelto di chiamare Ahmed). Ahmed mi propose un lavoro, ovvero un progetto di “comunicazione politica”, come aveva precisato lui, il quale consisteva nel promuovere l’immagine e aumentare la reputazione di due partiti politici online: “Tahya Tounes” e “Qaleb Tounes”, e di conseguenza i loro presidenti Youssef Chahed e Nabil Karoui, i quali si sono candidati alle elezioni presidenziali che sono stati anticipati a causa della morte del Presidente avvenuta a luglio


L’articolo è un estratto della tesi di Marina Ayeb. Una collaborazione tra cheFare e il corso in Sociologia della Comunicazione (prof. Tiziano Bonini) del Dipartimento di Scienze sociali, politiche e cognitive (DISPOC) dell’Università di Siena.  La collaborazione vuole dare visibilità a lavori di ricerca per tesi di laurea particolarmente originali e rilevanti per i temi di cheFare. 


All’epoca rifiutai il lavoro, non perché sapessi che si trattasse di attività di “trolling” (ero totalmente ignara di cosa fosse il trolling) ma per il semplice motivo che pochi giorni dopo mi sarei dovuta trasferire in Italia per finire gli studi.

Nonostante il rifiuto non ho smesso mai di pensarci. Ricordo ancora lucidamente la conversazione tra me ed Ahmed. Lui che mi parlava del “progetto”, usava termini come “CMC”, “Marketing politico digitale”, “Comunicazione politica elettorale” e “strategia digitale”, ed io che continuavo a non capire come mai Youssef Chahed (ex Primo Ministro dal 2016 al 2020) e Nabil Karoui (un uomo d’affari accusato di riciclaggio e corruzione) si fossero riuniti in un unico progetto. 

Iniziai a prestare più attenzione e ad osservare tutto quello che veniva diffuso, commentato e condiviso durante quel periodo su Facebook, la piattaforma più utilizzata in Tunisia con 7.40 milioni di utenti (Hootsuite, 2019). Iniziai a leggere articoli e studi sulla comunicazione politica, sul marketing politico digitale e sulla computational propaganda, ovvero l’uso dei social media, degli algoritmi, dell’automazione e della cura editoriale umana per la manipolazione dell’opinione pubblica. 

Cominciai gradualmente a mettere insieme i pezzi ed a capire che lavoro mi avesse proposto realmente Ahmed.

La computational propaganda e le troll farms

La computational propaganda, nonostante sia nata recentemente, si è affermata come uno strumento strategico nato e sviluppato grazie alle tecnologie digitali e ai social media, ed è utilizzata da coloro che desiderano controllare l’opinione pubblica contemporanea “giocando” con gli algoritmi. 

Essa ha giocato un ruolo decisivo durante degli eventi cruciali come, ad esempio, la Brexit e le elezioni presidenziali statunitensi del 2016, oltre ad altri avvenimenti rilevanti in 70 paesi tra cui Argentina, Azerbaigian, Australia, Bahrein, Brasile, Cina, Repubblica Ceca, Ecuador, Germania, India, Iran, Israele, Messico, Corea del Nord, Filippine, Polonia, Russia, Arabia Saudita, Serbia, Corea del Sud, Siria, Taiwan, Turchia, Ucraina, Venezuela e Vietnam1(Woolley, S. Howard, P. 2017).

Come parte del processo manipolativo, la computational propaganda coinvolge piattaforme interattive, software automatizzati molto sviluppati (compresi i bot ed i cyborg), big data, internet of things e agenti umani (troll) per interferire su questioni politiche e promuovere progetti ideologici online diffondendo disinformazione, manipolando l’opinione pubblica e contribuendo alla produzione del consenso. 

Infatti, nell’era del capitalismo di piattaforma, si parla addirittura di un’intera industria di manipolazione online con “call center operativi ventiquattr’ore su ventiquattro, pieni di persone pagate a ore che gestivano dozzine di alter ego sui social media”2(Pomerantsev, P. 2020).  

Tali “call center” o meglio dire “troll farms”, sono un gruppo di “keyboard armies” – eserciti armati di tastiera – pagati per manipolare e plasmare l’opinione pubblica.  Una delle più note troll farms al mondo è la Internet Research Agency (IRA). L’IRA è una società russa con sede a San Pietroburgo impegnata in operazioni nazionali ed internazionali di computational propaganda.  

Come l’IRA, vi sono diverse aziende simili sparse in tutto il mondo. Focalizzandomi maggiormente sul mondo arabo ho indagato l’emergere di tali realtà. Per capire come funzionassero e se fossero finanziate da politici, governi e stati, ho intervistato degli agenti che hanno lavorato o lavorano ancora dentro delle troll farms in Tunisia, Egitto ed in Iraq.

Come primo passo dellindagine, ho ricontattato Ahmed. Ahmed ha giocato un ruolo molto rilevante nella mia vicinanza al campo poiché, grazie a lui si è creata una sorta di catena di conoscenze formata da quattro agenti (Mostafa, Zied, Tawfiq e Oussama) che hanno lavorato, e alcuni di loro lavorano ancora, dentro delle troll farms in Egitto. Grazie ad un altro mio amico, giornalista iracheno conosciuto a Washington DC, sono stata messa in contatto con un ex troll iracheno di nome Nour. 

Ahmed: “Siamo fastidiosi come le mosche… Un troll è un essere fastidioso esattamente come lo è una mosca”. 

“Le mosche possono essere una delle cose più fastidiose in assoluto. Il modo in cui volano intorno a te, il modo in cui cercano di disturbarti, quasi ti volano in bocca quando parli e provano a mangiare il tuo cibo quando è sul tavolo o sul bancone, il modo in cui creano lo sciame quando si adagiano sopra qualcosa.  Tutto è un comportamento fastidioso ed è tutto simile al comportamento dei troll”. Così ha descritto Ahmed (32 anni- tunisino laureato in giornalismo) il lavoro dei troll, di cui fa parte lui stesso come supervisore. 

 Secondo Mostafa (29 anni- un supervisore egiziano laureato in lingue), il termine “mosche” è diventato popolare e si è espanso nel 2017 durante la crisi diplomatica con il Qatar, nota come “Crisi del Golfo” tra il Qatar e quattro paesi arabi (Arabia Saudita, Emirati Arabi Uniti, Bahrain, Egitto) che hanno dichiarato il boicottaggio delle relazioni diplomatiche con lo Stato del Qatar. 

Ciò che distingue questa crisi è il grande ruolo svolto da account di troll attivi 24h su 24h. Account sparsi in più di un luogo per raggiungere il loro obiettivo, quello di diffondere disinformazione, creare “fake engagement”, trasmettere informazioni che potrebbero fuorviare l’opinione pubblica e creare una sorta di panico morale propagandando narrazioni anti-Qatar. 

Vi sono tre tipi di “mosche”: bot, cyborg e mosche “umane”. Il primo tipo sono le mosche automatizzate, ovvero quei bot che eseguono attività ripetitive e automatiche con lo scopo di diffondere disinformazione, promuovere determinate narrazioni, amplificare messaggi fuorvianti, distorcere il discorso online e creare “fake engagement” e “fake trends”. Il secondo tipo, invece, sono le mosche semi-automatiche, ovvero i cyborg che combinano l’instancabilità di un bot con la sottigliezza umana. Un cyborg interviene solamente quando è necessario, per guidare una conversazione, per creare una conversazione, per risolvere una controversia o per crearne una. A differenza dei bot, i cyborg sono difficili da identificare, infatti, essi vengono utilizzati per evitare il rilevamento e rendere le interazioni ed i comportamenti online più autentici. Il terzo tipo sono “le mosche umane” ovvero, i troll. Un troll è una agente umano assunto per molestare altri utenti, pubblicare contenuti divisivi o cercare di imporre le proprie opinioni agli altri e si comporta esattamente come una mosca fastidiosa che “risulta difficile ucciderla”, sottolinea Ahmed.

Jamal Ahmad Khashoggi, Mohamed Aboutrika e Intidhar Ahmed Jassim: Le principali vittime delle troll farms in Egitto ed in Iraq tra il 2017 e il 2018

Discutendo della Crisi del Golfo, Mostafa ha rivelato che: “in quel periodo i messaggi non smettevano mai di arrivare su Telegram. Twittavamo in continuazione. Post contro l’Emiro Qatarota. Altri contro Al Jazeera nota in quel periodo come “Al-Khanzira” (il maiale). Altri contro le comunità egiziane, Emirati e Bahreiniti in Qatar che hanno scelto di rimanere lì, le descrivevamo come infedeli, come schiavi, come amanti del denaro, come mercenari e come non patriottici poiché hanno preferito il lavoro e il denaro alle loro patrie. Mettevamo anche in evidenza accuse contro il Qatar, lo accusavamo di sostenere diversi gruppi estremisti, tra cui i Fratelli Musulmani, gli Houthi, Al-Qaeda e lo Stato Islamico (ISIS). Lo accusavamo riguardo la sua alleanza con l’Iran ed il suo piano di destabilizzazione della sicurezza della MENA region”. 

In quell’anno del 2017, il lavoro delle mosche egiziane non si è soffermato solo sulla “crisi del Golfo”. Anzi, i troll hanno attaccato anche giornalisti, attivisti e altri che criticavano il governo non solo egiziano ma anche saudita come, ad esempio, Jamal Ahmad Khashoggi. Khashoggi era un giornalista saudita che per decenni è stato vicino alla famiglia reale dell’Arabia Saudita ed è stato anche consigliere del governo. Nel 2017, l’anno in cui il Re Saudita Salman Bin Abdulaziz Al Saud decise di far salire suo figlio Mohammed Bin Salman al trono, Khashoggi lasciò il suo paese ed iniziò a scrivere una colonna mensile sul Washington Post in cui criticava le politiche del principe ereditario. 

In quel periodo il lavoro delle “mosche” si concentrava principalmente sull’aggressione di Khashoggi descrivendolo come un traditore del suo paese. “Quando sono uscite le notizie della sua scomparsa in Turchia nel 2018, su Telegram abbiamo ricevuto indicazioni con altri obiettivi da raggiungere, tra cui: deridere la notizia difendendo Mohammed Bin Salman e propagandando che l’Arabia Saudita è l’unica parte interessata alla sicurezza di Khashoggi e di tutti i cittadini sauditi, accusando gli oppositori, attaccando e insultando la sua fidanzata Hatice Cengiz. Khashoggi è stato ucciso nel consolato del suo paese ad Istanbul, ed a noi su Telegram è stato chiesto di continuare a difendere il regime saudita attaccando la narrazione e le dichiarazioni della polizia turca. Per me era dura continuare a fare quel lavoro, mi sentivo colpevole. Era tutto stressante perché sentivo che anche io l’avevo ucciso in qualche maniera, quindi decisi di licenziarmi”, afferma Zied (30 anni, un’ex troll egiziano laureato in giornalismo).

Una delle figure attaccate nel 2017 fu anche la star del calcio Mohamed Aboutrika, nonostante fosse molto amato e troppo stimato dal pubblico egiziano. In quel periodo l’autorità egiziana ha aggiunto Aboutrika alla “Black List”, ovvero la lista dei terroristi che in base a dei sospetti si pensa che abbiano finanziato i Fratelli Musulmani banditi. Il lavoro delle mosche in quel caso era di appoggiare la decisione dell’autorità “soprattutto perché si trattava di uno dei calciatori africani di maggior successo non solo in Egitto ma nel mondo arabo intero. Quindi il nostro compito non era solo pubblicare dei post ma anche rispondere ai commenti e creare conversazioni. Per esempio, nelle pagine pro-Aboutrika o nella pagina ufficiale di Aboutrika stesso, andavamo a scrivere dei commenti da un account poi rispondevamo a quei commenti da un altro account e così via. Così si crea più coinvolgimento e più impatto”, rivela Mostafa.  

Nour (30 anni. Un’ex troll iracheno laureato in scienze della comunicazione), invece, si è trovato a dover scrivere 300 commenti su Facebook, usando dieci account diversi, insultando e umiliando figure politiche ed a dover creare delle conversazioni e condividere video su YouTube usando sei account diversi, dopo che è stato accettato in un’agenzia di pubbliche relazioni americana con sede a Baghdad come “copywriter”

Durante le elezioni del 2018 in Iraq, uno dei compiti di Nour era prendere di mira la candidata Intidhar Ahmed Jassim, accusandola di essere “una poco di buono” e quindi di non essere in grado di partecipare alle elezioni e di guidare l’Iraq. Infatti, in quell’anno è stato diffuso su Facebook e su YouTube un video scandaloso che mostrava la candidata Intidhar Ahmed Jassim in rapporti sessuali con un uomo saudita, il video è diventato virale in poche ore su YouTube e Facebook ed è stato anche pubblicato sul sito pornografico Xvideos. 

Dopo una serie di indagini si è scoperto che tale video è stato generato usando una tattica chiamata “deepfaking”, ciò che ha confermato anche Nour, il che significa che il video pubblicato era totalmente “fake”. 

Coinvolgimento e impatto sono la spina dorsale del lavoro di un troll

La vita di un troll dentro una troll farm, oltre al massimo riserbo richiede un massimo impegno; “nei colloqui e nelle formazioni ci convincono che non si tratta di un lavoro come qualsiasi altro ma di una passione che richiede più sforzo e più attenzione. Dobbiamo impegnarci e mettercela tutta. Dobbiamo coinvolgere più pubblico. Di solito il supervisore monitora l’andamento dei post, vince sempre il post che ha più commenti, like e share, cioè con più pubblico coinvolto. Ciò significa che quel post ha avuto più impatto cioè un forte effetto sul pubblico”, spiega Mostafa. 

Per creare coinvolgimento e impatto, i troll devono sembrare reali il più possibile. Per garantire ciò le troll farms più grandi e più professionali non creano solo “fake accounts” ma creano “personas”, cioè un’identità digitale completa, pianificata come la costruzione di personaggi cinematografici nei film.

Secondo Tawfiq (35 anni. Un’ex troll egiziano laureato in Farmacia), il compito cruciale di un troll è creare fake trends, creare fake engagement e avvelenare le informazioni pubblicate da utenti reali, “siamo chiamati a pubblicare centinaia e centinaia di tweet su Twitter e di post su Facebook, utilizzando hashtag specifici, soprattutto per Twitter, spingendo gli utenti non solo a seguirci ma anche a condividere quello che postiamo e far sì che le pubblicazioni false offuschino le pubblicazioni reali rendendole irraggiungibili. L’obiettivo è fare in modo che anche se queste arrivassero agli utenti, sarebbero deboli, e fare in modo che i siti di social media diventino uno strumento debole per sapere cosa stia accadendo realmente nel mondo”. 

Una mosca per 500 dollari 

I troll lavorano in tre turni, dalle 8:00 alle 16:00, dalle 16:00 a mezzanotte e da mezzanotte alle 8:00, “di solito non abbiamo tempo neanche per parlare, c’è un’atmosfera molto produttiva. Quando arrivi tutto ciò che senti è il rumore della tastiera, ti rimane in testa anche quando sei a casa o con gli amici!” afferma Tawfiq. “Un’atmosfera produttiva ma anche molto controllata”, aggiunge Oussama il quale descrive la troll farm in cui ha lavorato a Cairo come “una gabbia oscura” con un sistema di sicurezza abbastanza forte all’interno e all’esterno e telecamere dappertutto. 

I troll vengono pagati tra i 300 ed i 500 dollari al mese (Cioè tra i 830 ed i 1380 Dinari in Tunisia, tra i 4710 ed i 7840 EGP in Egitto e tra i 438750 ed i 731250 Dinari in Iraq: Lo stipendio mensile di un giornalista). I supervisori che lavorano a progetto come Ahmed, vengono pagati, più o meno, 20 mila dollari per progetto, spese incluse, Cioè 55 mila dinari tunisini, l’equivalente del costo di un’automobile “Kia Rio” in Tunisia.  

A differenza di ciò che pensa la maggioranza delle persone, un troll deve possedere un certo livello di competenze linguistiche, poiché deve scrivere i commenti, post e tweet con le sue parole, e deve comportarsi come se l’account fosse realmente suo. Il copia-incolla da uno script ben definito è severamente vietato poiché è un comportamento lasciato ai bot ed ai cyborg. 

Per quanto riguarda la creazione delle conversazioni, i troll a volte operano in squadre da tre: uno per lanciare un determinato messaggio e gli altri due per creare una conversazione (dimostrandosi d’accordo oppure non d’accordo), per creare l’apparenza di un vero coinvolgimento e dibattito.

I troll utilizzano un processo diviso in tre fasi per attirare e coinvolgere gli utenti. Nel primo passaggio, un troll pubblica un commento controverso e di attualità per catturare l’attenzione dei lettori e indurre uno di loro a rispondere. I troll aspettano che qualcuno si opponga a loro e a volte devono impegnarsi con il post originale generando una maldestra opposizione o un accordo esagerato, per tentare di provocare il coinvolgimento di un non-troll. A questo punto, i troll passano alla terza fase dell’operazione, commentando affermazioni selezionate per rendere la discussione antagonista e creando una vera e propria discussione. 

Quello che fanno i troll è consultare l’elenco giornaliero degli argomenti, mandato dai loro capi su Telegram, per poi scrivere commenti e creare conversazioni usando il proprio stile di scrittura, purché sia in linea con le esigenze della troll farm in cui si lavora. Infatti, il contenuto pubblicato dai troll deve essere originale, così, successivamente, i bot ed i cyborg si impegnano massivamente in un processo di amplificazione automatizzata dei contenuti.

Il ruolo di Telegram e di Tor Browser

Quando una persona inizia a lavorare per una troll farm, riceve dal suo primo giorno un elenco di argomenti su cui l’azienda intende lavorare, giorno per giorno. L’elenco viene mandato su Telegram, in diversi gruppi di chat creati dal supervisore o dai supervisori, ed include l’accaduto, cosa dovrebbe essere scritto su di esso e in quale stato emotivo il troll dovrebbe portare il pubblico target. Di solito vi sono diversi incarichi al giorno ed i supervisori forniscono i temi chiave su cui avrebbero dovuto essere basati i commenti e le conversazioni.

Il servizio di social media Telegram, in gran parte, grazie alla sua prestazione/la sua attenzione alla privacy, alla crittografia ed a un “open-source API”, è stato ampiamente adottato a livello globale da persone, aziende ed organizzazioni in qualche maniera pericolosi, come ad esempio l’ISIS e le troll farms. 

Il punto di forza di Telegram è l’anonimato dell’utente, infatti su Telegram si può comunicare con chiunque anche se non si ha il suo numero di telefono, ciò garantisce la privacy del numero di contatto dell’utente, il che significa che si può facilmente inviare messaggi in un gruppo senza rivelare il proprio numero di telefono. A proposito dei gruppi, un gruppo Telegram può permettersi un massimo di 200.000 membri a differenza di WhatsApp, per esempio, che la sua capacità massima è solo di 256 membri in un gruppo. 

Dopo aver ricevuto i messaggi su Telegram, e dopo aver finito i loro compiti, i troll sono chiamati a compilare un foglio su Excel con i seguenti dettagli: il numero del computer su cui il troll ha lavorato, la data, quanti commenti ha scritto, articoli pubblicati, quante conversazioni ha creato. Tutte queste informazioni devono essere documentate tramite un link.

Per garantire maggior sicurezza, anonimato e privacy, le troll farms tendono ad evitare l’uso di browser come Google Chrome e Firefox. Infatti, la maggior parte delle persone intervistate, hanno menzionato l’uso del cosiddetto Tor Browser. 

Tor è un browser web anonimo, viene utilizzato principalmente per proteggere l’identità online, soprattutto di coloro che desiderano accedere al “Dark Web” ed evitare la sorveglianza del governo. 

Trolling sponsorizzato dallo Stato: l’Egitto come esempio 

Durante le mie interviste mi è capitato di sentire più d’una volta la medesima frase: “Tornavo a casa e trovavo in TV gli stessi argomenti e la stessa identica agenda su cui ho lavorato in azienda. Trasmissioni televisive e radiofoniche ripetevano lo stesso identico commento che ho scritto io”. 

In quest’ottica, per spiegare ciò, Oussama parla di una sorta di complicità tra i mass media tradizionali e le troll farms. Secondo Oussama, in un contesto così dittatoriale, come il contesto egiziano, le troll farms non possono lavorare senza il consenso dello stato stesso, “l’Egitto non è un paese così democratico, così aperto per far lavorare sul suo territorio, in pieno centro, un’azienda o meglio dire delle aziende, perché ci sono più di un’azienda di trolling in Egitto, senza sapere chi siano e senza approvare quello che facciano. Tutti e due (le troll farms ed i mezzi di comunicazione di massa tradizionali) sono dei complici e lavorano mano nella mano per aver impatto sulla società e per distruggerla a favore di certe agende”.

Oussama afferma senza dubbi, che i media tradizionali sono fondamentalmente una macchina di propaganda a servizio dello stato, esattamente come lo sono le troll farms, “dopo dieci anni dalla rivoluzione del 25 Gennaio, che ha rovesciato l’allora presidente Hosni Mubarak, ti posso assicurare che stiamo ancora lottando contro un settore dei media autoritario che ancora continua a lavorare a seconda delle agende. I regimi post-rivoluzionari hanno continuato a sfruttare i media statali e privati per far tacere le voci e per molestare ed emarginare voci critiche, sia statali che non statali. La situazione è peggiorata dopo la scoperta delle cosiddette troll farms. Il governo ha scoperto un nuovo strumento per continuare la sua propaganda online sui social media tenendo in conto il calo della fiducia del pubblico nei media tradizionali”. 

Secondo Oussama le troll farms (almeno quella in cui ha lavorato lui), sono quasi certamente sponsorizzate dallo stato stesso, poiché il più delle volte le attività di trolling sono più concentrate nel plasmare il discorso pubblico attraverso la promozione di ideologie che rafforzano le narrazioni adottate dallo stato, l’uso di campagne online, le quali sono intrise di odio e molestie per intimidire e mettere a tacere le persone che criticano il governo, oltre a ripulire la reputazione di figure statali. 


Nota: Per tutelare la privacy e la sicurezza dei miei intervistati ho preferito adottare dei nomi fittizi.