Nell’ottobre dello scorso anno, la pubblicazione dei Facebook Papers su diversi giornali americani e qualcuno europeo basata sui documenti interni diffusi dalla whistleblower (informatrice) ed ex product manager del colosso di Menlo Park, Frances Haugen, ha suscitato grande scalpore.

Documenti che hanno amplificato e raccontato nel dettaglio i fallimenti della dirigenza di Facebook nel contenere la disinformazione e l’incitamento all’odio e alla violenza sulla piattaforma, a volte per carenza di mezzi tecnici e altre volte per non danneggiare i profitti che derivano dall’attività delle persone sulla rete sociale più utilizzata al mondo.

A distanza di otto mesi, un nuovo studio, realizzato dall’Institute for Strategic Dialogue (Isd, con sede a Londra) sulla base dei risultati di un’indagine di due anni sull’ecosistema dei media digitali di al-Shabaab e del gruppo Stato islamico (Is) in Africa, ha scoperto che Facebook non è riuscito a bloccare i post estremisti colmi di odio pubblicati dai due gruppi.

Post destinati agli utenti dei social media in Africa orientale, regione sempre minacciata da attacchi violenti, e in particolare agli utenti del Kenya, dove il prossimo 9 agosto si andrà a votare in un clima di massima tensione e incertezza.

Un clima che sta generando sulla rete contenuti odiosi e dannosi, progettati per disinformare, dividere e demonizzare gli oppositori politici e i loro sostenitori. Il rapporto rileva che «la xenofobia nei confronti delle comunità somale in Kenya è diffusa da tempo» ed esprime particolare preoccupazione per le narrazioni legate ai gruppi estremisti, che accusano funzionari e politici kenyani di essere nemici dei musulmani, che costituiscono una parte significativa della popolazione della nazione dell’Africa orientale.

I ricercatori dell’Isd hanno analizzato il ruolo dei mezzi di informazione cosiddetti indipendenti e i loro incroci con centinaia di profili, che funzionano come amplificatori su Facebook. Questi ultimi collegati a una serie di pagine centrali che si identificano come “media” o “personalità dei media” operanti in somalo, kiswahili e arabo.

Nello studio, al-Shabaab, affiliato ad al-Qaida, viene descritto come il gruppo estremista più letale in Africa, che negli ultimi anni ha compiuto anche attacchi di alto profilo in Kenya. Tuttavia, i tre autori del report non hanno trovato prove di post su Facebook che pianificassero attacchi specifici, ma avvertono che consentire appelli alla violenza generici è una minaccia per le prossime elezioni presidenziali in Kenya. Mentre le preoccupazioni per l’incitamento all’odio nell’imminenza del voto, sia online che offline, stanno già crescendo e intaccando la fiducia nelle istituzioni democratiche.

“Al-Shabaab News Network”

Dallo studio, inoltre, si evince che la rete di supporto ad al-Shabaab e all’Is si estendeva su diverse piattaforme, comprese applicazioni di messaggistica decentralizzate come Element e RocketChat e piattaforme di messaggistica crittografate come Telegram, nonché Twitter, YouTube e Facebook.

L’analisi qualitativa multipiattaforma ha mostrato che l’ecosistema più attivo, in rete e multilingue di sostegno ad al-Shabaab e al gruppo Stato islamico è quello che agisce attraverso Facebook, dove profili e pagine classificate come “media” condividevano apertamente contenuti terroristici.

I ricercatori dell’Isd hanno rintracciato 30 pagine Facebook pubbliche che promuovono la propaganda ufficiale ai due gruppi jihadisti, condividendo gli aggiornamenti e sostenendo le principali narrazioni dei due gruppi.

Le pagine erano spesso supportate da siti web di notizie controllati da al-Shabaab, che i ricercatori hanno soprannominato al-Shabaab News Network, e dai loro antagonisti dell’Is. Siti che hanno una base complessiva di 39.488 follower e sono cresciuti di oltre 8.600 follower da gennaio 2022 a giugno 2022.

Le pagine Facebook che hanno condiviso al-Shabaab e i media dell’Is in somalo, kiswahili e arabo hanno pubblicato 850 video nel biennio preso in esame dall’Isd, generando circa 450mila visualizzazioni. Tutti i contenuti erano chiaramente caratterizzati dal marchio della Fondazione Al-Kataib, braccio mediatico di al-Shabaab, ed erano prontamente disponibili su Facebook, superando il controllo dei moderatori e sfruttando le lacune linguistiche.

Sfortunatamente, le linee guida della community ideata da Mark Zuckerberg sono ora disponibili in oltre 60 lingue, ma non includono quella somala, una lingua fondamentale per gli utenti dell’Africa orientale. Senza la lingua somala, gli utenti non possono conoscere gli standard della comunità virtuale e non possono segnalare i contenuti dannosi.

Utilizzando CrowdTangle, i ricercatori hanno scoperto che il video più popolare durante il biennio analizzato era stato prodotto da al-Shabaab e condiviso dalla pagina web di una tv jihadista, nel quale veniva affermato che i governi occidentali stavano cercando di minare l’islam in Somalia promuovendo politiche di genere.

Il video è stato pubblicato nell’ottobre 2021, ottenendo 41.200 visualizzazioni ed è stato condiviso 185 volte. Il secondo video più popolare è stato pubblicato dal gruppo Stato islamico dell’Iraq e condiviso, a fine marzo 2021, da una pagina dell’Is in lingua somala, che ha generato 13.226 visualizzazioni e 232 condivisioni.

E anche quando Facebook ha rimosso le pagine incriminate, queste sono state rapidamente ricostituite con nomi diversi, delineando gravi errori sia dell’intelligenza artificiale che dei moderatori umani.

Tutto questo dimostra anche l’inefficacia dei sistemi automatizzati e di machine learning per rilevare contenuti violenti ed estremisti su Facebook, che dovrebbe impegnarsi pubblicamente a incrementare gli investimenti nella moderazione dei contenuti umani. Oltre a formare i moderatori per identificare e prevenire l’estremismo violento e i messaggi di odio.