La tossicità endemica dei social network

Prima che venisse commercializzata massivamente, la Rete era una terra vergine, inesplorata e selvaggia, una terra in cui i pochi che ne solcavano le lande digitali finivano con l’assumere un atteggiamento molto simile a quello dei pionieri del Far West. Come nel Selvaggio West, anche nella Rete vigevano poche regole, con il risultato che le primissime aziende del web si erano convinte di non dover essere soggette alle leggi del “mondo reale”.

Un simile, controverso, retaggio è stato tramandato negli anni e, affiancato da una certa leggerezza strategica dei Governi, si è reincarnato in quel world wide web dominato da Big Tech e social network. Ora, all’apice di un malessere sociale diffuso, in coda a proteste e sommosse, questo ruolo dominante dello spazio sociale virtuale viene rimesso in discussione. Anzi, i grandi della tecnologia vengono addirittura additati come causa di ogni male e masse umane chiedono loro con forza di porre rimedio ai loro meccanismi tossici.

C’è però un problema: i meccanismi tossici sono il core business dei social network, la loro principale fonte di guadagno.

Google, Facebook, Twitter e omologhi, a ben vedere, non sono la causa dei malesseri che vengono attribuiti loro, ma innegabilmente cavalcano gli istinti più bassi degli internauti per appagare i requisiti di quello che Shoshana Zuboff definisce come capitalismo della sorveglianza.

Le Big Tech campano di fatto basandosi su due requisiti indispensabili: sono forzate a mantenere buoni rapporti con i Governi dei mercati per loro più influenti e devono ottenere e accumulare tutti i dati che possono sui propri utenti. Le aziende di cui stiamo parlando non offrono un servizio pubblico, la loro priorità è generare profitto e non si fanno problemi deontologici a dare pieno supporto al marciume del web, difendendosi dietro la premessa che non sia moralmente corretto imporre una cernita di contenuti.

Politica espansionista

Ancor prima di dover prendere in considerazione algoritmi e scandali vari, i social ci offrono uno spaccato della loro natura ambigua grazie a degli “inciampi” deontologici eclatanti che tuttavia tendiamo a non notare, poiché estremamente distanti dalla nostra quotidianità.

Nel 2016, Facebook ha contribuito non poco a portare alla presidenza delle Filippine Rodrigo Duterte, personaggio che in piena campagna elettorale aveva ammesso di essere collegato a un plotone della morte che aveva sterminato illegalmente centinaia di persone.

Il social non solo ha addestrato il politico alle strategie con cui accattivarsi il pubblico del web – cosa che, a onor del vero, ha cercato di fare anche con i suoi avversari -, ma ha anche riconosciuto che la sua campagna elettorale pregna di disinformazione fosse encomiabile, riconoscendogli a porte chiuse il titolo di “Re delle conversazioni su Facebook”.

Con le sue bugie, Duterte è diventato virale, conquistando il favore del popolo filippino.

A elezioni concluse, Facebook si è legato immediatamente al nuovo Governo, il tutto mentre sul social hanno iniziato a comparire centinaia di profili falsi che ingiuriavano e minacciavano di morte gli oppositori politici e i giornalisti d’inchiesta del Paese.

Un problema ben noto alla Big Tech, se non altro perché i giornalisti hanno denunciato in maniera martellante la situazione a ogni ramo dell’azienda, arrivando persino a riportare denunciare lo stato di crisi direttamente in una conversazione faccia a faccia con il CEO Mark Zuckerberg. Inutile dire che la criticità non sia stata risolta, anche perché Facebook era piuttosto interessata a organizzare una collaborazione con l’Amministrazione Duterte per imbastire un cavo di Rete sottomarino che vada a potenziare le connessioni tra l’Occidente e i Paesi asiatici.

L’atteggiamento del social network non è stato meno torbido quando ha dovuto gestire i rapporti con il controverso partito Bharatiya Janata Party (BJP), il partito attualmente al potere in India. In quel caso non solo non è intervenuto per porre un freno all’hate speech dell’establishment, il quale ha portato alla persecuzione della minoranza musulmana dei Rohingya, ma ha addirittura “disinnescato” le proprie policy pur di non pestare i piedi della fazione politica che governa il Paese con il maggior numero di utenti Facebook del mondo.

Secondo a un report del The Washington Post, l’ormai ex-responsabile delle politiche pubbliche di Facebook, Ankhi Das, avrebbe infatti imposto al proprio staff di ignorare i contenuti segnalati come promotori d’odio e di disinformazione, qualora questi fossero stati generati dai membri del BJP. Emerso lo scandalo, Facebook ha negato tutto, quindi Das ha consegnato le proprie dimissioni per seguire i suoi “interessi nel servizio pubblico”.

Una medesima situazione si è riflessa in Birmania dove, prima ancora del coup militare, il portale di Mark Zuckerberg era stato adoperato per promuovere proprio la persecuzione degli stessi Rohingya disprezzati dall’Amministrazione indiana. Un episodio tanto eclatante che, nel 2018, lo stesso Facebook ha ammesso che avrebbe dovuto fare di più per frenare le tendenze genocide di alcuni esponenti militari del Paese.

Rimanendo in Birmania, il colpo di Stato sopra menzionato ha portato sui social network un’ondata di tossicità filogolpiste pregna di odio e di minacce nei confronti di tutti coloro che si ostinano a manifestare in favore di un ritorno alla democrazia. Per diverse settimane, prima che la situazione politica degenerasse al di là di ogni ambiguità etica, TikTok ha ospitato non poche clip intimidatorie rivolte a chi si rifiutava di sostenere il nuovo governo temporaneo. Vere e proprie minacce di morte, pistole puntate contro l’obiettivo del telefono e persino canzoni che inneggiavano alla soppressione dei dissidenti.

Twitter è meno soggetto a eclatanti passi falsi: la sua portata è relativamente modesta e i suoi partecipanti tendono a preferire un’impostazione più istituzionale, tuttavia neppure il social di Jack Dorsey è esente da una certa dose di tossicità che, subdolamente, si riversa per vie traverse sul mondo reale.

Essendo un portale monitorato frequentemente dai giornalisti, tweet di disinformazione vengono rimbalzati dalla stampa e assumono progressivamente una diffusione e una credibilità difficili da contrastare. Uscite gradasse attirano l’attenzione internettiana e dei media tradizionali accarezzando con fin troppa confidenza i confini delle policy, con un detto-non-detto che non di rado sfora in propaganda che il social è raramente interessato a contrastare o “flaggare” con un invito alla lettura critica.

Engagement sopra a ogni cosa

Disinformazione, misinformazione, complottismi, sensazionalismo e controversie sono innegabilmente intriganti. Non solo sono di grandissimo intrattenimento, ma spesso offrono risposte semplici e immediate a dilemmi complessi e di cui fatichiamo a venire a capo. Risposte errate, incomplete o faziose, magari, ma che comunque ci offrono un momento di quiete nel bel mezzo di un mondo pieno di incognite.

Titoli e contenuti che richiamano l’attenzione con la promessa di eccitamento, inoltre, colpiscono il nostro lato più istintivo. Non importa che siano video di gattini che fanno le fusa o opinionismi deflagranti che affrontano le più popolari tematiche di attualità: una parte di noi ha voglia di cliccarci sopra, di esplorarli.

Sui grandi numeri, questo va a creare un “relevance feedback” che spinge l’algoritmo a definire quali siano i contenuti più rilevanti sulla Rete adottando un atteggiamento “acritico” in cui i prodotti internettiani non vengono valutati per la loro qualità, ma per il loro potenziale di traffico.

Ha fatto storia il caso del “nuovo ragno mortale” che avrebbe minacciato gli Stati Uniti nel 2018. Una bufala clamorosa emersa sui social che, venendo rilanciata a destra e a manca, ha presto scalato le vette delle ricerche internettiane, ottenendo quindi massimo risalto da Google e dagli altri motori di ricerca. Il risultato è il consolidamento di una post-verità ibrida, in cui gli algoritmi mescolano così bene fatti e menzogne che almeno la metà delle persone non è più in grado di distinguere i contenuti affidabili da quelli creati malevolmente per fomentare traffico e attenzioni.

Fintanto che le aziende digitali vedono inalterato il proprio trend di crescita, tuttavia, non hanno alcuna motivazione che giustifichi le rivoluzione dello status quo o che spinga a combattere l’odio e la disinformazione più plateale. Anzi, mettersi a ostracizzare simili tossicità non fa altro che causare problemi, alle Big Tech.

I was an eng leader on Facebook’s NewsFeed and my team was responsible for the feed ranking platform.

Every few days an engineer would get paged that a metric e.g., “likes” or “comments” is down.

It usually translated to a Machine Learning model performance issue. /thread

— Krishna Gade (@krishnagade) February 11, 2021

Facebook è invero dotato di un gruppo che si occupa di migliorare in chiave etica l’intelligenza artificiale, ma ogni miglioria si traduce immancabilmente con risultati negativi sull’engagement del portale, con il risultato che i piani alti sollecitano il team perché siano apportate modifiche in modo che il tutto venga riportato alla normalità, di fatto inficiando gli aggiornamenti.

Il colosso dei social network è particolarmente consapevole di come i contenuti “controversi” siano il suo asso nella manica e vi ci gioca senza remora alcuna. Report interni all’azienda raccontano come già nel 2016 i dirigenti fossero consapevoli che il “64 per cento di tutte le adesioni ai gruppi estremisti [di Facebook] siano causati dai nostri strumenti di raccomandazione”.

I modelli che massimizzano il coinvolgimento dell’utente, che lo spingono a mettere i “like“, che lo convincono a commentare, sono anche quelli che fomentano la polarizzazione delle sue vedute, cosa che porta a sua volta a visioni assolutiste e inconciliabili con il resto del mondo, allucinazioni perverse sfumate da un piano digitale.

Una dimostrazione grafica delle priorità dei social media ci viene offerta da un’interessante ricerca elaborata Walter Quattociocchi del Dipartimento di Informatica dell’università Sapienza di Roma, il quale ha analizzato l’effetto “camera eco” per studiare come i portali influenzino l’esposizione delle notizie.

Secondo la teoria della polarizzazione di gruppo, una camera eco rinforza le opinioni esistenti interne a un gruppo, con il risultato che tale gruppo si muove progressivamente verso posizioni estreme. Le posizioni estreme si traducono in un engagement maggiore, con i social network che sono inquietantemente a loro agio all’idea che i propri utenti scivolino sempre più verso posizioni radicali.

La scusante del primo emendamento

I social media hanno spesso giustificato il loro stoicismo nei confronti della moderazione dei contenuti difendendosi dietro al paravento della libertà di parola. L’idea è quella che non spetti a un’azienda privata il definire cosa sia o non sia accettabile caricare sulla Rete, fintanto che si rimane entro i binari della legalità. Le Big Tech non sarebbero dunque degli editori, ma dei semplici ospiti che permettono all’umanità di esprimere le proprie idee e di socializzare.

Menzogne. Pur non tenendo conto di come le IA siano state addestrate per promuovere o nascondere certi contenuti – cosa che di per sé rappresenterebbe già un ruolo attivo nella diffusione delle informazioni -, è innegabile che le ditte in questione non si facciano problemi a rimuovere in maniera efficiente qualsiasi contenuto che sia finanziariamente scomodo ai loro interessi, anche fosse la presenza dei capezzoli nelle foto di Instagram.

Come abbiamo visto, poi, le policy – normative interne che non necessariamente sono coincidenti con le leggi delle diverse nazioni – sono frequentemente applicate in maniera incoerente, incostante. I social network non rispondono puntualmente alle regole nazionali -anzi, alle volte le contestano pure -, tuttavia i loro atteggiamenti non sono neppure pienamente in linea con i propri codici di condotta, visto che sono disposti a chiudere un occhio quando l’essere troppo rigidi causa delle inconvenienze.

Documenti e report suggeriscono che i social fossero consapevoli da anni degli atteggiamenti tossici presenti sui propri portali, eppure hanno iniziato ad assumere una posizione più eclatante solo nel momento in cui si sono accorti che i Governi di tutto il mondo non fossero più disposti a tollerare lo strapotere delle Big Tech. Facebook, per esempio, si è arlecchinamente lanciato nel combattere la disinformazione e l’hate speech non appena ha capito che l’ex Presidente USA Donald Trump – grande maestro della bufala estremista – non sarebbe stato rieletto.

Questa tendenza a voltar direzione a seconda di come tira il vento è una pericolosa arma a doppio taglio: la polarizzazione, infatti, non riguarda solamente gli estremismi più smaccati, ma coinvolge anche casi più sfumati che, letti senza la dovuta attenzione, possono sembrare marginali, quali la “hate cancel culture”.

Che si parli del sedicente scandalo giornalistico Gamergate o della lotta massiva alle posizioni di J.K. Rowling sui diritti dei transessuali, che si tratti di visioni di destra o progetti di sinistra, il gruppo con un “miglior” engagement social finisce comunque con il monopolizzare gli algoritmi, i quali, a loro volta, fomentano nei fatti una censura di pensiero priva di padroni e ideologie. Si tratta di una totale assenza di confronto, di dibattito, schiava dei dati di traffico e del pubblico intrattenimento.

Eppure, alla fine, non è colpa dei social

La sensibilità pubblica sta sempre più prendendo coscienza della tossicità degli algoritmi internettiani ed è ormai chiaro che vi sia una connessione tra estremismi e social network, tuttavia non è il caso di vedere in Facebook, Twitter e omologhi la causa madre di ogni male. Questi servizi non peccano certamente di virtuosità, eppure si limitano ad approfittare di un fenomeno esistente a priori, di amplificarlo e di potenziarlo.

La polarizzazione e il complottismo sono meccanismi endemici dell’essere umano, nascono da condizioni sociopolitiche in cui gli abitanti si sentono vittime dell’ansia e depauperati del proprio potere. I gruppi cercano di soddisfare un bisogno di appartenenza, di senso e di autostima mentre si muovono in quella che Ulrich Beck avrebbe definito come una società del rischio in cui ormai non abbiamo più la capacità di prevedere i pericoli legati alle conquiste del progresso tecnologico.

Tutto questo collima con un periodo storico in cui molte persone si vedono vittime di una discesa dell’ascensore sociale, cosa che a sua volta fomenta le vene populiste che vengono sfruttate da chiunque sia propenso a sciolinare messaggi digeribili e consolatori, magari promettendo un ritorno a mitologiche epoche d’oro.

No, il problema non sono i social network. Il problema è a monte e prima o poi dovremo imparare a farci i conti. Nel frattempo vale comunque la pena di rivedere le dinamiche di quelle Big Tech che stanno gettando benzina sul fuoco, che stanno fomentando il malessere pre-esistente. Non a colpi di nuove leggi, ma costituendo meccanismi per cui la convenienza economica del sostenere la controversia venga finalmente abbattuta.

Di modelli economici alternativi alla raccolta e alla vendita di dati, d’altronde, ne vediamo sempre più, a partire dai servizi di videostreaming e al giornalismo che si sostengono grazie a formule di abbonamento. Questi fenomeni dimostrano che la qualità sia in grado di accattivarsi un suo pubblico, che le persone siano ormai pronte a investire i propri guadagni in servizi digitali e che non sia imperativo approfittare delle amenità, per trarre profitto.

 

 

The Gateway è il magazine settimanale di Lega Nerd che vi parla del mondo della tecnologia e dell’innovazione.