Facebook non è mai stato così nei guai, forse nemmeno dopo lo scandalo Cambridge Analytica. L’enorme down che ha mandato offline tutti i servizi dell’azienda lo scorso lunedì è soltanto la punta dell’iceberg. Una ex dirigente di Facebook, la talpa Frances Haugen, ha vuotato il sacco. Dalle sue rivelazioni è nato The Facebook Files, un’importante inchiesta del Wall Street Journal che potrebbe avere gravi e durature conseguenze per l’azienda di Mark Zuckerberg.

The Facebook Files, tutti i segreti del social

C’è un motivo se l’inchiesta del Wall Street Journal rischia di avere un impatto su Facebook più di qualsiasi altra denuncia del passato: si basa quasi esclusivamente su documenti interni dell’azienda, trafugati e divulgati dalla stessa Haugen.

Frances Haugen

Le rivelazioni dei Facebook Files:

Gli Utenti VIP

Alcuni utenti di Facebook sono più uguali degli altri. Il social non applica le stesse regole per tutti i suoi utenti: esiste una lista di circa 6 milioni di VIP esentati dalle normali policy di moderazione. Questo in passato ha lasciato impuniti i comportamenti discutibili di diverse celebrity. Il programma d’immunità per i VIP si chiama XCheck.

I Teenager e Instagram

Facebook è consapevole che Instagram ha dei gravi effetti sul benessere psicologico dei suoi utenti, in particolare su quella delle adolescenti. Una ricerca interna del social ha individuato una correlazione tra l’utilizzo del social e lo sviluppo di scarsa autostima e depressione. Nonostante questa consapevolezza, Facebook non ha mai preso i provvedimenti necessari per porvi rimedio

Il cambio di algoritmo del 2018

Nel 2018 Facebook ha cambiato gli algoritmi del suo newsfeed. Il risultato è stato quello di creare una macchina che si alimenta dell’odio e dell’indignazione degli utenti. Sono i post più polarizzanti a generare traffico e Facebook lo sa.

Dopo il cambiamento del 2018 gli utenti di Facebook sono diventati in media più arrabbiati. Alcuni dipendenti suggerirono diversi cambiamenti utili per risolvere il problema, Zuckerberg bocciò la maggior parte delle proposte temendo che avrebbero portato ad un drastico calo dell’utilizzo del social.

Illegalità e mercati emergenti

Facebook non è stato in grado di gestire e reprimere gravissimi episodi di illegalità avvenuti proprio grazie ai suoi social. Nel 2019 diversi dipendenti avevano segnalato come un cartello della droga messicano stesse usando, con successo, Facebook e Instagram per reclutare nuovi sicari. Nonostante l’allarme lanciato con urgenza dai moderatori, l’azienda non ha preso nessun provvedimento efficace per contrastare la propaganda della criminalità organizzata.

La situazione è ancora più grave nei cosiddetti mercati emergenti – Medioriente e Africa, soprattutto -, dove Facebook non è stato in grado di reprimere episodi diffusi di traffico di esseri umani (con inserzioni sui social) o di incitamento alla violenza contro le minoranze etniche. C’è un motivo, spiega il WSJ: Facebook ha annunciato trionfalmente di aver investito 13 miliardi di dollari per potenziare la sicurezza dei suoi social, ma questi fondi non sono distribuiti equamente tra le nazioni dove l’azienda è operativa.

Così succede che intere aree geografiche siano completamente sprovviste di moderatori: nessuno dei contractor di Facebook parla le lingue o i dialetti necessari per comprendere ed identificare l’attività criminale.

I NoVax

Facebook non ha vinto la guerra contro i NoVax. Mark Zuckerberg era genuinamente convinto di poter usare i suoi social a fin di bene, guidando la campagna di vaccinazione negli USA e nel resto del mondo. La realtà è ben diversa: il social network è stato invaso dalla propaganda complottista dei NoVax, che ha alimentato i dubbi e le divisioni su un tema di vitale importanza.

Questo forse fa più paura del resto: Mark Zuckerberg voleva fare la differenza in positivo ma non ci è riuscito, perché Facebook è ormai una macchina infernale impossibile da governare.

Chi è Frances Haugen

Fino a pochi giorni fa non si conosceva l’identità della talpa – whistleblower, come si dice in gergo negli USA – che ha reso possibile l’inchiesta su Facebook. Si è fatta avanti lei la scorsa domenica, dando una intervista in esclusiva al programma 60 Minutes della CBS.

Frances Haugen a 60 Minutes

Frances Haugen ha 37 anni ed un curriculum di tutto rispetto, prima di Facebook aveva già lavorato per Google e Pinterest. È entrata a far parte dell’azienda di Mark Zuckerberg nel 2019, diventando una dei 200 dipendenti del Civic Integrity team, squadra che aveva il compito di vigilare sull’integrità delle elezioni presidenziali del 2020, in modo da non ripetere gli errori commessi quattro anni prima.

La Haugen ha iniziato a condividere il materiale riservato con il Wall Street Journal proprio dopo lo scioglimento del Civic Integrity team, che a suo dire aveva ottenuto risultati molto modesti rispetto le sue aspettative, anche perché i dirigenti avevano dato loro appena tre mesi di tempo per costruire un sistema monumentale che avrebbe dovuto contrastare automaticamente la disinformazione. Non lavora più per Facebook da aprile del 2021.

Quello che ho visto ancora ed ancora lavorando per Facebook è che l’azienda si scontrava sempre con lo stesso conflitto d’interessi: da una parte quello che è negli interessi delle persone, dall’altra quello che è negli interessi di Facebook. E Facebook ha ripetutamente dato la precedenza ai suoi interessi, a come fare più soldi

l’intervista della CBS alla Haugen inizia con queste parole.

Nell’intervista la Haugen ha anche spiegato un fatto curioso: la maggior parte dei documenti forniti ai giornalisti sono disponibili per la consultazione a tutti i dipendenti, a prescindere dal loro ruolo all’interno dell’azienda, senza nessuna forma di protezione. Facebook ha una sorta di libreria interna – Facebook Workplace – accessibile a tutti.

Ammesso che le dichiarazioni della talpa corrispondano al vero, se solo Facebook avesse avuto quel minimo di buon senso richiesto per proteggere i file più “scottanti”, probabilmente non avremmo mai avuto questa inchiesta.

È solo l’inizio: le audizioni al Senato e la denuncia alla SEC

Questa settimana Frances Haugen è stata ascoltata dal Senato degli Stati Uniti d’America. Durante l’audizione la whistleblower ha detto di ritenere possibile un Facebook diverso, dove gli interessi degli utenti vengono privilegiati rispetto agli utili dell’azienda, ma che questo avrebbe comunque delle conseguenze importanti per gli azionisti:

I cambiamenti di cui ho parlato in questi giorni non renderebbero Facebook una compagnia in perdita, ma sicuramente non sarebbe la compagnia con gli utili immensi che è oggi. Semplicemente le persone passerebbero meno tempo sul social e Facebook farebbe comunque profitti.

La Haugen ha anche sminuito le capacità di Facebook di contrastare efficacemente la disinformazione e in particolare quella sui vaccini: «si affidano quasi esclusivamente ad intelligenze artificiali che sono in grado, e questo loro lo sanno, di bloccare a malappena il 10-20% dei contenuti», ha detto.

Nella conclusione del suo intervento in aula Frances Haugen ha invitato altri dipendenti di Facebook e della Silicon Valley a farsi avanti usando i canali di denuncia istituzionali, ossia il Parlamento e la SEC.

Proprio alla SEC la talpa ha presentato una denuncia che potrebbe avere conseguenze devastanti per Facebook. La denuncia, tra le altre cose, accusa Facebook di mentire da anni agli inserzionisti sulle reali dimensioni della sua base utenti, manipolando soprattutto i numeri delle fasce demografiche più giovani. In questo modo l’azienda avrebbe addebitato agli inserzionisti cifre molto più alte di quello che sarebbe giustificabile, ma non solo: avrebbe anche influenzato la quotazione delle sue azioni, fornendo al mercato informazioni fuorvianti o completamente false.

Facebook sta manipolando alcune delle metriche principali, agli investitori e agli inserzionisti vengono proposti numeri non corretti. La manipolazione dei dati riguarda anche il numero di contenuti prodotti e la crescita del numero di utenti individuali iscritti e attivi (soprattutto per le demografiche di maggiore valore)

si legge nella denuncia. Sarà compito della SEC aprire un’indagine ed approfondire questa e le altre accuse mosse dalla Haugen. Facebook è un’azienda quotata in borsa e risponde a norme che impongono la massima trasparenza e deontologia.

Dopo le dichiarazioni della talpa, Facebook si trova attaccato da due fronti: politica da una parte e authority dall’altra. La partita è appena iniziata.

 

The Gateway è il magazine settimanale di Lega Nerd che vi parla del mondo della tecnologia e dell’innovazione.