Quando l’indignazione conviene agli algoritmi

di Ezra Klein (internazionale.it, 2 maggio 2021)

A marzo Alexi McCammond, da poco nominata direttrice della rivista Teen Vogue, si è dimessa per le polemiche su una serie di tweet offensivi che aveva scritto dieci anni fa, quando aveva diciassette anni. A gennaio Will Wilkinson ha perso il suo lavoro di vicepresidente del Niskanen Center, un centro studi conservatore, per un tweet satirico in cui diceva in modo ironico che i repubblicani volevano impiccare Mike Pence, che allora era vicepresidente degli Stati Uniti; Wilkinson è stato sospeso anche dal suo incarico di editorialista del New York Times. Discutere se queste sanzioni siano state giuste o meno è sbagliato, perché non si è trattato di verdetti ponderati presi nell’interesse della collettività, ma di azioni di aziende che fanno i propri interessi, e che hanno deciso che i loro dipendenti erano diventati un peso.

Getty Images
Getty Images

Teen Vogue, che fa parte del gruppo Condé Nast, negli ultimi anni si è ricostruita una reputazione di rivista di sinistra ispirata a princìpi antirazzisti. Il Niskanen Center si fa forte della sua presunta influenza sui deputati del Partito Repubblicano. Entrambe le aziende stavano cercando di proteggersi. Questo suggerisce un modo diverso, e più utile, di pensare a quell’entità amorfa che chiamiamo cancel culture. In questi casi la “cancellazione” – una sorta di condanna all’ostracismo, realizzata attraverso il licenziamento o il boicottaggio economico – avviene quando le opinioni di un dipendente generano un’attenzione pubblica che minaccia i profitti, l’influenza o la reputazione del datore di lavoro. Non è una questione di wokeness, di coscienza politica e civile. Il motivo è economico, e i protagonisti sono le aziende proprietarie dei social network e i datori di lavoro delle persone che hanno perso il posto.

Stabilire dei confini fuori dai quali le opinioni non sono accettabili non è un fatto nuovo. Vi ricordate la rabbia dopo gli attentati dell’11 settembre 2001 contro qualsiasi candidato non esibisse una spilla con la bandiera statunitense? Quello che è cambiato è il ruolo dei social network nel concentrare lo sdegno e nello spaventare i datori di lavoro. E anche questo è un problema economico, non culturale. Le piattaforme social e i proprietari dei mezzi d’informazione vogliono attirare persone verso i loro siti. Lo fanno, in parte, adattando le piattaforme, le homepage e gli articoli in modo da far emergere contenuti che fanno indignare il pubblico.

Charlie Warzel, mio ex collega al New York Times, indica la trending box di Twitter – una mappa aggiornata in tempo reale che mostra le parole chiave più discusse – come un esempio di questo fenomeno. Mostra bene come funziona la mano invisibile della tecnologia e dell’economia in quello che consideriamo un problema culturale. Spesso Twitter mette in evidenza qualcuno che ha detto qualcosa di stupido o di offensivo. O anche qualcuno che ha detto una cosa innocua, ma che semplicemente è stato frainteso. La trending box diffonde dei messaggi concepiti per una specifica comunità a tutte le comunità. Il contesto originale del tweet scompare, e qualsiasi cosa potesse giustificarlo si perde. L’assenza di contesto è peggiorata da un’altra caratteristica di Twitter: la citazione, attraverso la quale, invece di rispondere alla conversazione originale, si estrapola un tweet e si scrive qualcosa di tagliente al riguardo. Così la trending box concentra le attenzioni su una singola persona, che sta già vivendo un brutto momento, e la funzione di citazione del tweet incoraggia gli altri a manipolare il messaggio.

Non è solo un problema dei social network. Basta guardare Fox News una sera per vedere un tripudio di notizie che portano problemi locali all’attenzione di tutto il Paese senza avere alcun rispetto delle persone coinvolte. La Fox non è contraria alla cancel culture, vuole semplicemente controllarla. L’ostracismo a volte è meritato. È giusto che esprimere un’opinione abbia delle conseguenze. Ma molte volte chi partecipa all’accanimento digitale non vuole colpire qualcuno in particolare. Semplicemente, interviene nella conversazione in Rete di quel giorno. Critica un’idea offensiva, prende in giro qualcuno che se lo merita, va a caccia di retweet. Non sta cercando di far licenziare qualcuno. Ma, sommando tutti i singoli tweet, a volte si ottiene questo.

I modelli economici delle aziende che traggono profitto dall’attenzione degli utenti si scontrano con gli incentivi dei datori di lavoro a evitare la cattiva pubblicità. Uno dei modi in cui i social network hanno cambiato strutturalmente la gestione delle grandi aziende è l’aver reso più difficile ignorare i problemi di pubbliche relazioni. Un’indignazione che un tempo si sarebbe manifestata in maniera relativamente discreta – attraverso lettere, email o telefonate –, ora si scatena in pubblico. Si convocano riunioni in fretta e furia, si scomodano i dirigenti, ed è in queste situazioni che le persone vengono licenziate.

Una versione ancor più nociva di questo fenomeno agisce in modo retroattivo attraverso i risultati di ricerca in Rete. Un datore di lavoro che sta valutando una persona per un’assunzione può fare una semplice ricerca su Google, venire a conoscenza di un’imbarazzante polemica di tre anni prima e scegliere un altro candidato al suo posto. Oggi la wokeness esercita un particolare peso economico perché le grandi aziende, giustamente, non vogliono essere considerate razziste e omofobe. Ma immaginate in che modo i social network avrebbero sovraccaricato le tendenze alla censura che dominavano dopo l’11 settembre, quando anche le french fries, le patatine fritte, erano guardate con sospetto. La sociologa e critica culturale Tressie McMillan Cottom ha condiviso una riflessone sull’argomento in un podcast: “Uno dei problemi è che la vergogna sociale, a mio avviso di per sé sufficiente, normalmente, a disciplinare la maggior parte delle persone, oggi è legata al capitale economico, politico e culturale”.

Le persone dovrebbero essere rimproverate quando dicono qualcosa di terribile. Le sanzioni sociali sono un meccanismo fondamentale per cambiare le cose. Il problema è quando una frase pronunciata da una persona finisce per definire la sua identità in Rete, e le sue future opportunità economiche, politiche e personali. Non condivido l’affermazione secondo cui nessuno merita di essere definito dalla peggior azione che abbia mai fatto: bisognerebbe vedere quanti danni ha provocato quell’azione. Ma nessuno di noi merita di essere ridotto alla cosa più stupida che abbia mai detto solo perché l’algoritmo di Google ha notato che ha attirato più link.

Credo che tutto questo dovrebbe farci riflettere. Twitter dovrebbe ripensare la sua trending box e ragionare perlomeno sul ruolo che le citazioni dei tweet svolgono sulla sua piattaforma. Fox News dovrebbe smettere di essere Fox News. Tutti i social network dovrebbero pensare al modo in cui il loro algoritmo fa emergere l’indignazione e sovraccarica la tendenza umana a trasformarsi in censori. Il resto delle aziende statunitensi – compreso il mio settore, l’editoria – deve pensare che licenziare una persona sulla pubblica piazza è una punizione grave. Quando il licenziamento deriva da comportamenti privati o da scarso rendimento, rimane un fatto privato. Quando avviene per qualcosa che ha fatto indignare il web, può distruggere le prospettive economiche di una persona per anni. È sempre difficile valutare un caso specifico dall’esterno, ma ho visto un sacco di licenziamenti che probabilmente avrebbero meritato solo delle sospensioni o dei rimproveri. Questo solleva anche la questione delle nostre identità digitali. I risultati di ricerca su Google relativi a una persona possono definire il resto della sua vita, economicamente e non solo. Ma non abbiamo alcun controllo su quello che viene mostrato in quei risultati. Non è un problema facile da risolvere, ma le identità digitali che ci portiamo dietro sono troppo importanti perché siano determinate dalle pagine “termini e condizioni” di un’azienda.

Infine, sarebbe importante concentrarsi sul comportamento di chi vuole cancellare le altre persone. Dobbiamo fare attenzione al nostro modo di esprimerci in Rete. A meno che un’affermazione non sia davvero pericolosa, e che vogliamo il licenziamento di chi l’ha fatta – un obiettivo molto pesante, ma talvolta giustificato –, non si dovrebbero usare i social network per rincarare la dose degli attacchi a una persona. Se è un politico, un conduttore televisivo o un senatore, allora si tratta di politica. Ma le cose funzionano diversamente quando la persona in questione non è preparata a ricevere un tale livello di attenzione. Faremmo tutti meglio a ricordare che quello che appare come un tweet estemporaneo potrebbe avere conseguenze reali. Le proporzioni contano.

Quello che sto proponendo potrebbe, spero, attenuare un problema: il fatto che tante accuse on line possono portare a conseguenze economiche esagerate. I miei suggerimenti non risolveranno il conflitto politico su cosa sia accettabile dire, ed è giusto che sia così. Ci sono sempre state cose che non possiamo dire. Quelle cose stanno cambiando, ed era ora che fosse così. Gli equilibri di potere demografici stanno mutando, e i gruppi che avevano poca voce in capitolo stanno acquisendo una nuova voce. E la stanno usando. Lentamente e faticosamente, stiamo creando una società nella quale più persone possono parlare ed esprimersi a proposito del modo in cui si parla di loro. Spero però che riusciremo a evitare che questo conflitto faccia un favore ai modelli economici dei social network e alle priorità degli uffici marketing delle grandi aziende.