Episodio 3

LA RIMOZIONE DI DONALD TRUMP. Prima parte: ottobre 2020 - 6 gennaio

Il mondo conosce gran parte della storia di ciò che è accaduto tra gli scontri in Campidoglio del 6 gennaio e la rimozione del presidente Donald Trump da Twitter l'8 gennaio...

Vi mostreremo ciò che non è stato rivelato: l'erosione degli standard all'interno dell'azienda nei mesi precedenti al J6, le decisioni di dirigenti di alto livello di violare le proprie politiche e altro ancora, sullo sfondo di un'interazione continua e documentata con le agenzie federali.

Questa prima puntata copre il periodo precedente alle elezioni fino al 6 gennaio. Domani, @Shellenbergermd descriverà il caos all'interno di Twitter il 7 gennaio. Domenica, @BariWeiss rivelerà le comunicazioni interne segrete a partire dalla data chiave dell'8 gennaio.

Qualunque sia la vostra opinione sulla decisione di rimuovere Trump quel giorno, le comunicazioni interne a Twitter tra il 6 e l'8 gennaio hanno una chiara importanza storica. Anche i dipendenti di Twitter hanno capito subito che si trattava di un momento storico negli annali del discorso.

Non appena hanno finito di bandire Trump, i dirigenti di Twitter hanno iniziato a elaborare nuovi poteri. Si sono preparati a bandire i futuri presidenti e le future Case Bianche, forse anche Joe Biden. La "nuova amministrazione", dice un dirigente, "non sarà sospesa da Twitter a meno che non sia assolutamente necessario".

I dirigenti di Twitter hanno rimosso Trump in parte per quello che un dirigente ha definito il "contesto circostante": le azioni di Trump e dei suoi sostenitori "nel corso delle elezioni e francamente negli ultimi 4+ anni". Alla fine, hanno guardato a un quadro generale. Ma questo approccio può essere di duplice natura.

Il grosso del dibattito interno che ha portato al divieto di Trump si è svolto in quei tre giorni di gennaio. Tuttavia, il quadro intellettuale è stato definito nei mesi precedenti le rivolte in Campidoglio.

Prima del J6, Twitter era un mix unico di applicazione automatizzata e basata su regole e di moderazione più soggettiva da parte dei dirigenti. Come ha riferito @BariWeiss, l'azienda disponeva di una vasta gamma di strumenti per manipolare la visibilità, la maggior parte dei quali sono stati lanciati contro Trump (e altri) prima del J6.

Con l'avvicinarsi delle elezioni, i dirigenti - forse sotto la pressione delle agenzie federali, con le quali si sono incontrati di più con il passare del tempo - si sono trovati sempre più in difficoltà con le regole e hanno iniziato a parlare di "vios" come pretesto per fare ciò che probabilmente avrebbero fatto comunque.

Dopo il J6, gli Slack interni mostrano come i dirigenti di Twitter si divertano a intensificare i rapporti con le agenzie federali. Ecco il responsabile di Trust and Safety Yoel Roth, che lamenta la mancanza di descrizioni del calendario "abbastanza generiche" per nascondere i suoi partner di riunione "molto interessanti".

Questi rapporti iniziali si basano su ricerche di documenti legati a dirigenti di spicco, i cui nomi sono già pubblici. Tra questi ci sono Roth, l'ex capo del settore fiduciario e politico Vijaya Gadde e il vice consigliere generale (ed ex avvocato dell'FBI) Jim Baker, recentemente licenziato.

Un canale slack in particolare offre una finestra unica sull'evoluzione del pensiero dei funzionari di alto livello alla fine del 2020 e all'inizio del 2021.

L'8 ottobre 2020, i dirigenti hanno aperto un canale chiamato "us2020_xfn_enforcement". Attraverso J6, questo canale sarebbe stato la sede delle discussioni sulle rimozioni legate alle elezioni, in particolare quelle che coinvolgevano account di "alto profilo" (spesso chiamati "VIT" o "Very Important Tweeters").

C'era almeno un po' di tensione tra le Operazioni di sicurezza - un dipartimento più grande il cui personale utilizzava un processo più basato sulle regole per affrontare problemi come la pornografia, le truffe e le minacce - e un gruppo più piccolo e più potente di alti dirigenti politici come Roth e Gadde.

Quest'ultimo gruppo era una Corte Suprema di moderazione ad alta velocità, che emetteva sentenze sui contenuti al volo, spesso in pochi minuti e basandosi su supposizioni, valutazioni istintive, persino ricerche su Google, anche in casi che coinvolgevano il Presidente.

Durante questo periodo, i dirigenti erano chiaramente in contatto con le forze dell'ordine e le agenzie di intelligence federali per la moderazione dei contenuti legati alle elezioni. Anche se siamo ancora all'inizio dell'esame dei #TwitterFiles, stiamo scoprendo ogni giorno di più su queste interazioni.

Al direttore delle politiche Nick Pickles è stato chiesto se Twitter debba dire che individua le "informazioni errate" attraverso "ML, revisione umana e **partnership con esperti esterni?". Il dipendente chiede: "So che è stato un processo scivoloso... non sono sicuro che tu voglia che la nostra spiegazione pubblica sia appesa a questo".

Pickles chiede rapidamente se possono "dire semplicemente "collaborazioni"". Dopo una pausa, dice: "Ad esempio, non siamo sicuri di descrivere l'FBI/DHS come esperti".

Questo post sulla situazione del laptop di Hunter Biden mostra che Roth non solo si è incontrato settimanalmente con l'FBI e il DHS, ma anche con l'Ufficio del Direttore dell'Intelligence Nazionale (DNI):

Il rapporto di Roth a FBI/DHS/DNI è quasi farsesco nel suo tono autoflagellante:
"Abbiamo bloccato la storia del NYP, poi l'abbiamo sbloccata (ma dicendo il contrario)... le comunicazioni sono arrabbiate, i giornalisti pensano che siamo degli idioti... in breve, FML" (fuck my life).

Alcuni degli Slack successivi di Roth indicano che i suoi colloqui settimanali con le forze dell'ordine federali prevedevano incontri separati. In questo caso, egli fa da fantasma all'FBI e al DHS, rispettivamente, per andare prima a una "cosa dell'Aspen Institute" e poi per rispondere a una telefonata con Apple.

In questo caso, l'FBI invia rapporti su un paio di tweet, il secondo dei quali riguarda un ex consigliere della contea di Tippecanoe, Indiana, e repubblicano di nome @JohnBasham, che sostiene che "tra il 2% e il 25% dei voti per posta vengono rifiutati per errori".

Il secondo rapporto dell'FBI riguardava questo tweet di @JohnBasham:

Il tweet contrassegnato dall'FBI è poi circolato nello Slack delle forze dell'ordine. Twitter ha citato Politifact per dire che la prima storia è stata "provata come falsa", poi ha notato che la seconda era già stata giudicata "non vera in numerose occasioni".

Il gruppo decide poi di applicare l'etichetta "Impara come il voto è sicuro e protetto" perché un commentatore dice che "è assolutamente normale avere un tasso di errore del 2%". Roth dà quindi il via libera definitivo al processo avviato dall'FBI:

Esaminando l'intera applicazione Slack delle elezioni, non abbiamo visto alcun riferimento a richieste di moderazione da parte della campagna di Trump, della Casa Bianca di Trump o dei repubblicani in generale. Abbiamo cercato. Potrebbero esistere: ci è stato detto che esistono. Tuttavia, in questo caso erano assenti.

In un caso, l'ex governatore dell'Arkansas Mike Huckabee ha twittato scherzosamente di inviare le schede elettorali per i suoi "genitori e nonni defunti".

Questo ispira un lungo Slack che sembra una parodia di @TitaniaMcGrath. "Sono d'accordo che si tratta di uno scherzo", ammette un dipendente di Twitter, "ma sta anche letteralmente ammettendo in un tweet un crimine".

Il gruppo dichiara che Huck è un "caso limite" e, sebbene uno faccia notare che "non facciamo eccezioni per gli scherzi o la satira", alla fine decide di lasciarlo stare, perché "abbiamo punzecchiato abbastanza orsi".

"Potrebbe ancora ingannare la gente... potrebbe ancora ingannare la gente", dichiara il gruppo avverso all'umorismo, prima di passare a Huckabee

Roth suggerisce che la moderazione anche in questo caso assurdo potrebbe dipendere dal fatto che lo scherzo generi o meno "confusione". Questo caso, apparentemente sciocco, prefigura in realtà seri problemi successivi:

Nei documenti, i dirigenti spesso ampliano i criteri a questioni soggettive come l'intento (sì, un video è autentico, ma perché è stato mostrato?), l'orientamento (un tweet vietato è stato mostrato per condannare o per sostenere?) o la ricezione (una battuta ha causato "confusione"?). Questo riflesso diventerà fondamentale nel J6.

In un altro esempio, i dipendenti di Twitter si preparano ad apporre un'etichetta di avvertimento "il voto per posta è sicuro" su un tweet di Trump relativo a un errore postale in Ohio, prima di rendersi conto che "gli eventi hanno avuto luogo", il che significa che il tweet era "fattualmente accurato":

"Trump è stato sottoposto a un "filtro di visibilità" già una settimana prima delle elezioni. In questo caso, i dirigenti non sembravano avere una particolare violazione, ma hanno comunque lavorato velocemente per assicurarsi che un tweet abbastanza anodino di Trump non potesse essere "risposto, condiviso o apprezzato":

"MOLTO BENE FATTO IN VELOCITÀ": il gruppo si rallegra che il tweet di Trump sia stato trattato rapidamente

Un follow-up apparentemente innocuo ha riguardato un tweet dell'attore @realJamesWoods, la cui presenza onnipresente nei set di dati Twitter discussi è già una battuta di #TwitterFiles.

Dopo che Woods ha twittato con rabbia l'etichetta di avvertimento di Trump, lo staff di Twitter - in un'anticipazione di ciò che è accaduto dopo il J6 - ha disperato di avere un motivo per agire, ma ha deciso di "colpirlo duramente su futuri vizi".

Qui viene applicata un'etichetta alla deputata repubblicana della Georgia Jody Hice per aver detto: "Dite NO alla censura delle big tech!" e "Le schede elettorali inviate per posta sono più soggette a frodi rispetto a quelle di persona... È solo buon senso".

I team di Twitter ci sono andati piano con Hice, applicando solo un "intervento morbido", mentre Roth si preoccupava di un contraccolpo ottico di "censura wah wah":

Nel frattempo, ci sono diversi casi di tweet coinvolgenti a favore di Biden che avvertono che Trump "potrebbe tentare di rubare le elezioni" che sono emersi, solo per essere approvati dai dirigenti. Questo, decidono, "esprime solo la preoccupazione che le schede elettorali inviate per posta possano non arrivare in tempo".

"È COMPRENSIBILE": Anche l'hashtag #StealOurVotes - che fa riferimento a una teoria secondo cui una combinazione di Amy Coney Barrett e Trump ruberà le elezioni - è approvato dai vertici di Twitter, perché è "comprensibile" e un "riferimento a... una decisione della Corte Suprema degli Stati Uniti".

In questo scambio, ancora una volta involontariamente umoristico, l'ex procuratore generale Eric Holder ha affermato che il servizio postale degli Stati Uniti è stato "deliberatamente paralizzato", apparentemente dall'amministrazione Trump. Inizialmente gli è stata apposta un'etichetta di avvertimento generica, ma è stata subito tolta da Roth:

Più tardi, nel novembre 2020, Roth ha chiesto se il personale avesse un "momento di debunk" sulle storie di "SCYTL/Smartmantic vote-counting", che i suoi contatti al DHS gli hanno detto essere una combinazione di "circa 47" teorie cospirative:

Il 10 dicembre, mentre Trump era nel bel mezzo di 25 tweet che dicevano cose come "Un colpo di stato si sta svolgendo davanti ai nostri occhi", i dirigenti di Twitter hanno annunciato un nuovo strumento di "deamplificazione L3". Questo passo significava che ora anche un'etichetta di avvertimento poteva essere accompagnata dalla deamplificazione:

Alcuni dirigenti hanno voluto utilizzare il nuovo strumento di deamplificazione per limitare silenziosamente la portata di Trump fin da subito, iniziando con il seguente tweet:

Tuttavia, alla fine il team ha dovuto utilizzare strumenti di etichettatura più vecchi e meno aggressivi, almeno per quel giorno, fino a quando le "entità L3" non sono entrate in funzione la mattina seguente.

Il significato è che dimostra che Twitter, almeno nel 2020, stava impiegando una vasta gamma di strumenti visibili e invisibili per contenere l'impegno di Trump, molto prima del J6. Il divieto arriverà dopo aver esaurito le altre strade percorribili.

Nei documenti di Twitter i dirigenti fanno spesso riferimento ai "bot", ad esempio "mettiamo un bot su questo". Un bot è una qualsiasi regola di moderazione euristica automatizzata. Può essere qualsiasi cosa: ogni volta che una persona in Brasile usa "verde" e "blob" nella stessa frase, potrebbero essere presi provvedimenti.

In questo caso, sembra che i moderatori abbiano aggiunto un bot per un'affermazione di Trump fatta su Breitbart. Il bot finisce per diventare uno strumento automatizzato che controlla invisibilmente sia Trump che, a quanto pare, Breitbart ("aggiungerà l'ID dei media al bot"). Trump by J6 è stato rapidamente ricoperto di bot.

Non c'è modo di seguire i frenetici scambi tra il personale di Twitter tra il 6 e l'8 gennaio senza conoscere le basi del vasto lessico dell'azienda, fatto di acronimi e parole orwelliane.

"Rimbalzare" un account significa metterlo in timeout, di solito per una revisione/raffreddamento di 12 ore:

"Interstitial", uno dei tanti nomi usati come verbo nel linguaggio di Twitters ("denylist" è un altro), significa mettere un'etichetta fisica sopra un tweet, in modo che non possa essere visto.

PII ha molteplici significati, uno dei quali è "Public Interest Interstitial", ovvero un'etichetta di copertura applicata per motivi di "interesse pubblico". Il post qui sotto fa riferimento anche a "proactive V", ovvero al filtraggio proattivo della visibilità.

Questo è tutto il contesto necessario per J6. Prima delle rivolte, l'azienda era impegnata in un progetto intrinsecamente folle/impossibile, cercando di creare un insieme di regole in continua espansione, apparentemente razionali, per disciplinare ogni possibile situazione di conversazione tra esseri umani.

Questo progetto era assurdo, ma i suoi leader non erano in grado di rendersene conto, essendo stati contagiati dal groupthing, arrivando a credere - sinceramente - che fosse responsabilità di Twitter controllare, per quanto possibile, ciò di cui le persone potevano parlare, con quale frequenza e con chi.

Quando il panico si scatena per la prima volta su J6, c'è una buona dose di post di tipo WTF, mescolati a frenetiche richieste di Twitter di iniziare a utilizzare tutto il suo arsenale di strumenti di moderazione. "Qual è il rimedio giusto? Interstiamo il video?", chiede un dipendente, disperato:

Il primo giorno della crisi del 6 gennaio, i dirigenti dell'azienda hanno almeno cercato di rispettare a parole la sua vertiginosa serie di regole. Il secondo giorno hanno iniziato a vacillare. Il terzo giorno, un milione di regole sono state ridotte a una sola: ciò che diciamo, va bene.

Questo tweet "Libertà o morte" di Mike Coudrey, gadfly di #StopTheSteal, suscita reazioni accese:

Roth si lamenta di Coudrey: "QUESTO stronzo", ma sembra ancora determinato ad attenersi almeno superficialmente alle regole, desideroso di agire "se" questo "costituisce incitamento".

Alle 14:39 PST, un funzionario delle comunicazioni ha chiesto a Roth di confermare o smentire la notizia secondo cui avrebbero limitato la possibilità di Trump di twittare. Roth risponde: "Non l'abbiamo fatto".

Pochi minuti dopo, Roth ha compiuto l'atto storico di "rimbalzare" Trump, cioè di metterlo in timeout. "Spero che tu... sia adeguatamente protetto dal CorpSec", dice un collega.

Questo tema della politica forse stressata dalle domande dei dirigenti delle comunicazioni - che a loro volta devono rispondere alle domande del pubblico - appare di tanto in tanto. Due giorni dopo, si parla di togliere le comunicazioni dal giro:

La prima e-mail inviata da Gadde a tutta l'azienda il 6 gennaio annunciava che 3 tweet di Trump erano stati rimbalzati, ma soprattutto segnalava la volontà di utilizzare le "violazioni" legittime come guida per un'eventuale sospensione permanente:

"MA CHE CAZZO?" Si può dire che il tweet di Trump "Go home with love & in peace" nel bel mezzo della rivolta non è stato accolto bene dal quartier generale di Twitter:

Qualche ultima nota sul 6 gennaio. Roth a un certo punto ha controllato e ha scoperto che Trump aveva una serie di richieste di bot duplicate:

Alla fine del primo giorno, i dirigenti stanno ancora cercando di applicare le regole. Entro il giorno successivo, prenderanno in considerazione un importante cambiamento di approccio. Guardate @shellenbergerMD questo fine settimana per la telecronaca di come sono andate le cose.

Entro l'8 gennaio, che @BariWeiss descriverà domenica, Twitter riceverà il plauso dei "nostri partner" a Washington e il presidente degli Stati Uniti in carica non sarà più ascoltato sulla piattaforma.

Infine, le persone di sinistra, di destra e di mezzo vogliono sapere cos'altro c'è nei #TwitterFiles, dalla soppressione/obliterazione di persone di sinistra ai teorici della fuga di notizie dai laboratori, o all'amplificazione della propaganda militare o degli account conservatori. Sappiamo che tutti hanno delle domande.