Épisode 3

Le retrait de Donald Trump. Première partie : octobre 2020 - 6 janvier

Le monde connaît en grande partie l'histoire de ce qui s'est passé entre les émeutes au Capitole le 6 janvier, et le retrait du président Donald Trump de Twitter le 8 janvier....

Nous vous montrerons ce qui n'a pas été révélé : l'érosion des normes au sein de l'entreprise dans les mois précédant le J6, les décisions prises par des cadres de haut rang de violer leurs propres politiques, et plus encore, sur fond d'interaction continue et documentée avec les agences fédérales.

Ce premier volet couvre la période précédant l'élection jusqu'au 6 janvier. Demain, @Shellenbergermd détaillera le chaos au sein de Twitter le 7 janvier. Dimanche, @BariWeiss révélera les communications internes secrètes à partir de la date clé du 8 janvier.

Quelle que soit votre opinion sur la décision de supprimer Trump ce jour-là, les communications internes de Twitter entre le 6 et le 8 janvier ont une importance historique évidente. Même les employés de Twitter ont compris sur le moment qu'il s'agissait d'un moment marquant dans les annales du discours.

Dès qu'ils ont fini de bannir Trump, les exécutifs de Twitter ont commencé à traiter un nouveau pouvoir. Ils se sont préparés à interdire les futurs présidents et maisons blanches - peut-être même Joe Biden. La "nouvelle administration", dit un cadre, "ne sera pas suspendue par Twitter sauf en cas de nécessité absolue."

Les dirigeants de Twitter ont retiré Trump en partie à cause de ce qu'un dirigeant a appelé le "contexte environnant" : les actions de Trump et de ses partisans "au cours de l'élection et franchement des 4+ dernières années." En fin de compte, ils ont regardé une image large. Mais cette approche peut être à double tranchant.

L'essentiel du débat interne qui a conduit à l'interdiction de Trump s'est déroulé durant ces trois jours de janvier. Cependant, le cadre intellectuel a été posé dans les mois précédant les émeutes du Capitole.

Avant J6, Twitter était un mélange unique d'application automatisée, basée sur des règles, et de modération plus subjective par des cadres supérieurs. Comme l'a signalé @BariWeiss, l'entreprise disposait d'une vaste gamme d'outils pour manipuler la visibilité, dont la plupart ont été lancés sur Trump (et d'autres) avant J6.

À l'approche de l'élection, les cadres supérieurs - peut-être sous la pression des agences fédérales, qu'ils rencontraient de plus en plus souvent au fil du temps - ont eu de plus en plus de mal à respecter les règles, et ont commencé à parler de "vios" comme de prétextes pour faire ce qu'ils auraient probablement fait de toute façon.

Après le J6, les Slacks internes montrent que les cadres de Twitter s'amusent de l'intensification des relations avec les agences fédérales. Voici le responsable de Trust and Safety, Yoel Roth, qui déplore le manque de descriptions de calendrier "suffisamment génériques" pour dissimuler ses partenaires de réunion "très intéressants".

Ces rapports initiaux sont basés sur des recherches de documents liés à des cadres importants, dont les noms sont déjà publics. Il s'agit notamment de Roth, de Vijaya Gadde, ancien responsable de la confiance et de la politique, et de Jim Baker, avocat général adjoint (et ancien haut responsable du FBI), qui a récemment quitté l'entreprise.

Un canal slack particulier offre une fenêtre unique sur l'évolution de la pensée des hauts fonctionnaires à la fin de 2020 et au début de 2021.

Le 8 octobre 2020, les dirigeants ont ouvert un canal appelé "us2020_xfn_enforcement". Par le biais de J6, ce canal serait le foyer des discussions sur les suppressions liées aux élections, en particulier celles qui impliquaient des comptes " très médiatisés " (souvent appelés " VIT " ou " Very Important Tweeters ").

Il y avait au moins une certaine tension entre Safety Operations - un département plus important dont le personnel utilisait un processus davantage fondé sur des règles pour traiter des questions telles que le porno, les escroqueries et les menaces - et un cadre plus petit et plus puissant de hauts responsables politiques comme Roth et Gadde.

Ce dernier groupe constituait une Cour suprême de modération à grande vitesse, rendant des décisions sur le contenu à la volée, souvent en quelques minutes et sur la base de suppositions, d'intuitions, voire de recherches sur Google, même dans les affaires impliquant le président.

Pendant ce temps, les dirigeants étaient aussi clairement en liaison avec les agences fédérales d'application de la loi et de renseignement au sujet de la modération du contenu lié aux élections. Bien que nous n'en soyons qu'au début de l'examen des #TwitterFiles, nous en apprenons chaque jour davantage sur ces interactions.

Le directeur politique Nick Pickles est interrogé sur le fait de savoir s'il faut dire que Twitter détecte les "fausses informations" par le biais du "ML, de l'examen humain et de **partenariats avec des experts extérieurs*". L'employé demande : "Je sais que c'est un processus glissant... je ne suis pas sûr que vous vouliez que notre explication publique soit rattachée à cela."

Pickles demande rapidement s'ils pourraient "simplement dire "partenariats"". Après une pause, il ajoute : "Par exemple, nous ne sommes pas sûrs de décrire le FBI/DHS comme des experts."

Ce post sur la situation de l'ordinateur portable de Hunter Biden montre que Roth a non seulement rencontré chaque semaine le FBI et le DHS, mais aussi le bureau du directeur du renseignement national (DNI) :

Le rapport de Roth au FBI/DHS/DNI est presque farfelu dans son ton d'auto-flagellation :
"Nous avons bloqué l'article du NYP, puis nous l'avons débloqué (mais en disant le contraire)... le service de communication est en colère, les journalistes nous prennent pour des idiots... en bref, FML" (fuck my life).

D'après les derniers Slacks de Roth, ses confessions hebdomadaires avec les forces de l'ordre impliquaient des réunions séparées. Ici, il supprime le FBI et le DHS, respectivement, pour se rendre d'abord à un "truc à l'Aspen Institute", puis à un appel avec Apple.

Ici, le FBI envoie des rapports sur une paire de tweets, dont le second implique un ancien conseiller municipal et républicain du comté de Tippecanoe, dans l'Indiana, nommé @JohnBasham, qui affirme qu'"entre 2 % et 25 % des bulletins de vote par courrier sont rejetés pour cause d'erreur".

Le second rapport du FBI concerne ce tweet de @JohnBasham :

Le tweet signalé par le FBI a ensuite circulé dans le Slack des forces de l'ordre. Twitter a cité Politifact pour dire que la première histoire était "prouvée fausse", puis a noté que la seconde avait déjà été jugée "non vio à de nombreuses reprises".

Le groupe décide ensuite d'apposer un label "Apprendre comment le vote est sûr et sécurisé" car, selon un commentateur, "il est tout à fait normal d'avoir un taux d'erreur de 2 %." Roth donne ensuite le feu vert final au processus initié par le FBI :

En examinant l'ensemble de l'application électorale Slack, nous n'avons pas vu une seule référence aux demandes de modération de la campagne Trump, de la Maison Blanche Trump ou des Républicains en général. Nous avons cherché. Elles peuvent exister : on nous a dit qu'elles existaient. Cependant, elles étaient absentes ici.

Dans un cas, l'ancien gouverneur de l'Arkansas, Mike Huckabee, tweete en plaisantant sur le fait qu'il a envoyé par courrier les bulletins de vote de ses "parents et grands-parents décédés".

Cela inspire un long Slack qui se lit comme une parodie de @TitaniaMcGrath. "Je suis d'accord pour dire que c'est une blague", concède un employé de Twitter, "mais il admet aussi littéralement dans un tweet un crime".

Le groupe déclare que Huck est un "cas limite", et bien que l'un d'entre eux note que "nous ne faisons pas d'exception pour les blagues ou la satire", ils décident finalement de le laisser tranquille, car "nous avons titillé assez d'ours".

"Pourrait encore induire les gens en erreur... pourrait encore induire les gens en erreur", déclare le groupe, peu enclin à l'humour, avant de passer à Huckabee.

Roth suggère que la modération, même dans ce cas absurde, pourrait dépendre du fait que la blague entraîne ou non une "confusion". Ce cas apparemment stupide préfigure en fait de graves problèmes ultérieurs :

Dans les documents, les dirigeants étendent souvent les critères à des questions subjectives comme l'intention (oui, une vidéo est authentique, mais pourquoi l'a-t-on montrée ?), l'orientation (un tweet interdit a-t-il été montré pour condamner ou soutenir ?) ou la réception (une blague a-t-elle causé une " confusion " ?). Ce réflexe deviendra essentiel dans le J6.

Dans un autre exemple, des employés de Twitter se préparent à apposer une étiquette d'avertissement "le vote par correspondance est sûr" sur un tweet de Trump concernant une erreur postale dans l'Ohio, avant de réaliser que "les événements ont eu lieu", ce qui signifie que le tweet était "factuellement exact" :

"TRÈS BIEN FAIT EN VITESSE " Trump faisait l'objet d'un "filtrage de visibilité" pas plus tard qu'une semaine avant l'élection. Ici, les cadres supérieurs ne semblaient pas avoir une violation particulière, mais ont tout de même travaillé rapidement pour s'assurer qu'un tweet assez anodin de Trump ne pouvait pas être "répondu, partagé ou aimé" :

"TRES BIEN FAIT EN VITESSE" : le groupe est heureux que le tweet de Trump soit traité rapidement.

Un suivi apparemment inoffensif a impliqué un tweet de l'acteur @realJamesWoods, dont l'omniprésence dans les ensembles de données Twitter controversés est déjà une blague #TwitterFiles.

Après que Woods ait cité sur Twitter, avec colère, l'étiquette d'avertissement de Trump, le personnel de Twitter - dans un aperçu de ce qui a fini par se passer après le J6 - a désespéré d'une raison d'agir, mais a décidé de "le frapper durement sur de futures vio."

Ici, une étiquette est appliquée à la députée républicaine de Géorgie, Jody Hice, pour avoir dit : "Dites NON à la censure des grandes entreprises technologiques !" et "Les bulletins de vote postaux sont plus sujets à la fraude que les bulletins de vote en personne... C'est juste du bon sens."

Les équipes de Twitter se sont montrées indulgentes envers Hice, n'appliquant qu'une "intervention douce", Roth s'inquiétant d'un retour de bâton "wah wah censure" :

Pendant ce temps, il y a de multiples cas de tweets pro-Biden mettant en garde contre le fait que Trump "pourrait essayer de voler l'élection" qui ont fait surface, pour être ensuite approuvés par des cadres supérieurs. Celui-ci, décident-ils, exprime simplement "l'inquiétude que les bulletins de vote envoyés par la poste puissent ne pas arriver à temps".

"C'EST COMPRÉHENSIBLE" : Même le hashtag #StealOurVotes - qui fait référence à une théorie selon laquelle un combo d'Amy Coney Barrett et de Trump volera l'élection - est approuvé par les cuivres de Twitter, car il est "compréhensible" et fait "référence à... une décision de la Cour suprême des États-Unis".

Dans cet échange, encore une fois involontairement humoristique, l'ancien procureur général Eric Holder a affirmé que le service postal américain était "délibérément paralysé", apparemment par l'administration Trump. Il a d'abord été frappé par une étiquette d'avertissement générique, mais elle a rapidement été retirée par Roth :

Plus tard en novembre 2020, Roth a demandé si le personnel avait un "moment de démystification" sur les histoires de "SCYTL/Smartmantic voting-counting", dont ses contacts du DHS lui ont dit qu'elles étaient une combinaison d'"environ 47" théories de conspiration :

Le 10 décembre, alors que Donald Trump était en train d'envoyer 25 tweets du type "Un coup d'État se déroule sous nos yeux", les responsables de Twitter ont annoncé un nouvel outil de "désamplification L3". Cette mesure signifie qu'une étiquette d'avertissement peut désormais être accompagnée d'une désamplification :

Certains cadres ont voulu utiliser le nouvel outil de désamorçage pour limiter silencieusement la portée de Trump davantage immédiatement, en commençant par le tweet suivant :

Toutefois, l'équipe a finalement dû utiliser des outils d'étiquetage plus anciens et moins agressifs, du moins pour cette journée, jusqu'à ce que les "entités L3" soient mises en service le lendemain matin.

L'importance est que cela montre que Twitter, en 2020 au moins, déployait une vaste gamme d'outils visibles et invisibles pour freiner l'engagement de Trump, bien avant le J6. L'interdiction interviendra après l'épuisement des autres voies.

Dans les documents de Twitter, les cadres font souvent référence aux "bots", par exemple "mettons un bot là-dessus". Un bot est simplement une règle de modération heuristique automatisée. Il peut s'agir de n'importe quoi : chaque fois qu'une personne au Brésil utilise les mots "vert" et "blob" dans la même phrase, une action peut être déclenchée.

Dans ce cas, il semble que les modérateurs aient ajouté un bot pour une affirmation de Trump faite sur Breitbart. Le bot finit par devenir un outil automatisé qui surveille de manière invisible à la fois Trump et, apparemment, Breitbart ("ajoutera l'ID du média au bot"). Trump par J6 a été rapidement couvert de bots.

Il est impossible de suivre les échanges frénétiques entre les membres du personnel de Twitter entre le 6 et le 8 janvier sans connaître les bases du vaste lexique d'acronymes et de non-mots orwelliens de l'entreprise.

Le fait de "bounce" un compte consiste à le mettre en attente, généralement pour un examen/réflexion de 12 heures :

"Interstitial", l'un des nombreux noms utilisés comme un verbe dans le langage de Twitters ("denylist" en est un autre), signifie placer une étiquette physique au-dessus d'un tweet, afin qu'il ne soit pas visible.

PII a plusieurs significations, l'une d'entre elles étant "Public Interest Interstitial", c'est-à-dire une étiquette de couverture appliquée pour des raisons "d'intérêt public". Le post ci-dessous fait également référence au "proactive V", c'est-à-dire au filtrage proactif de la visibilité.

C'est le contexte nécessaire à J6. Avant les émeutes, la société était engagée dans un projet intrinsèquement insensé/impossible, essayant de créer un ensemble de règles apparemment rationnelles, en constante expansion, pour réglementer toutes les situations de parole imaginables qui pourraient survenir entre humains.

Ce projet était grotesque mais ses dirigeants n'ont pas su le voir, infectés par le groupthing, et ont fini par croire - sincèrement - qu'il était de la responsabilité de Twitter de contrôler, autant que possible, ce dont les gens pouvaient parler, à quelle fréquence et avec qui.

Lorsque la panique s'installe sur J6, il y a une bonne part de messages de type WTF, mélangés à des appels frénétiques pour que Twitter commence à déployer tout son arsenal d'outils de modération. "Quel est le bon remède ? Doit-on interstitialiser la vidéo ?" demande un employé, désespéré :

Le premier jour de la crise du 6 janvier, les dirigeants de l'entreprise ont au moins essayé de respecter du bout des lèvres l'étourdissant éventail de règles. Le deuxième jour, ils ont commencé à hésiter. Le troisième jour, un million de règles ont été réduites à une seule : ce que nous disons, doit être appliqué.

Ce tweet "La liberté ou la mort" de la mouche du coche #StopTheSteal, Mike Coudrey, suscite de vives réactions :

Roth se plaint de Coudrey : "Ce connard", mais il semble toujours déterminé à s'en tenir, au moins superficiellement, aux règles, et a envie d'agir "si" cela "constitue une incitation".

À 14 h 39 PST, un responsable des communications demande à Roth de confirmer ou d'infirmer une information selon laquelle ils ont restreint la capacité de Trump à tweeter. Roth répond : "Nous ne l'avons pas fait."

Quelques minutes plus tard, Roth exécute l'acte historique de "bouncing" Trump, c'est-à-dire de le mettre en timeout. "J'espère que vous... êtes convenablement protégé par CorpSec", dit un collègue.

Le thème de la politique, peut-être stressée par les questions des cadres de la communication - qui doivent eux-mêmes répondre aux questions du public - apparaît de temps en temps. Deux jours plus tard, on entend parler de retirer les Communications de la boucle :

Le premier courriel envoyé par M. Gadde à l'ensemble de l'entreprise le 6 janvier annonçait que trois tweets de Trump avaient été rejetés, mais il signalait surtout la volonté d'utiliser les "violations" légitimes comme guide pour une éventuelle suspension permanente :

"C'EST QUOI CE BORDEL ?" On peut dire que le tweet de Trump "Rentrez chez vous avec amour et en paix" au milieu de l'émeute n'a pas été bien accueilli au siège de Twitter :

Quelques dernières notes sur le 6 janvier. Roth a constaté à un moment donné que Trump avait un grand nombre de demandes de robots en double :

À la fin du premier jour, les cadres supérieurs essaient encore d'appliquer des règles. Le jour suivant, ils envisageront un changement d'approche majeur. Regardez @shellenbergerMD ce week-end pour le compte-rendu de la façon dont tout cela s'est déroulé.

D'ici le 8 janvier, que @BariWeiss décrira dimanche, Twitter recevra les félicitations de "nos partenaires" à Washington, et le président américain en exercice ne sera plus entendu sur la plateforme.

Enfin, les gens de gauche, de droite et d'ailleurs veulent savoir ce qu'il y a d'autre dans les #TwitterFiles, qu'il s'agisse de la suppression/du shadow-banning des gauchistes, des théoriciens de la fuite en laboratoire ou de l'amplification de la propagande militaire ou des comptes conservateurs. Nous savons que tout le monde a des questions.