Épisode 2

Les listes noires secrètes de Twitter

1.
Une nouvelle enquête #TwitterFiles révèle que des équipes d'employés de Twitter établissent des listes noires, empêchent les tweets défavorisés d'être diffusés et limitent activement la visibilité de comptes entiers ou même de sujets d'actualité - tout cela en secret, sans en informer les utilisateurs.
2.
Twitter avait autrefois pour mission de "donner à chacun le pouvoir de créer et de partager des idées et des informations instantanément, sans barrières". En cours de route, des barrières ont néanmoins été érigées.
3.
Prenons l'exemple du Dr Jay Bhattacharya (@DrJBhattacharya), de Stanford, qui a affirmé que le confinement lié au Covid serait préjudiciable aux enfants. Twitter l'a secrètement placé sur une "liste noire des tendances", ce qui a empêché ses tweets de devenir des tendances.
4.
Ou encore le populaire animateur de talk-show de droite, Dan Bongino (@dbongino), qui s'est vu imposer à un moment donné une "liste noire de recherche".
5.
Twitter a réglé le compte de l'activiste conservateur Charlie Kirk (@charliekirk11) sur "Ne pas amplifier".
6.
Twitter a nié qu'il faisait de telles choses. En 2018, Vijaya Gadde (alors responsable de la politique juridique et de la confiance) et Kayvon Beykpour (responsable du produit) de Twitter ont déclaré : "Nous ne faisons pas de shadow ban". Ils ont ajouté : "Et nous ne faisons certainement pas de shadow ban basé sur des points de vue politiques ou une idéologie."
7.
Ce que beaucoup de gens appellent le "shadow banning", les cadres et employés de Twitter l'appellent "Visibility Filtering" ou "VF". De multiples sources de haut niveau ont confirmé sa signification.
8.
"Pensez au filtrage de la visibilité comme étant un moyen pour nous de supprimer ce que les gens voient à différents niveaux. C'est un outil très puissant", nous a confié un employé senior de Twitter.
9.
Le terme "VF" désigne le contrôle exercé par Twitter sur la visibilité des utilisateurs. Twitter a utilisé la VF pour bloquer les recherches d'utilisateurs individuels, pour limiter la portée de la découverte d'un tweet particulier, pour empêcher les messages de certains utilisateurs d'apparaître sur la page des "tendances" et d'être inclus dans les recherches par hashtag.
10.
Tout cela à l'insu des utilisateurs.
11.
"Nous contrôlons en grande partie la visibilité. Et nous contrôlons en grande partie l'amplification de votre contenu. Et les gens normaux ne savent pas à quel point nous le faisons", nous a dit un ingénieur de Twitter. Deux autres employés de Twitter ont confirmé.
12.
Le groupe qui décidait de limiter la portée de certains utilisateurs était le Strategic Response Team - Global Escalation Team, ou SRT-GET. Il traitait souvent jusqu'à 200 "cas" par jour.
13.
Mais il existait un niveau au-delà de la verbalisation officielle, au-delà des modérateurs de base qui suivaient la politique de l'entreprise sur le papier. Il s'agit du "Site Integrity Policy, Policy Escalation Support", connu sous le nom de "SIP-PES".
14.
Ce groupe secret comprenait le chef du service juridique, des politiques et de la confiance (Vijaya Gadde), le chef mondial de la confiance et de la sécurité (Yoel Roth), les PDG suivants, Jack Dorsey et Parag Agrawal, ainsi que d'autres personnes.
15.
C'est là que les décisions les plus importantes et les plus sensibles politiquement sont prises. "Pensez à un compte à fort nombre de followers, controversé", nous a dit un autre employé de Twitter. Pour ceux-ci "il n'y aurait pas de ticket ou quoi que ce soit".
16.
L'un des comptes qui a atteint ce niveau d'examen est @libsoftiktok - un compte qui figurait sur la "liste noire des tendances" et qui était désigné comme "Ne pas prendre de mesures à l'égard de l'utilisateur sans consulter le SIP-PES".
17.
Le compte - que Chaya Raichik a créé en novembre 2020 et qui compte aujourd'hui plus de 1,4 million d'abonnés - a fait l'objet de six suspensions rien qu'en 2022, selon Mme Raichik. À chaque fois, Raichik a été empêché de publier pendant une semaine.
18.
Twitter a informé à plusieurs reprises Raichik qu'elle avait été suspendue pour avoir violé la politique de Twitter contre les "comportements haineux".
19.
Mais dans un mémo interne du SIP-PES datant d'octobre 2022, après sa septième suspension, le comité a reconnu que "LTT n'a pas eu de comportement directement contraire à la politique de conduite haineuse." Voir ici :
20.
Le comité a justifié ses suspensions en interne en affirmant que ses messages encourageaient le harcèlement en ligne des "hôpitaux et des prestataires de soins médicaux" en insinuant "que les soins de santé respectueux de l'identité sexuelle sont équivalents à la maltraitance ou à la manipulation des enfants".
21.
Comparez cela à ce qui s'est passé lorsque Raichik elle-même a été doxxée le 21 novembre 2022. Une photo de sa maison avec son adresse a été publiée dans un tweet qui a recueilli plus de 10 000 likes.
22.
Lorsque Raichik a informé Twitter que son adresse avait été diffusée, elle affirme que l'assistance de Twitter a répondu par ce message : "Nous avons examiné le contenu signalé, et n'avons pas trouvé qu'il était en violation des règles de Twitter." Aucune mesure n'a été prise. Le tweet de doxxing est toujours en ligne.
23.
Dans des messages internes sur Slack, des employés de Twitter ont parlé d'utiliser des technicités pour restreindre la visibilité des tweets et des sujets. Voici Yoel Roth, alors responsable mondial de la confiance et de la sécurité chez Twitter, dans un message direct à un collègue au début de 2021 :
24.
Six jours plus tard, dans un message direct avec un employé de l'équipe de recherche sur la santé, la désinformation, la vie privée et l'identité, Roth a demandé plus de recherches pour soutenir l'expansion des "interventions politiques non suppressives comme les engagements de désactivation et le filtrage de la désamplification/visibilité".
25.
Roth a écrit : "L'hypothèse qui sous-tend une grande partie de ce que nous avons mis en œuvre est que si l'exposition à, par exemple, la désinformation cause directement des dommages, nous devrions utiliser des remèdes qui réduisent l'exposition, et limiter la diffusion/viralité du contenu est un bon moyen d'y parvenir."
26.
Il a ajouté : "Nous avons obtenu l'accord de Jack pour mettre en œuvre ce système pour l'intégrité civique à court terme, mais nous allons devoir présenter des arguments plus solides pour l'intégrer dans notre répertoire de remédiations politiques - en particulier pour d'autres domaines politiques."
27.
Il y a plus à venir sur cette histoire, qui a été rapportée par @abigailshrier @shellenbergermd @nelliebowles @isaacgrafstein et l'équipe de The Free Press @thefp.

Suivez l'évolution de cette histoire ici et sur notre tout nouveau site web :
28.
Les auteurs ont un accès large et étendu aux fichiers de Twitter. La seule condition que nous avons acceptée est que le matériel soit d'abord publié sur Twitter.
29.
Nous ne faisons que commencer notre reportage. Les documents ne peuvent pas raconter toute l'histoire ici. Un grand merci à tous ceux qui nous ont parlé jusqu'à présent. Si vous êtes un employé actuel ou ancien de Twitter, nous aimerions avoir de vos nouvelles. Veuillez écrire à : [email protected]
30.
Regardez @mtaibbi pour le prochain épisode.