Avertissement: cet article décrit le racisme, la violence et la maladie mentale.Des attaques de panique ont commencé à Chloé après qu'elle a vu la mort d'une personne.
Elle a passé les trois dernières semaines et demie à s'entraîner à essayer de se resserrer et de résister aux attaques quotidiennes de messages désagréables:
discours de haine , attaques brutales, images pornographiques. Dans quelques jours, elle occupera le poste de modératrice de contenu FB à plein temps, poste que son entreprise, le prestataire de services professionnels Cognizant, a vaguement appelé «exécuteur de processus».
A ce stade de la formation, Chloé devra s'engager dans la modération des postes au FB devant les autres stagiaires. Quand son tour arrive, elle se dirige vers le devant de la salle, où la vidéo envoyée au plus grand réseau social du monde est affichée sur le moniteur. Aucun des stagiaires ne l'avait encore vu, y compris Chloé. Elle appuie sur le bouton de démarrage.
La vidéo montre le meurtre d'un homme. Quelqu'un lui enfonce un couteau, des dizaines de fois, il crie et demande grâce. La tâche de Chloé est d'informer les personnes présentes si cette vidéo doit être supprimée. Elle sait que l'article 13 des normes publiques de la FB interdit de publier des vidéos illustrant le meurtre d'une ou plusieurs personnes. Quand Chloé explique cela à toute la classe, elle entend sa voix trembler.
De retour à l'endroit, Chloé ressent une irrésistible envie de sangloter. Le prochain stagiaire va évaluer le prochain poste, mais Chloé est incapable de se concentrer. Elle quitte la pièce et commence à sangloter tellement qu'il devient difficile de respirer.
Personne n'essaye de la rassurer. Elle a été embauchée pour ce poste. Et pour les 1000 personnes qui, comme Chloé, sont impliquées dans la modération du FB depuis le bureau de Phoenix, et pour 15 000 modérateurs dans le monde, ce n'est plus qu'un jour ouvrable.
Au cours des trois derniers mois, j'ai interviewé une douzaine d'anciens et actuels employés de Cognizant travaillant à Phoenix. Tous ont signé des accords de non-divulgation, où ils se sont engagés à ne pas discuter de leur travail sur le FB - et ne reconnaissent même pas que le FB est un client Cognizant. Le voile du secret devrait protéger les employés des utilisateurs qui peuvent se mettre en colère en raison des actions des modérateurs et essayer de résoudre la situation avec un entrepreneur FB bien connu. L'accord devrait également empêcher la diffusion des informations personnelles des utilisateurs de FB par les employés du contractant, car les questions de confidentialité sont actuellement à l'étude.
Mais les modérateurs m'ont informé que ce secret isole également Cognizant et le FB des critiques sur les conditions de travail dans ces entreprises. Ils sont obligés de ne pas discuter du fardeau émotionnel qui pèse sur eux, même avec leurs proches, ce qui augmente les sentiments d'isolement et d'anxiété. Pour les protéger des représailles des employeurs et des utilisateurs de FB, j'ai accepté d'utiliser des pseudonymes pour toutes les personnes mentionnées ici, à l'exception du vice-président de Cognizant Business Process Services, Bob Duncan et du directeur de la gestion des partenariats mondiaux de FB, Mark Davidson. .
En général, les employés décrivent l'espace de travail comme menaçant constamment de sombrer dans le chaos. Dans cet environnement, les employés survivent en se racontant des blagues de la catégorie de l'humour noir sur le suicide et en fumant de l'herbe pendant les pauses pour étouffer les émotions. Ici, un employé peut être licencié pour quelques erreurs par semaine et ceux qui restent vivront dans la peur d'anciens collègues qui pourraient se venger.
Dans cet endroit, contrairement aux goodies que le FB
chouchoute ses employés , les chefs d'équipe s'engagent dans la microgestion des modérateurs même lorsqu'ils vont aux toilettes ou prient; Ici, des travailleurs, essayant désespérément d'obtenir une dose de dopamine dans une atmosphère de souffrance, ont été trouvés en train de faire l'amour sous les escaliers et dans des chambres pour exprimer le lait; ici, les gens commencent déjà à ressentir de l'anxiété au stade de la formation et continuent de souffrir d'un syndrome traumatique pendant longtemps après le licenciement; et les services psychologiques que Cognizant offre à ses employés cessent immédiatement après leur licenciement.
Les modérateurs m'ont dit que les vidéos et les mèmes sur les théories du complot qu'ils doivent regarder chaque jour changent progressivement leurs vues en des opinions plus radicales. Un auditeur fait campagne pour une Terre plate. Un ancien employé m'a dit qu'il avait commencé à remettre en question certains aspects de l'Holocauste. Un autre ancien employé a déclaré qu'il avait marqué toutes les voies d'évacuation de sa propre maison et tenait un pistolet à côté du lit, et a déclaré: «Je ne crois plus que des terroristes nous aient attaqués le 11 septembre.»
Chloé pleure un peu dans les toilettes, puis dans les toilettes, mais elle commence alors à s'inquiéter de manquer trop d'entraînement. Elle désirait ardemment obtenir cet emploi lors de l'envoi d'un curriculum vitae, car elle avait récemment obtenu son diplôme universitaire et elle avait peu d'autres options. Lorsqu'elle devient modératrice à temps plein, elle recevra 15 $ de l'heure, soit 4 $ de plus que le salaire minimum en Arizona, où elle vit, et plus que ce que l'on peut attendre de la plupart des emplois de vente au détail.
Les larmes s'arrêtent, la respiration est rétablie. À son retour, un de ses collègues discute d'une autre vidéo avec violence. Elle voit un drone tirer sur des personnes depuis les airs. Chloé voit comment les figures humaines perdent leur mobilité et meurent.
Elle quitte à nouveau la pièce.
À la fin, l'administrateur la trouve dans les toilettes et la serre dans ses bras. Cognizant offre des services de psychologie aux employés, mais il ne travaille pas à temps plein et n'est pas encore arrivé au bureau. Chloé l'attend depuis plus d'une demi-heure.
Lorsque le psychologue l'accepte, elle explique qu'elle a subi une crise de panique. Il lui dit qu'après la libération, elle aura plus de contrôle sur la vidéo sur le FB que dans la salle de formation. Vous pouvez mettre la vidéo en pause, dit-il, ou la regarder sans son. Concentrez-vous sur la respiration, dit-il. Assurez-vous que vous n'aimez pas trop le contenu que vous consultez.
«Il m'a dit de ne pas m'inquiéter et que j'arrive probablement toujours à faire le travail», explique Chloé. Puis il récupère: "Il a dit que je ne devais pas m'inquiéter et que je pouvais faire ce travail."
3 mai 2017 Mark Zuckerberg a annoncé l'expansion de l'équipe des
opérations publiques du FB. Les nouveaux employés, qui s'ajouteront à l'armée actuelle de 4 500 modérateurs, seront chargés d'examiner chaque poste pour lequel il a été signalé qu'il violait les normes communautaires. Fin 2018, en réponse aux critiques de la prédominance de contenus cruels et exploiteurs sur le réseau social, la FB a envoyé plus de 30000 employés se battre pour la sécurité - et environ la moitié d'entre eux sont engagés dans la modération.
Il y a des employés à temps plein parmi les modérateurs, mais le FB dépend fortement des entrepreneurs. Ellen Silver, vice-présidente des opérations pour le FB, a écrit sur un blog l'année dernière que le recours à des sous-traitants a permis au FB de "se
développer " - les modérateurs peuvent travailler 24 heures par jour, évaluer les messages publiés dans plus de 50 langues, dans 20 bureaux. au monde entier.
Le recours à la main-d'œuvre d'entrepreneurs présente un avantage pratique pour le FB: il est radicalement moins cher. L'employé FB moyen
gagne 240 000 $ par an en additionnant les salaires, les primes et les promotions. Un modérateur travaillant pour Cognizant en Arizona ne gagnera que 28 800 $ par an, ce qui permet au FB de maintenir une rentabilité élevée. Au cours du dernier trimestre, la société a
réalisé un bénéfice de 6,9 milliards de dollars avec un chiffre d'affaires de 16,9 milliards de dollars. Et bien que Zuckerberg ait
averti les investisseurs que les investissements du FB dans la sécurité réduiraient la rentabilité de la société, en réalité, le bénéfice a augmenté de 61% par rapport à l'année dernière.
Depuis 2014, lorsque Adrian Chen a décrit en détail les conditions de travail difficiles des modérateurs des réseaux sociaux pour le magazine Wired, la FB est sensible aux critiques qui traumatisent ses salariés les moins bien payés. Silver a
déclaré dans son article de blog que le FB estime que les modérateurs potentiels "seront en mesure de faire face à l'image de la violence" et les teste pour leur capacité à résister à cela.
Bob Duncan, qui supervise la modération du contenu de Cognizant en Amérique du Nord, explique que les recruteurs expliquent en détail la nature visuelle du travail aux candidats. «Nous partageons des exemples de ce qui peut être vu afin qu'ils aient une idée à ce sujet», dit-il. «Tout est fait pour que les gens comprennent cela.» Et s'ils décident que ce travail ne leur convient pas, ils pourront prendre les décisions appropriées. "
Jusqu'à récemment, la majeure partie de la modération du contenu FB avait lieu en dehors des États-Unis. Mais avec une demande croissante de main-d'œuvre, la FB a étendu sa présence dans son pays d'origine et a déployé des bureaux en Californie, en Arizona, au Texas et en Floride.
Les États-Unis sont le pays d'origine de l'entreprise et l'un des pays les plus populaires des réseaux sociaux, explique Davidson. Les modérateurs américains sont plus susceptibles d'avoir le contexte culturel nécessaire pour évaluer le contenu des États-Unis, où des discours de haine ou des actes d'intimidation peuvent avoir lieu, car selon lui, dans de tels cas, le jargon spécifique à un pays particulier est souvent utilisé.
Le FB a également travaillé pour créer, comme Davidson les décrit, «les bureaux les plus avancés qui copieraient le bureau du FB et en transmettraient toutes les sensations. C'était important de le faire, car parfois de telles idées apparaissent sur le marché que nos gens sont assis dans des sous-sols sombres et sales, éclairés uniquement par la lumière des écrans. En fait, tout est complètement faux. "
En fait, le bureau de Cognizant Phoenix n'est ni sombre ni sale. Nous pouvons dire qu'il ressemble à d'autres bureaux du FB, car il y a des bureaux avec des ordinateurs. Mais si les employés de FB à Menlo Park travaillent dans des complexes spacieux et ensoleillés de l'architecte
Frank Gehry , alors leurs entrepreneurs en Arizona se blottissent dans des pièces surpeuplées, où une longue file de toilettes, dont le nombre est très limité, peut emporter tout le temps disponible pour une pause. Et si les employés de FB sont capables de planifier leur travail selon un horaire très flexible, la journée de travail des employés de Cognizant est programmée jusqu'à quelques secondes.
Un modérateur nommé Miguel arrive sur le quart de jour peu de temps avant qu'il ne commence à 7 heures du matin. Il fait partie des 300 employés qui finiront par s'infiltrer dans leur lieu de travail dans un bureau de deux étages du parc d'affaires de Phoenix.
La sécurité surveille l'entrée, en s'assurant que les anciens employés ou utilisateurs mécontents du FB ne les pénètrent pas, qui pourraient faire des réclamations aux modérateurs en raison des entrées supprimées. Miguel parcourt son badge jusqu'au bureau et se dirige vers les casiers. Il n'y a pas assez de casiers du tout, donc certains employés y gardent leurs affaires la nuit, pour s'assurer que personne ne les emportera le lendemain.
Les casiers occupent un couloir étroit rempli de gens pendant les pauses. Pour protéger la vie privée des utilisateurs de FB dont ils évaluent les dossiers, les travailleurs doivent cacher leurs téléphones dans des casiers pendant les heures de bureau.
Les accessoires d'écriture et le papier ne doivent pas non plus être emportés avec vous, afin que Miguel n'ait pas la tentation de noter les informations personnelles d'un utilisateur FB. Cette politique s'étend même aux bouts de papier tels que les emballages de chewing-gum. Les petits objets, comme la lotion pour les mains, doivent être placés dans des sacs à cosmétiques en plastique transparent afin qu'ils puissent être vus par les gestionnaires.
Pour accueillir quatre quarts de travail quotidiens - avec un roulement de personnel important - la plupart des gens n'affectent pas leur table personnelle, comme on l'appelle dans Cognizant, au "plancher de production". Miguel trouve un poste de travail gratuit et se connecte à son compte logiciel appelé Single Review Tool [SRT]. Lorsqu'il est prêt à travailler, il clique sur le bouton «Continuer les évaluations» et va plus loin dans la ligne des articles.
En avril dernier, un an après la
publication de nombreux documents dans le Guardian, le FB a
publié une norme communautaire par laquelle il tente de gérer 2,3 milliards d'utilisateurs visitant la ressource chaque mois. Dans les mois qui ont suivi,
Motherboard et
Radiolab ont publié des enquêtes détaillées sur des problèmes de modération tels que, par exemple, une énorme quantité de texte.
Parmi les difficultés: un grand nombre d'enregistrements; la nécessité de former l'armée mondiale des travailleurs à bas salaires pour l'application cohérente d'un ensemble unique de règles; modifications et clarifications quasi quotidiennes de ces règles; absence de contexte culturel ou politique parmi les modérateurs; manque de contexte dans les documents, à cause duquel ils deviennent ambigus; désaccords fréquents entre les modérateurs sur les règles à appliquer dans quels cas.
Malgré les difficultés à dicter la politique, le FB oblige Cognizant et d'autres sous-traitants à respecter avant tout la métrique appelée «précision». Dans ce cas, la précision signifie que lorsque les employés du FB vérifient un sous-ensemble des décisions des contractants, ils doivent être d'accord avec eux. L'entreprise a fait de l'objectif une précision de 95% et ne peut l'atteindre. Cognizant n'a jamais maintenu une telle précision sur de longues périodes - elle est généralement légèrement inférieure ou légèrement supérieure à 90%, et au moment de la publication, elle se situait autour de 92%.
Miguel suit diligemment la politique - même si, comme il le dit, cela n'a pas toujours de sens pour lui. Vous pouvez laisser une entrée intitulée «mon préféré n ----», car, selon la politique, il s'agit d'un «contenu clairement positif». L'appel de «toutes les personnes autistes doit être stérilisé» lui semble insultant, mais ce record demeure également. L'autisme n'est pas une «caractéristique protégée», comme la race ou le sexe, donc ce n'est pas une violation de la politique. (L'appel à "stériliser tous les hommes" devrait être supprimé).
En janvier, la FB a diffusé une mise à jour de la politique qui stipulait que les modérateurs devraient prendre en compte les circonstances amoureuses récentes de la vie d’un utilisateur lors de l’évaluation des publications décrivant la haine des sexes. Le record «Je déteste tous les hommes» a toujours été contre la politique. Mais «je viens de rompre avec mon petit ami et je déteste tous les hommes» ne la contredit plus.
Miguel traite les enregistrements dans la file d'attente. Ils y arrivent sans ordre spécial. Voici une blague raciste. Voici un homme ayant des relations sexuelles avec du bétail. Voici une vidéo du meurtre enregistré par le cartel de la drogue. Certains des enregistrements que Miguel regarde proviennent du FB, où, comme il le dit, il rencontre souvent des agressions et des discours de haine; d'autres viennent d'Instagram, où vous pouvez publier sous un pseudonyme, et la violence, la nudité et le sexe y sont plus courants.
Pour chaque inscription, Miguel doit effectuer deux tests distincts. Il doit d'abord déterminer si le dossier viole les normes communautaires. Ensuite, il doit choisir le bon article, qui est violé. S'il détermine avec précision que l'enregistrement doit être supprimé, mais sélectionne la «mauvaise» raison, cela affecte son évaluation de l'exactitude.
Miguel fait un très bon travail. Il choisit correctement les actions pour chaque enregistrement, essayant de sauver le FB du pire contenu et protégeant le nombre maximum de textes corrects (bien que désagréables). Pour traiter chaque enregistrement, il ne passe pas plus de 30 secondes et traite jusqu'à 400 enregistrements par jour.
Lorsque Miguel a une question, il lève la main et l '«expert en la matière» (SME) - un entrepreneur qui est considéré comme étant meilleur et plus conscient de la politique FB, gagnant 1 $ de plus par heure que Miguel - est approprié à lui et fournit une assistance. Cela prend du temps à Miguel, et bien qu'il n'ait pas de quota minimum pour le nombre d'enregistrements, les gestionnaires surveillent sa productivité et demandent une explication lorsque ce nombre devient inférieur à 200.
Sur les 1 500 (ou plus) décisions que Miguel prend en une semaine, le FB sélectionne au hasard 50 à 60 pièces pour l'audit. Ces dossiers sont étudiés par un autre employé de Cognizant travaillant dans le département qualité, ou QA, qui gagne également 1 $ de plus que Miguel. Ensuite, les employés FB auditent un sous-ensemble des solutions AQ, et sur la base de tous ces audits, une évaluation de la précision est dérivée.
Miguel est sceptique quant à la valeur résultante de la précision. «La précision n'est évaluée qu'avec le consentement des travailleurs. Si l'auditeur et moi autorisons la vente de cocaïne, celle-ci sera jugée comme une décision «exacte», simplement parce que nous sommes d'accord », dit-il. "Ce nombre est un non-sens."
La correction du FB pour la précision a été développée après de nombreuses années de critiques sur la résolution des problèmes avec les modérateurs. Des milliards de records apparaissent chaque jour sur le réseau social, et le FB ressent une pression de toutes parts. Dans certains cas, l'entreprise a été critiquée pour avoir fait trop peu - par exemple, lorsque des enquêteurs de l'ONU ont découvert que le réseau social était
impliqué dans la propagation de discours de haine pendant la
persécution des Rohingyas au Myanmar . Dans d'autres cas, elle a été critiquée pour être allée trop loin - par exemple, lorsqu'un modérateur a
supprimé un message citant la Déclaration d'indépendance des États-Unis. (En conséquence, Thomas Jefferson a été fait une exception posthume à la règle pour les utilisateurs du FB qui interdisent l'utilisation de phrases telles que «sauvages indiens»).
L'une des raisons pour lesquelles les modérateurs ont du mal à atteindre leur objectif de précision est qu'ils doivent tenir compte de plusieurs sources d'information pour chaque décision d'appliquer les règles.
La source canonique de l'exécution est les directives de la communauté publique du FB, composées de deux ensembles de documents: publiés et plus longs, internes, où plus de détails sont donnés sur des questions complexes. Ces documents sont complétés par un deuxième document de 15 000 mots intitulé «Problèmes connus», qui fournit des commentaires et des conseils supplémentaires sur les problèmes urgents de modération - quelque chose comme les directives du Talmud pour la Torah. Les «problèmes connus» occupaient autrefois un seul long document, que les modérateurs devaient vérifier quotidiennement. L'année dernière, il a été inclus dans les directives internes pour faciliter la recherche.La troisième source de vérité est les discussions internes entre les modérateurs. Au moment de la nouvelle, comme les tirs de masse, les modérateurs tentent de parvenir à un consensus sur la question de savoir si les vidéos répondent aux critères de suppression ou si elles doivent simplement être signalées comme «dérangeantes». Mais parfois, comme le disent les modérateurs, leur consensus est erroné et les gestionnaires doivent se promener dans le bureau pour expliquer la bonne décision.La quatrième source est peut-être la plus problématique: les outils FB internes conçus pour diffuser l'information. Bien que des changements de politique officiels apparaissent généralement tous les deux mercredis, des directives augmentant progressivement les problèmes en cours d'élaboration sont distribuées presque quotidiennement. Souvent, les instructions sont publiées sur Workplace, la version d'entreprise FB que la société a introduite en 2016.. Comme le FB, Workplace a une newsletter fonctionnant selon un certain algorithme, affichant les entrées en fonction de l'implication. Au moment de la nouvelle, comme les fusillades de masse, les gestionnaires publient souvent des informations contradictoires sur la façon de modérer les exemples de contenu individuel qui apparaissent sur le lieu de travail sans trier par temps. Six employés actuels et anciens m'ont dit avoir fait des erreurs lors de la modération, voyant une entrée obsolète tout en haut de la liste. Parfois, il semble que le propre produit du FB fonctionne contre eux. Les modérateurs ressentent cette ironie.«Cela se produit tout le temps», explique Diana, une ancienne modératrice. «C'était horrible - l'une des choses les plus désagréables auxquelles j'ai dû faire face personnellement pour faire mon travail correctement.» Lorsqu'une tragédie nationale se produit, comme le tournage à Las Vegas en 2017, les gestionnaires demandent aux modérateurs de retirer la vidéo - puis, dans une entrée distincte faite quelques heures plus tard, de la laisser. Les modérateurs prennent des décisions en fonction de l'entrée du lieu de travail qui apparaît en premier.«C'était un gâchis complet», explique Diana. «Nous devions prendre des décisions prudentes, et tout cela a gâché nos statistiques.»Les entrées sur le lieu de travail pour les changements de politique sont parfois complétées par des ensembles de diapositives qui sont envoyés aux employés de Cognizant sur des sujets spécifiques - souvent liés à de tristes anniversaires comme le tournage de Parkland . Cependant, les modérateurs m'ont informé que ces présentations et autres documents d'appui contiennent souvent des erreurs honteuses. Au cours de la dernière année, les membres de la Chambre des représentants ont été confondus avec les sénateurs et le Sénat; a incorrectement indiqué la date de l'élection; a fait une erreur au nom de l'école Parkland dans laquelle se trouvait le tournage.Et même en dépit d'un ensemble de règles en constante évolution, les modérateurs ne laissent pratiquement pas le droit de se tromper. Ce travail n'est pas sans rappeler un jeu vidéo à enjeux élevés dans lequel vous commencez avec une centaine de points - une mesure idéale de la précision - puis, par crochet ou par escroc, essayez de sauvegarder ces points. Si vous tombez en dessous de 95, votre travail est en danger.Si le responsable qualité constate que la décision de Miguel est incorrecte, ce dernier peut contester cela. Forcer QA à être d'accord avec vous est, comme on dit, «retourner le point». À court terme, une erreur est considérée comme une erreur dans l'AQ, les modérateurs ont donc toutes les raisons de contester ces décisions à chaque fois. Récemment, Cognizant a encore compliqué la procédure de retour d'un point, obligeant les PME à approuver d'abord l'appel avant de l'envoyer à QA.Parfois, des questions controversées parviennent au FB. Mais tous les modérateurs que j'ai interviewés disent que les managers de Cognizant découragent les employés de poser des questions au client, craignant apparemment que trop de cas de ce type ne commencent à agacer le FB.En conséquence, Cognizant a commencé à inventer la politique à la volée. Par exemple, bien que les lignes directrices n'interdisent pas directement la couverture du sujet de l'étranglement sexuel , trois anciens modérateurs m'ont informé que leur chef d'équipe avait annoncé que de telles images n'étaient autorisées que s'il n'y avait pas de doigts étranglés sur le cou.Avant de licencier les employés, ils se voient offrir du mentorat et sont envoyés dans un programme correctionnel, qui devrait s'assurer qu'ils maîtrisent parfaitement les lignes directrices. Cependant, cela sert souvent d'excuse pour licencier des employés, comme trois anciens modérateurs me l'ont dit. Parfois, les entrepreneurs qui ont manqué trop de points font appel au FB, où la décision finale est prise. Mais l'entreprise, comme on m'a informé, ne parvient pas toujours à parcourir toute la file d'attente de telles demandes avant que l'employé ne soit déjà licencié.Officiellement, il est interdit aux modérateurs de communiquer avec QA et de les persuader de changer d'avis. Mais cela se produit toujours régulièrement, comme me l'ont dit deux anciens employés du service qualité.L'un d'eux, Randy, retournant parfois à sa voiture après une journée de travail, rencontrait des modérateurs qui l'attendaient là-bas. 5-6 fois par an, quelqu'un a tenté de l'intimider pour qu'il change d'avis. "Ils m'ont rencontré sur le parking et ont menacé de me mettre hors de moi", dit-il. "Personne n'a jamais essayé de parler poliment ou respectueusement avec moi." Cela a toujours été: «Vous m'avez mal jugé! C'était un coffre! Avec des aréoles complètement visibles! ""Soucieux de sa sécurité, Randy a commencé à porter des armes cachées pour travailler avec lui. Les employés licenciés menaçaient régulièrement de retourner au travail et de se venger de leurs anciens collègues, et Randy pensait que certains d'entre eux parlaient très sérieusement. Un ancien collègue m'a dit qu'il était au courant du pistolet que Randy portait avec lui et a approuvé sa décision, craignant que les efforts des gardes locaux ne soient pas suffisants en cas d'attaque.Duncan de Cognizant m'a dit que la société enquêterait sur divers problèmes de sécurité et de gestion dont on m'avait parlé. Il a dit qu'il était interdit d'apporter une arme à feu au travail et que si la direction le savait, elle interviendrait et s'opposerait à l'employé.Randy a démissionné un an plus tard. Il n'a pas eu l'occasion de tirer avec un pistolet, mais son inquiétude n'a pas lâché prise. «Je suis parti en partie parce que je ne me sentais pas en sécurité même à la maison», dit-il.
Avant de faire une pause, Miguel doit cliquer sur le bouton dans l'extension du navigateur pour en informer l'entreprise. (Davidson m'a dit que "c'est une procédure standard dans de telles entreprises. Pour que vous puissiez surveiller la main-d'œuvre et savoir qui est où.")Miguel peut prendre deux pauses de 15 minutes et une pause déjeuner de 30 minutes. Pendant les pauses, il rencontre généralement de longues files d'attente dans les toilettes. Pour plusieurs centaines de personnes au bureau, il n'y a qu'un seul urinoir et deux cabines dans les toilettes des hommes, ainsi que trois cabines dans celles des femmes. Cognizant a finalement autorisé les travailleurs à utiliser les toilettes des autres étages, mais il aurait fallu de précieuses minutes à Miguel pour y arriver et revenir. Au moment où il est allé aux toilettes et a traversé la foule jusqu'à son tiroir, il ne lui restait plus que cinq minutes pour regarder son téléphone et retourner à la table.Miguel compte également neuf minutes par jour sur «se sentir mieux», qu'il devrait utiliser s'il se sent blessé et doit s'éloigner de la table. Plusieurs modérateurs m'ont dit qu'ils utilisaient ces minutes pour aller aux toilettes lorsque les files se raccourcissaient. Mais la direction a finalement découvert cela et a ordonné aux employés de ne pas utiliser ce temps pour aller aux toilettes. (Récemment, un groupe de modérateurs de FB embauchés par Accenture à Austin s'est plaint de conditions "inhumaines" associées à des interruptions; le FB a attribué le problème aux politiques incomprises de l'entreprise).À Phoenix, les musulmans qui ont utilisé le temps pour «améliorer leur bien-être» pour effectuer l'une des cinq prières quotidiennes ont reçu l'ordre de mettre fin à cela et de pratiquer la religion pendant les pauses, comme me l'ont dit les anciens et actuels employés de l'entreprise. De plus, le personnel avec qui j'ai parlé n'a pas compris pourquoi la prière n'est pas considérée comme la bonne utilisation du temps pour «améliorer son bien-être». Cognizant a refusé de commenter ces incidents, mais une personne familière avec l'un de ces cas m'a dit qu'un travailleur avait demandé 40 minutes pour effectuer des prières quotidiennes, et l'entreprise a trouvé ces exigences excessives.Les employés conscients sont chargés de gérer le stress au travail en visitant des psychologues lorsqu'ils ont le temps; par des appels à la hotline; utiliser le programme d'aide aux employés, qui comprend plusieurs séances de psychothérapie. Récemment, le yoga et d'autres exercices thérapeutiques ont été ajoutés à la semaine de travail. Mais outre les rares visites chez un psychologue, les autres moyens, comme me l'ont dit six employés, s'avèrent insuffisants. Ils ont dit qu'ils faisaient face au stress au travail par d'autres moyens: le sexe, la drogue et les blagues grossières.La liste des endroits où des travailleuses du sexe de Cognizant ont été trouvées était: des cabines de toilettes, un escalier, un parking, une salle pour exprimer le lait. Début 2018, la sécurité a envoyé un message aux managers indiquant le comportement similaire des travailleurs, comme me l'a confié une personne proche du dossier. En conséquence, les gestionnaires ont retiré les serrures de la porte de la chambre de la mère et de certaines autres pièces fermées à clé. (Maintenant, la chambre de la mère est à nouveau verrouillée, mais ceux qui souhaitent l'utiliser doivent obtenir les clés de l'administrateur).L'ancienne modératrice Sarah a déclaré que le secret associé à son travail, associé à sa grande complexité, conduit à une relation solide entre les employés. «Vous vous rapprochez des autres gars très rapidement», dit-elle. - Si vous n'êtes pas autorisé à discuter avec vos amis ou votre famille au sujet du travail, cela décourage les gens. Et vous sentez que vous vous rapprochez de ces gens. Cela ressemble à une connexion émotionnelle, bien qu'en réalité ce soit juste une relation basée sur des blessures courantes. »Les travailleurs font également face à des problèmes de drogue et d'alcool, à la fois sur le chantier et en dehors. Un ancien modérateur, Lee, m'a dit qu'il fumait de la marijuana avec de la vape au travail presque quotidiennement. Il dit que pendant les pauses, de petits groupes d'employés sortaient souvent pour fumer (en Arizona, il est légal d'utiliser de la marijuana à des fins médicales).«Il est même difficile de savoir avec combien de personnes j'ai fumé», explique Lee. - Avec le recul, c'est terrible - le cœur se brise. Nous sommes descendus, lapidés et sommes retournés au travail. Ce n'est pas professionnel. Imaginez que les modérateurs des plus grands réseaux sociaux du monde fument au travail, modérant du contenu ... ". Il est silencieux.Lee, qui a travaillé comme modérateur pendant environ un an, était l'un des nombreux travailleurs qui pensaient que l'humour le plus sombre y prospérait. Les travailleurs ont concouru en s'envoyant les mèmes les plus racistes ou offensants, a-t-il dit, pour se réconforter. Une minorité ethnique Lee est souvent devenue une blague, et il a accepté ces blagues racistes comme bien intentionnées. Mais au fil du temps, sa santé mentale a commencé à le déranger.«Nous avons fait des choses qui ont obscurci nos âmes - appelez ça comme vous voulez», dit-il. - Que peut-on faire dans une telle situation? La seule chose qui nous fait rire nous est nuisible. Je devais garder une trace de ce genre de blagues dont je parle en public. "J'ai constamment accidentellement dit toutes sortes de choses insultantes - et puis je me suis soudain souvenu que j'étais à l'épicerie, et ici tu ne peux pas dire ça."Il y avait aussi souvent des blagues sur le fait de se faire du mal. Sarah a entendu son collègue une fois répondre à une question d'un psychologue sur la façon dont il allait, a répondu: «Je me saoule pour oublier tout cela.» (Mais après cela, le psychologue n'a pas proposé à un collègue d'en parler plus en détail). Les jours particulièrement mauvais, dit Sarah, les gens discutent que le moment est venu de «traîner sur le toit» - une blague qu'un jour les travailleurs de Cognizant décideront de s'en débarrasser.Une fois, a déclaré Sarah, les modérateurs ont été distraits de leurs ordinateurs et ont vu un homme debout sur le toit d'un immeuble de bureaux à proximité. La plupart d'entre eux ont vu les suicides commencer exactement de la même manière. Les modérateurs se sont levés et ont couru vers les fenêtres.Mais cet homme n'a pas sauté. En fin de compte, tout le monde s'est rendu compte que c'était l'un de leurs collègues à la pause.
Comme la plupart des anciens modérateurs avec qui j'ai parlé, Chloé a démissionné après environ un an de travail.Entre autres choses, elle était préoccupée par la propagation parmi les théories du complot. Une personne de QA a souvent discuté avec ses collègues de leur confiance dans le fait que la Terre était plate et "a essayé activement d'attirer d'autres travailleurs dans leur foi", comme m'a dit un autre modérateur. Un des collègues de Miguel a mentionné le concept de Holohoax , à partir duquel Miguel a réalisé que cette personne était une personne qui niait la réalité de l'Holocauste.Six modérateurs ont déclaré que les théories du complot avaient souvent été chaleureusement accueillies au bureau. Après le tournage à Parkland l'année dernière, les modérateurs ont d'abord été horrifiés par les résultats de l'attaque. Mais plus il y a de théories du complot publiées sur le FB et sur Instagram, plus souvent les collègues de Chloé ont exprimé leurs doutes.«Les gens ont commencé à croire aux enregistrements qu'ils devaient modérer», dit-elle. - Ils ont dit: Oh dieux, ils n'étaient pas là . Oh, regardez ce rapport CNN sur David Hogg - il est trop vieux pour être un écolier. " Les gens ont commencé à tout rechercher sur Google au lieu de travailler, et à comprendre toutes ces théories du complot. Nous leur avons dit: les gars, non, ce sont ces ordures folles que nous devons modérer. Que fais-tu? "Mais pour la plupart, Chloé est préoccupée par les effets à long terme du travail sur la santé mentale. Plusieurs modérateurs m'ont dit qu'ils avaient souffert d'un trouble de stress post-traumatique secondaire , un trouble qui survient lorsque d'autres personnes sont blessées. Ce trouble, dont les symptômes peuvent coïncider avec le trouble de stress post-traumatique (SSPT), survient souvent chez les médecins, les psychothérapeutes et les travailleurs sociaux. Les personnes atteintes d'un trouble secondaire se plaignent d'anxiété, de perte de sommeil et de dissociation .L'année dernière, une jeune fille californienne, ancienne modératrice de FB, a poursuivi la société, affirmant que l'entrepreneur Pro Unlimited lui avait fait travaillerPTSD Ses avocats ont déclaré qu'elle "essayait de se défendre contre les dangers associés aux traumatismes psychologiques causés par le FB n'ayant pas réussi à organiser un lieu de travail sûr pour des milliers d'entrepreneurs qui devraient fournir un environnement sûr pour les utilisateurs du FB." Le procès n'est pas encore terminé.Chloé a éprouvé des symptômes d'un trouble traumatique pendant plusieurs mois après avoir quitté son emploi. Elle a commencé une attaque de panique au cinéma en regardant le film " Mère!"lorsque le massacre à l'écran a fait penser à la toute première vidéo qu'elle a dû rencontrer lors d'un stage. Une autre fois, elle dormait sur le canapé et a soudain entendu des tirs automatiques, après quoi elle a paniqué. Quelqu'un dans la maison a allumé la série télévisée avec le tournage. Elle dit qu'elle a commencé "à paniquer et à les supplier de l'éteindre." Lesattaques l'ont fait penser à ses collègues, en particulier à ceux qui ne pouvaient pas suivre un stage et commencer à travailler. "Beaucoup de gens ne peuvent tout simplement pas faire face à la période de formation", dit-elle. passer ces quatre semaines et nd ils sont tirés. Par conséquent, ils peuvent accumuler exactement la même expérience que moi, mais pas d' accès à des psychologues, ils ne seront pas ".Davidson m'a dit que la semaine dernière, le FB a commencé à surveiller un groupe test de modérateurs, mesurant leur «durabilité», comme l'appelle la société - leur capacité à s'éloigner après avoir vu des matériaux traumatisants et à continuer à faire leur travail. Il dit que la société espère étendre ce test à tous les modérateurs du monde entier.
Randy a également quitté après environ un an. Comme Chloé, il a été fortement influencé par la vidéo, où un homme est poignardé. La victime avait à peu près le même âge que lui et il se souvient comment cet homme, mourant, a appelé sa mère.«Je le vois tous les jours», explique Randy. - J'ai développé une peur des couteaux. J'aime cuisiner, mais c'est très difficile pour moi de retourner à la cuisine et d'être près des couteaux. "Ce travail a également changé son attitude envers le monde. Après avoir regardé tant de vidéos affirmant que les événements du 11 septembre n'étaient pas une attaque de terroristes, il a commencé à y croire. Les vidéos révélant le complot de tir à Los Angeles étaient également très convaincantes, dit-il, et maintenant il pense que plusieurs personnes ont été impliquées dans l'attaque (le FBI a prétendu que c'était le travail d'un tireur). "Maintenant, Randy dort avec une arme à côté de lui. Il fait défiler dans son esprit la fuite de sa maison en cas d'attaque. Quand il se réveille le matin, il fait le tour de la maison avec une arme à la main à la recherche d'étrangers.Il a récemment commencé à rendre visite à un autre psychothérapeute quand il a été diagnostiqué ESPT et névrose d'anxiété.«Je suis complètement dépassé», explique Randy. - Mon état psychologique saute ici et là. Un jour, je suis complètement heureux; un autre, je ressemble à un zombie. Non pas que j'étais déprimé, j'étais juste coincé. »Il ajoute: "Je ne pense pas qu'il soit possible de faire ce travail et de ne pas gagner de névrose aiguë ou de SSPT."Les modérateurs avec qui j'ai parlé se plaignent souvent que les psychologues locaux sont passifs et attendent que les travailleurs reconnaissent eux-mêmes les signes d'anxiété et de dépression et commencent à demander de l'aide.«Ils n'ont absolument rien fait pour nous», explique Lee. «Ils s'attendaient juste à ce que nous comprenions nous-mêmes lorsque nous nous cassons.» La plupart des travailleurs se dégradent tout simplement lentement et eux-mêmes ne le remarquent pas. C'est ce qui me tue. "
La semaine dernière, lorsque j'ai parlé aux représentants de FB de mes conversations avec les modérateurs, la société m'a invité à Phoenix pour que je puisse visiter ce bureau moi-même. Pour la première fois, la FB a autorisé un journaliste à visiter le bureau des modérateurs aux États-Unis depuis que la société a commencé il y a deux ans à construire des bureaux spéciaux à cet effet. Le représentant qui m'a rencontré sur place a déclaré que les histoires qui m'ont été racontées ne reflètent pas l'expérience quotidienne de la plupart des entrepreneurs, ni à Phoenix ni dans d'autres bureaux à travers le monde.Une source m'a dit qu'à la veille de mon arrivée au centre de bureaux où se trouve Cognizant, des affiches de motivation étaient accrochées aux murs. En général, l'endroit s'est avéré être beaucoup plus coloré que ce à quoi je m'attendais. Un graphique au néon sur le mur décrit une activité d'un mois qui ressemble à un croisement entre un horaire de camp d'été et une maison de retraite: yoga, zoothérapie, méditation et un événement inspiré du film Mean Girls , intitulé «Le mercredi, nous portons du rose». Mon jour d'arrivée était le dernier jour de la «semaine des bonnes actions au hasard», au cours de laquelle les employés étaient encouragés à écrire des phrases inspirantes sur du papier de couleur, qui devaient ensuite être fixées aux murs avec des bonbons.Après avoir parlé avec les managers de Cognizant et de Facebook, j'ai interviewé cinq employés qui se sont portés volontaires pour le faire. Ils entrent dans la salle de réunion d'un seul coup et avec eux se trouve la personne qui dirige ce bureau. Lorsque leur patron est assis à côté d'eux, ils reconnaissent les difficultés de ce travail, mais me disent qu'ils se sentent en sécurité, se sentent soutenus et pensent que ce travail fournira une opportunité d'accéder à des postes mieux rémunérés - même s'il ne fait pas partie du Service fédéral de sécurité, alors chez Cognizant lui-même.Brad, le responsable des politiques, me dit que la plupart du contenu qu'ils modèrent avec leurs collègues est essentiellement inoffensif et demande de ne pas exagérer les risques psychologiques pour la santé associés à ce travail.«On dirait que nous sommes bombardés de ces images et d'autres contenus, mais c'est en fait l'inverse», explique Brad, qui a travaillé au bureau pendant près de deux ans. «La plupart de ce que nous voyons est assez calme. Ce sont des gens qui réagissent trop émotionnellement. Ce sont des gens qui se plaignent de photos et de vidéos qu'ils ne veulent tout simplement pas voir - et non parce qu'ils ont du mauvais contenu. La plupart de ce que nous voyons est juste cela. "Lorsque je pose des questions sur les grandes difficultés liées à l'application de la politique, le modérateur Michael dit qu'il est constamment confronté à la nécessité de prendre des décisions difficiles. «Il y a un nombre infini d'options pour le prochain travail, et cela mène au chaos», dit-il. - Mais pour cette raison, le travail reste intéressant. "Il n'y en aura jamais un qui travaillera toute la journée, connaissant la réponse à chaque question."En tout cas, dit Michael, il aime plus ce travail que le précédent chez Walmart, où les visiteurs le réprimandaient souvent. «Personne ne me crie dessus», dit-il.Les modérateurs quittent la salle à tour de rôle et me présentent deux psychologues à plein temps, dont l'un est l'organisateur de l'assistance psychologique dans ce bureau. Ils me demandent de ne pas utiliser leurs vrais noms. Ils disent qu'ils s'informent quotidiennement sur le statut de chaque employé. Ils disent qu'une combinaison de services à temps plein, d'une hotline et de programmes d'aide aux employés est suffisante pour protéger le bien-être des employés.Interrogé sur les risques de stress post-traumatique, le psychologue, que j'appellerai Logan, me parle d'un autre phénomène psychologique: la croissance post-traumatique , lorsque les victimes d'événements traumatiques deviennent plus fortes du fait de leur expérience. Il cite l'exemple de Malalu Yusufzai., militante dans le domaine de l'éducation qui a été blessée à la tête par l'un des adolescents du mouvement terroriste Techrique Taliban Pakistan.«Ce fut un événement extrêmement traumatisant pour elle», explique Logan. - Mais, apparemment, elle est sortie de la situation, devenant plus forte et robuste. Elle a reçu le prix Nobel de la paix. Il existe donc de nombreux exemples de personnes qui ont survécu à des moments difficiles et qui sont devenues plus fortes à cause de cela. "La visite se termine par une visite, au cours de laquelle je me promène sur le sol et parle avec d'autres employés. Cela me surprend à quel point ils sont jeunes: presque tous ont moins de trente ans, ou un peu plus de trente ans. Pendant que je me promène dans le bureau, tout le travail est interrompu afin que je ne puisse pas voir accidentellement les informations personnelles des utilisateurs de FB, donc les employés discutent gentiment avec leurs voisins lorsque je passe. Je marque des affiches. L'un, de Cognizant, contient le slogan énigmatique «l'empathie à grande échelle». Une autre, la célèbre directrice des opérations de FB, Cheryl Sandberg, a déclaré: "Que feriez-vous si vous n'aviez pas peur?"Je me souviens immédiatement de Randy avec son arme.
Tous ceux que j'ai rencontrés au bureau expriment une grande inquiétude pour les employés et semblent faire tout leur possible dans le contexte du système dans lequel ils doivent tous travailler. La FB est fière de payer aux entrepreneurs au moins 20% de plus que le salaire minimum dans tous les bureaux des modérateurs, de fournir une assurance médicale complète et une assistance psychologique de meilleure qualité que dans les plus grands centres d'appels.Et pourtant, plus j'interviewe de modérateurs, plus je doute de la pertinence d'utiliser un modèle de centre d'appels pour organiser la modération du contenu. Ce modèle est depuis longtemps un standard parmi les géants de la technologie.- il est utilisé sur Twitter et Google, et donc sur YouTube. Outre les économies de coûts, l'externalisation permet aux géants de la technologie d'étendre rapidement leurs offres de services sur de nouveaux marchés et dans de nouvelles langues. Cependant, cette stratégie transmet des problèmes de communication et de sécurité critiques aux mains de personnes qui sont payées comme si elles répondaient aux appels de clients dans un supermarché d'électronique.Tous les modérateurs que j'ai interviewés sont extrêmement fiers de leur travail et en parlent avec un sérieux pathétique. Ils veulent juste que le personnel de FB les considère comme leurs collègues et les traite d'une manière qui ressemble au moins à l'égalité.«Si nous n'avions pas fait ce travail, le FB aurait été terrible», explique Lee. - Nous considérons tout cela pour eux. Et, oui, l'enfer, parfois nous prenons les mauvaises décisions. Cependant, les gens ne comprennent pas que de vrais êtres humains travaillent ici. »Et le fait que les gens ne comprennent pas cela, bien sûr, est fait exprès. Il vaudrait mieux que le FB se lamente sur ses succès dans le domaine de l'intelligence artificielle, et qu'à cause de cela, à l'avenir, il devra s'appuyer moins sur le travail des modérateurs-personnes.Cependant, étant donné les limites de cette technologie et la diversité de la parole sans fin, une telle journée semble très lointaine. En attendant, le modèle de centre d'appels pour la modération de contenu est très préjudiciable à de nombreuses personnes qui y travaillent. Ils, étant à l'avant-garde de la plate-forme avec des milliards d'utilisateurs, remplissent une fonction critique pour la civilisation moderne et reçoivent moins de la moitié de ce que reçoivent les autres personnes travaillant à l'avant-garde. Ils travaillent aussi longtemps qu'ils le peuvent - puis ils quittent, et l'accord de non-divulgation garantit qu'ils pénètrent dans l'ombre le plus profondément possible.Et du point de vue de la société FB, il semble qu’ils n’y aient pas du tout travaillé. Et, techniquement, ça l'est.