O manual explica quais emoticons podem ser considerados ameaças ou, no contexto de grupos específicos, incitar ao ódio.Sob o fogo das críticas, o Facebook é forçado a tomar medidas para moderar o conteúdo. Mas essa tarefa não é tão simples quanto parece. A mídia recebeu um manual interno para moderadores do Facebook: são mais de 1400 (!) Páginas de instruções, que às vezes são muito difíceis de entender,
escreve o NY Times .
Hoje, políticos e organizações públicas acusam a rede social de incitar o ódio e a desinformação. Para o Facebook, isso é principalmente um problema financeiro, porque essas acusações criam um fundo negativo e podem afetar adversamente o preço das ações, o que significa o bem-estar dos proprietários e funcionários da empresa.
O Facebook, que ganha cerca de US $ 5 bilhões por trimestre, deve demonstrar a todos que leva a sério a luta contra conteúdo malicioso. Mas como rastrear bilhões de mensagens por dia em mais de 100 idiomas, continuando a expandir a base de usuários, que é a base dos negócios? A decisão da empresa: uma rede de moderadores guiados por um labirinto de slides do PowerPoint que explica o conteúdo proibido.
“Toda terça-feira de manhã, várias dezenas de funcionários do Facebook se reúnem para o café da manhã para elaborar novas regras e discutir o que dois bilhões de usuários do site podem dizer”, escreve o
NY Times . "Com base nos resultados das reuniões, as regras relevantes são enviadas a mais de 7.500 moderadores em todo o mundo." O jornal possui mais de 1.400 páginas de livros de regras. As informações foram fornecidas por um funcionário preocupado com a moderação excessiva e com muitos erros cometidos pela empresa ao moderar o conteúdo.
O exame dos documentos revelou inúmeras lacunas, preconceitos e erros óbvios. Obviamente, as regras diferem para diferentes idiomas e países, como resultado do qual o discurso de ódio pode florescer em algumas regiões e desnecessariamente suprimido em outras. Por exemplo, uma vez que os moderadores foram instruídos a remover os pedidos de angariação de fundos para as vítimas do vulcão na Indonésia, porque um dos organizadores da angariação de fundos estava na lista negra de grupos banidos do Facebook. Na Índia, moderadores foram instruídos a remover comentários que criticavam a religião. Em Mianmar, o grupo extremista continuou ativo por vários meses devido a um erro na documentação do Facebook.
Captura de tela do manual do Facebook para moderadoresA julgar pela documentação pop-up, o Facebook está tentando formular princípios para moderadores na forma de regras simples de sim ou não. Em seguida, a empresa transfere a moderação real para empresas de terceiros. Eles atraem principalmente trabalhadores não qualificados, muitos dos quais trabalham em call centers (o notório "suporte indiano" - esses são os funcionários envolvidos com moderação).
Frequentemente, os moderadores confiam no Google Translate para funcionar. Os requisitos para seu desempenho são tais que, em alguns segundos, eles devem recordar as inúmeras regras e aplicá-las às centenas de mensagens que aparecem em seu computador de trabalho todos os dias. Por exemplo, para recuperar rapidamente as regras na presença de quais emoticons é proibida a menção à jihad.
Uma captura de tela do manual do Facebook para moderadores, que explica os sinais do discurso de ódio. Os moderadores devem identificar três níveis de "seriedade" com base em seis "comparações desumanas", incluindo uma comparação entre judeus e ratos. Guia Geral do Discurso do Ódio 200 PáginasAlguns moderadores dizem que as regras não são muito eficazes e, às vezes, sem sentido. No entanto, a gerência da empresa acredita que não é diferente: "Temos bilhões de mensagens por dia e estamos identificando cada vez mais violações em potencial usando nossos sistemas técnicos", diz Monika Bickert, diretora de política global do Facebook. "Nessa escala, até 99% de precisão deixa muitos erros."
O manual do Facebook que chegou à imprensa não parece um guia claro. Consiste em dezenas de apresentações fragmentadas do PowerPoint e planilhas do Excel com títulos burocráticos, como "Os Balcãs Ocidentais Odeiam Organizações e Indivíduos" ou "Violência Explícita: Padrões de Implementação". Este é um tipo de "colcha de retalhos" das regras estabelecidas pelos diferentes departamentos da empresa. O Facebook confirmou a autenticidade dos documentos, embora tenha dito que alguns deles foram atualizados em comparação com a versão que entrou em posse do
NY Times . O Facebook diz que os arquivos são apenas para fins de treinamento, mas os moderadores dizem que são realmente usados como materiais de referência no trabalho diário.