يشرح الدليل ماهية المشاعر التي يمكن اعتبارها تهديدات ، أو في سياق مجموعات محددة ، للتحريض على الكراهية.تحت انتقاد النقد ، يضطر Facebook إلى اتخاذ إجراءات لتخفيف حدة المحتوى. لكن هذه المهمة ليست بهذه البساطة. حصلت وسائل الإعلام على دليل داخلي لمشرفي Facebook: هذه أكثر من 1400 (!) صفحات من التعليمات ، والتي يصعب فهمها في بعض الأحيان ،
تكتب في صحيفة نيويورك تايمز .
اليوم ، يتهم السياسيون والمنظمات العامة الشبكة الاجتماعية بالتحريض على الكراهية والتضليل. بالنسبة إلى Facebook ، هذه مشكلة مالية في المقام الأول ، لأن مثل هذه الاتهامات تخلق خلفية سلبية ويمكن أن تؤثر سلبًا على سعر السهم ، مما يعني رفاهية مالكي وموظفي الشركة.
يجب على Facebook ، الذي يكسب حوالي 5 مليارات دولار في الربع ، أن يوضح للجميع أنه يأخذ على محمل الجد محاربة المحتوى الضار. ولكن كيف تتعقب مليارات الرسائل في اليوم بأكثر من 100 لغة ، مع الاستمرار في توسيع قاعدة المستخدمين ، والتي هي أساس العمل؟ قرار الشركة: شبكة من المشرفين الذين يتم توجيههم بواسطة متاهة شرائح PowerPoint تشرح المحتوى المحظور.
"كل صباح يوم الثلاثاء ، يتجمع عشرات من موظفي Facebook لتناول الإفطار لوضع قواعد جديدة ومناقشة ما يُسمح لملياري مستخدم في الموقع بقوله" ، وفقًا
لصحيفة نيويورك تايمز . "بناءً على نتائج الاجتماعات ، يتم إرسال القواعد ذات الصلة إلى أكثر من 7500 مشرف حول العالم." تحتوي الصحيفة على أكثر من 1400 صفحة من كتب القواعد. تم تقديم المعلومات بواسطة أحد الموظفين المهتمين بالاعتدال المفرط والكثير من الأخطاء التي ترتكبها الشركة عند تعديل المحتوى.
كشف فحص المستندات عن وجود ثغرات وتحيزات وأخطاء واضحة. من الواضح أن القواعد تختلف بالنسبة للغات والبلدان المختلفة ، ونتيجة لذلك يمكن أن يزدهر خطاب الكراهية في بعض المناطق ويتم قمعه دون داع في مناطق أخرى. على سبيل المثال ، بمجرد مطالبة المشرفين بإزالة دعوات جمع التبرعات لضحايا البركان في إندونيسيا ، لأن أحد منظمي جمع التبرعات كان على القائمة السوداء لمجموعات Facebook المحظورة. في الهند ، طُلب من المشرفين عن طريق الخطأ حذف التعليقات التي تنتقد الدين. في ميانمار ، واصلت المجموعة المتطرفة نشاطها لعدة أشهر بسبب خطأ في وثائق الفيسبوك.
لقطة شاشة من دليل Facebook للمشرفينوفقًا للوثائق المنبثقة ، يحاول Facebook صياغة مبادئ للمشرفين في شكل قواعد نعم أو لا بسيطة. ثم تنقل الشركة الاعتدال الفعلي إلى شركات خارجية. إنها تجذب العمال غير المهرة بشكل أساسي ، ويعمل الكثير منهم في مراكز الاتصال ("الدعم الهندي" الشهير - هؤلاء هم الموظفون المشاركون في الاعتدال).
غالبًا ما يعتمد المشرفون على الترجمة من Google للعمل. متطلبات أدائها هي أنها يجب أن تتذكر في غضون ثوان قليلة القواعد التي لا حصر لها وتطبيقها على مئات الرسائل التي تظهر على جهاز الكمبيوتر الخاص بهم في العمل كل يوم. على سبيل المثال ، أن نتذكر بسرعة القواعد التي يحظر فيها ذكر التعبيرات الجهاد.
لقطة شاشة من دليل Facebook للمشرفين ، والتي تشرح علامات خطاب الكراهية. يجب أن يحدد المشرفون ثلاثة مستويات من "الجدية" بناءً على ستة "مقارنات غير إنسانية" ، بما في ذلك مقارنة بين اليهود والفئران. دليل الكراهية العام يتحدث 200 صفحةيقول بعض المشرفين أن القواعد ليست فعالة للغاية ، وفي بعض الأحيان لا معنى لها. ومع ذلك ، تعتقد إدارة الشركة أنها ليست كذلك: "لدينا مليارات الرسائل في اليوم ، ونحن نحدد المزيد والمزيد من الانتهاكات المحتملة باستخدام أنظمتنا التقنية" ، كما تقول مونيكا بيكيرت ، مديرة Facebook Global Policy. "على هذا النطاق ، فإن دقة 99٪ تترك الكثير من الأخطاء".
لا يبدو دليل Facebook الذي ضرب الصحافة كدليل واضح. وهو يتألف من العشرات من عروض PowerPoint التقديمية المجزأة وجداول بيانات Excel التي تحتوي على عناوين بيروقراطية مثل "منظمات الكراهية والأفراد من غرب البلقان" أو "العنف الواضح: معايير التنفيذ". هذا هو نوع من "خليط" من القواعد التي وضعتها الإدارات المختلفة للشركة. أكد Facebook صحة المستندات ، على الرغم من أنه قال إن بعضها قد تم تحديثه مقارنة بالنسخة التي حصلت عليها
صحيفة نيويورك تايمز . يقول Facebook إن الملفات مخصصة لأغراض التدريب فقط ، لكن المشرفين يقولون إنها تستخدم فعليًا كمواد مرجعية في العمل اليومي.