لقد اعتدنا بالفعل على حقيقة أن الشبكات الاجتماعية تؤثر على
الانتخابات والسياسة في الدول الغربية. لكن يمكن أن يكلف الناس حياتهم ، وليس هناك حل حتى الآن.
في مارس 2019 ، قُتل 49 شخصًا
في مسجدين في نيوزيلندا . قام منظمو المذبحة ببثها على الشبكات الاجتماعية لجذب انتباه أكبر عدد ممكن من الناس. كان باتريك كروسيوس من بين المشاهدين على الجانب الآخر من الشاشة ، الذين قاموا ، تحت انطباع ما رآه ،
بإطلاق نار جماعي في متجر وول مارت في إل باسو في 4 أغسطس ، مما أسفر عن مقتل 21 شخصًا وإصابة 26 آخرين ، ويدعي المحققون أن المشتبه به
نشر معلومات قبل عدة أشهر من المأساة
نواياه على أحد الموارد المتطرفة على الشبكة ، حيث عبر ، من بين أمور أخرى ، عن دعمه لمقاتل من نيوزيلندا. بعد التحقيق في أسباب الكارثة ، لجأت كل من فرنسا ونيوزيلندا إلى دول وشركات التكنولوجيا الأخرى لإيجاد التقنيات التي من شأنها أن تمنع توزيع هذا المحتوى. تم
دعم المبادرة من
قبل 17 دولة والاتحاد الأوروبي و 8 شركات تكنولوجية كبرى ، بما في ذلك جوجل وفيسبوك.
في أبريل 2019 ، أدت
سلسلة من الانفجارات في سريلانكا إلى مقتل أكثر من 200 شخص. تقول السلطات إنها
حذرت الفيسبوك من العواقب المحتملة لتأجيج العنف على وسائل التواصل الاجتماعي. لم يتحقق التفاهم ، ونتيجةً للخسائر البشرية ، تقرر
منع الوصول إلى عدد من الشبكات الاجتماعية والرسائل الفورية ، بما في ذلك Facebook و WhatsApp. وفقا للسلطات ، يمكن أن يؤدي انتشار المعلومات الخاطئة حول الأحداث إلى تصاعد العنف في البلاد.
يحدث حظر الشبكات الاجتماعية والمراسلين الفوريين أثناء اندلاع العنف في كثير من الأحيان. على سبيل المثال ، في صيف عام 2018 ، أدى الانتشار الفيروسي
لشائعات خطف واتس آب إلى إثارة سلسلة من الاشتباكات في الهند. وفي فبراير 2019 ، أدت المعلومات الخاطئة التي انتشرت على Facebook و Instagram و WhatsApp إلى
زيادة التوتر بين الهند وباكستان. الآن ، يخشى المسؤولون في الهند من أن نشر الأخبار المزيفة عبر Facebook قد يشعل الموقف خلال الانتخابات المقبلة.
يولد العنف على الإنترنت في البلدان الأكثر تقدماً: في
المكسيك والولايات المتحدة وألمانيا .
من ناحية ، عندما تقوم الحكومات بحظر الشبكات الاجتماعية ، يُنظر إليها على أنها محاولة لتقييد حرية التعبير. لكن من ناحية أخرى ، تُظهر الحالات المذكورة أعلاه أن فصل الشبكات الاجتماعية هو الأداة الوحيدة للبلدان لمنع العنف وفقدان الأرواح. كيف تحولت الشبكات الاجتماعية إلى بيئة عدوانية وهل هناك طريقة لوقف العنف دون إيقاف تشغيل الإنترنت؟
من التطهير العرقي إلى الهجمات الإرهابية
أظهرت دراسات
الأمم المتحدة أن Facebook لعب "دورًا حاسمًا" في صعود المشاعر المعادية للمسلمين في ميانمار المجاورة لسريلانكا. أدى انتشار الشائعات في الشبكات الاجتماعية
إلى وقوع إصابات بين السكان: تحولت الهستيريا المعادية للمسلمين في الشبكات الاجتماعية في ميانمار إلى تطهير عرقي واسع النطاق. استخدمت القوات الحكومية فيسبوك لعدة سنوات
للانتشار ضد جماعة الروهينجا العرقية في البلاد. أصبح ما لا يقل عن 6700 شخص ضحايا في العالم الحقيقي ،
وفقًا لتقرير صادر عن أطباء بلا حدود. في نوفمبر 2018 ، نشر Facebook
تقييمًا مستقلًا لما كان يحدث في ميانمار
واعترف بأن الشركة لم تفعل ما يكفي لمنع برنامجها من التحريض على الخلافات والتحريض على العنف في الحياة الحقيقية.
قبل عام من الهجمات الإرهابية في سري لانكا ، أثارت شائعات كاذبة في الشبكات الاجتماعية البوذيين للتحدث علنا ضد المسلمين: لعبت الأخبار أيضا الفيسبوك لعبت دورا
قاتلا . في الوقت نفسه ، تقدر حكومة البلاد الشبكات الاجتماعية لمساعدتها في إرساء الديمقراطية بعد سنوات عديدة من الحرب الأهلية ، لذلك يمكن اعتبار انتقاداتها للتحريض على الكراهية العنصرية موضوعية. لم يرد ممثلو Facebook على انتقادات الحكومة حتى تم حظر الوصول إلى مواردهم في البلاد. بعد ذلك فقط ، وعدت الشركة الأمريكية بتوظيف المزيد من المشرفين وتحسين التفاعل مع السلطات المحلية.
خوارزميات الموت
الغالبية العظمى من الناشرين والموزعين للمحتوى المتطرف على شبكة الإنترنت لا يرتكبون جرائم الكراهية في الحياة الواقعية. لكن جرائم الكراهية التي تحدث غالباً ما ترتبط بأنشطة المحرضين عبر الإنترنت.
يوضح النموذج الرياضي للسلوك الاجتماعي المحسوب من قبل العلماء الروس أن هناك نقطة تحول ، وبعدها يصبح بعض الناس مهووسين بالنسخة المشوهة للواقع التي أنشأتها شبكة الإنترنت ، وبدأت في التحرك.
وجدت دراسة أجرتها جامعة وارويك في بريطانيا العظمى
وجود علاقة بين الهجمات على اللاجئين في ألمانيا بين عامي 2015 و 2017 مع المناطق التي تحظى بشعبية كبيرة على الفيسبوك وانتشار الحزب الشعبي اليميني المتطرف "البديل لألمانيا"
ضد اللاجئين . من بين 3335 اعتداء ، وقع 3171 منها في بلديات ذات نشاط تهديد عالي عبر الإنترنت. في شيمنيتز ، ألمانيا ، أدت شائعات كاذبة حول المهاجرين القتلة على تويتر وفيسبوك
إلى مظاهرات حاشدة ، جمعت 6000 مشارك في أغسطس 2018.
الوصول إلى التقنيات والمنصات التي توفر محتوى فيروسي ليس بالأمر الصعب. أظهرت دراسة أجراها معهد ماساتشوستس للتكنولوجيا (MIT) لأكثر من 126000 مشاركة كتبها حوالي 3 ملايين شخص أن الأكاذيب تنتشر على وسائل التواصل الاجتماعي بشكل أسرع وأكثر شمولاً من الحقيقة في جميع فئات المعلومات. يتم تعزيز تأثير الشبكات الاجتماعية من خلال ما يسمى الفقاعات الأيديولوجية: للحفاظ على انتباه الناس على مواقعهم لأطول فترة ممكنة ، تستخدم شركات مثل Facebook و YouTube الخوارزميات التي توصي بالمشاركات الأكثر إثارة للاهتمام للمستخدم. إذا كان النظام يستحوذ على شعبية الفيديو ، فإنه يوزعه أكثر ، ونتيجة لذلك ، يحصل المحتوى على عدد أكبر من المشاهدات ، ويتلقى YouTube المزيد من الأموال نظرًا لحقيقة أن المستخدمين يقضون المزيد من الوقت على المورد وعرض المزيد من الإعلانات.
يرى المستخدمون في الفقاعات الإيديولوجية إصدارًا من العالم لا تتنازع فيه أبدًا آراءهم ، ولا توجد آراء معارضة. يندرج المشاهد على موقع يوتيوب في الشروط التي تم بحثها في نموذج "
المواجهة المعلوماتية " لعلماء الاجتماع الروس: لا يواجه المستخدم مصدر إزعاج في شكل وجهات نظر بديلة. هذا يخلق دائرة متماسكة للغاية والمخلصين من أتباع الذين هم على استعداد لتقليد جدول أعمال أكثر تطرفا إذا حدث ذلك. فقاعات مثل هذه تجلب "نقاط التحول" التي ينتشر فيها العنف.
أنشأ المهندس Guillaume Chaslo ، الذي عمل على أنظمة توصيات YouTube لمدة ثلاث سنوات ، موقع
Algotransparency في عام 2016 ، حيث يحاول كشف خوارزميات استضافة الفيديو: كيف يتم الترويج لمحتوى واحد مقارنة بالمحتويات الأخرى. في اليوم السابق
لإطلاق النار في بيتسبرغ كنيس في عام 2018 ، سجلت Algotransparency أن خوارزمية يوتيوب توزع شريط فيديو عن معالج المؤامرة ديفيد آيك ، حيث يتهم
الملياردير اليهودي ، المحسن والهدف المحبوب لجورج سوروس اليميني المتطرف "بالتلاعب بالأحداث السياسية في العالم". كان للفيديو أقل من 1000 مشاهدة ، عندما بدأت الخوارزمية بالترويج له ، أصبح لديه الآن أكثر من 70000. وهذا لا يثبت وجود علاقة سببية بين الفيديو والتصوير ، لكنه يعطي فهمًا لكيفية العثور على مقاطع الفيديو الاستفزازية ومكافحة توزيعها.
العنف على الانترنت
هناك مشكلة أخرى مرتبطة بالعنف ووسائط الشبكة وهي التوزيع غير المنضبط لمقاطع الفيديو مع المذابح والانتحار. منذ
أربع سنوات ، تم توزيع مقطع فيديو تم تصويره بشكل مستقل بواسطة قاتل اثنين من المراسلين في فيرجينيا على Facebook و Twitter ؛ قبل ثلاث سنوات ، أصبح
إطلاق النار الجماعي في دالاس فيروسيًا. يمكن لمنصات الوسائط الاجتماعية توفير جمهور عالمي للأشخاص الذين يرغبون في إلحاق ضرر جسيم بأنفسهم أو بالآخرين. ربما هذا ليس ما كان يعتمد عليه Facebook عندما عرض Facebook Live على الجمهور
قبل عدة
سنوات .
نظرًا لحقيقة أن الفيديو المتدفق يعد أداة جديدة نسبيًا على الإنترنت والتي يستمر Facebook و Twitter و Amazon وغيرها من الشركات في الاستثمار فيها ، فمن غير الواضح ما يجب القيام به في حالة بث الهجمات الإرهابية على الهواء. حتى إذا كان Facebook يمنع المحتوى العنيف بسرعة ، فإن مثل هذه الحوادث تصبح معروفة على الفور ، مما يدفع الناس إلى البحث عن مقاطع فيديو أصلية عبر Google ومحركات البحث الأخرى.
تم بث الهجوم المذكور أعلاه في نيوزيلندا ، والذي أودى بحياة 50 شخصًا ،
على الهواء مباشرة على Facebook ، وتم إعادة نشره على YouTube ومناقشته على Reddit قبل أن يتفاعل أي من هذه المنصات. يتمكن العديد من المستخدمين من وضعه في حساباتهم ، الأمر الذي يتطلب مراجعة ثانية ليس فقط بالوسائل التلقائية ، ولكن أيضًا بمشاركة المشرفين من أجل حذف جميع النسخ. على سبيل المثال ، بعد شهرين تقريبًا من مأساة كرايستشيرش ، عثرت سي إن إن على نسخ من مذابح المذابح
لا تزال متاحة في العديد من المواقع.
انقاذ الغرق
في السنوات الأخيرة ، أصبح تعطيل الإنترنت
شائعًا بشكل متزايد في جميع أنحاء العالم ، وخاصة في آسيا وأفريقيا ، بعد الاحتجاجات أو غيرها من الأنشطة المناهضة للحكومة.
ومع ذلك ، يشك خبراء سياسة الإنترنت في أن العقبات تمنع الإرهابيين من تحقيق نواياهم.
وجد الباحث بجامعة ستانفورد ، جان ريدجاك ، أن حجب الشبكات الاجتماعية والمواقع الإلكترونية في الهند كان مصحوبًا
بتصاعد العنف ... إن منع تسرب البيانات والأخبار الشائعات المزيفة من خلال قنوات بديلة ، في ظل عدم وجود اتصالات جماعية سريعة عبر الإنترنت ، يصعب دحضها.
على أي حال ، لا يكون الحظر فعالًا إلا إلى حد ما ، لأن المستخدمين يمكنهم استخدام التطبيقات المعروفة باسم VPN أو الشبكات الخاصة الافتراضية لتجاوز الحظر أو الرسائل الفورية التي تتصل بالأجهزة المحيطة عبر Wi-Fi إذا تم إيقاف تشغيل الإنترنت.
في مارس ، طلبت اللجنة البرلمانية الهندية من جويل كابلان ، رئيس السياسة العالمية على Facebook ،
تشديد السيطرة على WhatsApp و Instagram ، مطالبة الشركات بالتحقق من منشورات المستخدمين للتأكد من أنها لا تحتوي على أي شيء غير قانوني. هذا النهج غامض لسببين: يؤدي ذلك إلى قيام شركات مثل WhatsApp ، التي تستخدم التشفير من طرف إلى طرف ، بتغيير نظمها الأساسية بشكل جذري ، ومن ناحية أخرى ، تثير مخاوف بشأن السرية والسيطرة المفرطة للدولة.
التحكم اليدوي
في الصين ، يقاتل
جيش حقيقي للغاية
من الرقابة على المحتوى غير المناسب لوسائل التواصل الاجتماعي مع مئات الملايين من المستخدمين. صنف الباحثون في
جامعة هارفارد عددهم على عشرات غير مسبوقة من الآلاف من المشاركين ، بمن فيهم المدونون الحكوميون وما يسمى بشرطة الإنترنت ، والتي تقوم بتصفية المحتوى من موارد الشبكة. بفضل التطبيقات الصينية سريعة التطور ، يمتد تأثير الرقابة إلى ما وراء حدود المملكة الوسطى:
اتهم مؤسس Facebook Mark Zuckerberg شبكة TikTok الاجتماعية بحظر المحتوى المتعلق بالاحتجاجات في هونغ كونغ ، حتى في الولايات المتحدة.
إذا كان المحتوى الخطير يقع خارج الإمبراطورية السماوية ،
فسيتم استخدام المسدس العظيم ، مما يؤدي إلى إبطاء عمل الموارد غير المقبولة. على سبيل المثال ، وفقًا لبافيل دوروف ، شنت الحكومة الصينية هجومًا على نظام DDoS لإبطاء Telegram في 13 يونيو ، عندما حاصر مئات الآلاف من مواطني هونج كونج مبنى الحكومة
للاحتجاج على مشروع القانون ، الذي يسمح بتسليم الأشخاص إلى المحكمة في الصين القارية.
ولكن حتى هذا النظام القوي وجيش المشرفين لا يستطيعون عرض كل ملف تم تنزيله يدويًا في فترة زمنية معقولة ، ويؤدي نمو البث المباشر إلى ظهور صعوبات جديدة في التعرف على المحتوى القاسي ، حيث يمكن عرض الفيديو قبل أن يعرف الرقيب أنه تم بثه.
التقنيات الآلية بعيدة عن الكمال وتوفر الفرصة الوحيدة لإعلام ومنع تكرار المحتوى الأكثر فظاعة على الويب. وفقًا لإحصائيات YouTube ، يتم حذف
73٪ فقط
من مقاطع الفيديو التي تم وضع علامة عليها تلقائيًا قبل أن يراها شخص واحد على الأقل.
لسنوات عديدة ، قام كل من Facebook و Google بتطوير وتنفيذ أدوات آلية يمكنها اكتشاف وحذف الصور ومقاطع الفيديو والنصوص التي تنتهك سياساتهم. على سبيل المثال ، يستخدم Facebook
PhotoDNA من Microsoft للكشف عن المواد الإباحية عن الأطفال. طورت Google نسختها الخاصة
من هذا البرنامج المفتوح المصدر. استثمرت هذه الشركات أيضًا في تقنيات الكشف عن الرسائل المتطرفة ، وانضمت إلى مجموعة تسمى
"منتدى الإنترنت العالمي لمكافحة الإرهاب" لتبادل المعلومات حول المحتوى الإرهابي المعروف. بالنسبة للمحتوى غير القانوني الذي تم اكتشافه ، يتم إنشاء توقيعات رقمية تتيح التعرف عليه عند التنزيل المتكرر (وحظره).
ولكن الاعتدال التلقائي يصبح أكثر صعوبة إذا لم يكن يتعلق بالصور ومقاطع الفيديو ، ولكن حول دفق الفيديو. وكما كتب المستشار العام لشركة Google Kent Walker في
مدونته عام 2017 ، "يمكن أن تساعد السيارات في تحديد مقاطع الفيديو التي تنطوي على مشاكل ، ولكن العامل البشري لا يزال يلعب دورًا حاسمًا في الفروق الدقيقة في تحديد الحد الفاصل بين دعاية العنف والكلمات الدينية".
لم تتمكن شركات التكنولوجيا
بعد من إنشاء الذكاء الاصطناعي الفعال لمنع هذا المحتوى بشكل استباقي ، على الرغم من أنه أغنى صناعة في العالم. لذلك ، يوجد في Facebook و YouTube فرق من المراقبين يشاهدون مقاطع الفيديو حول العالم ، وفي الوقت نفسه يواجهون مشكلة حجم البيانات بشكل متزايد. ربما أصبح كل من YouTube و Facebook أكبر من أن يتم الإشراف عليهما.
يبدو أن مارك زوكربيرج نفسه غير متأكد من إمكانات الأنظمة الآلية: فهو مستعد
لنقل السيطرة على الأصول المتعثرة
إلى الدولة ، بما في ذلك المحتوى "القاتل" والإعلانات السياسية. "حتى وقت قريب ، تم تعريف الإنترنت في جميع البلدان تقريبًا خارج الصين بواسطة المنصات الأمريكية ، والتي تكون فيها قيم حرية التعبير قوية. وقال الملياردير في خطاب ألقاه في جامعة جورج تاون "ليس هناك ما يضمن فوز هذه القيم". ولكن هل هناك أي ضمان بأنه في حالة نقل السيطرة على المحتوى إلى حكومة أي بلد ، لن نتلقى رقابة على الشبكة العالمية وفقًا للسيناريو الصيني؟ هل هذا هو نوع الإنترنت الذي نريده ، مارك؟
نيكيتا تسابلين
دقيقة الرعاية الجسم الغريب
هذه المادة قد تسبب مشاعر متضاربة ، لذلك قبل كتابة تعليق ، قم بتحديث شيء مهم في ذاكرتك: