هل سيارتي لديها هلوسات؟ هل الخوارزمية التي تتحكم في نظام مراقبة الشرطة في مدينتي تعاني من جنون العظمة؟ عانى مارفن ، مسافر أندرويد للمجرة ، من جميع الثنائيات على الجانب الأيسر. هل لدى محمصة الخبز مشاعر مماثلة؟
يبدو هذا مضحكًا ، ولكن فقط حتى نفهم أن خوارزمياتنا تشبهنا أكثر فأكثر. كلما تعلمنا أكثر عن دماغنا ، كلما وضعنا هذه المعرفة في إنشاء نسخ خوارزمية لأنفسنا. تتحكم هذه الخوارزميات في سرعة الأجهزة الآلية ، وتحدد أهداف الطائرات بدون طيار العسكرية المستقلة ، وتحسب قابليتنا للإعلان التجاري والسياسي ، وتجد رفقاء الروح في الخدمات عبر الإنترنت ، وتقيم مخاطر التأمين والقروض. تصبح الخوارزميات خلفية منطقية تقريبًا لحياتنا.
الخوارزميات الأكثر استخدامًا اليوم في العمل هي الخوارزميات ذات
التعلم العميق . يقوموا بنسخ بنية الدماغ البشري ، وبناء نماذج معقدة من المعلومات. يتم تدريبهم على فهم الواقع المحيط من خلال إدراكه ، لتحديد ما هو مهم ، وفهم ما يأتي منه. إنهم يبدون مثل أدمغتنا ، ويزداد خطر تعرضهم لمشاكل نفسية.
استخدم ديب بلو ، الخوارزمية التي هزمت بطل العالم في الشطرنج جاري كاسباروف في عام 1997 ، القوة الغاشمة ، وفرز مليون موقع في الثانية وتوقع ما يصل إلى 20 حركة في المستقبل. لقد فهم الجميع كيف تعمل ، حتى لو لم يتمكنوا من تكرارها. AlphaGo ، خوارزمية تعلم متعمقة هزمت Lee Sedola في 2016 ، تختلف اختلافًا جوهريًا. استخدم الشبكات العصبية لخلق فهمه الخاص للعبة ، التي تعتبر الأكثر صعوبة بين جميع ألعاب الطاولة. تم
تدريب AlphaGo من خلال مشاهدة الآخرين ، واللعب مع نفسه. يتم الخلط بين المبرمجين ولاعبي الذهاب بسبب أسلوب اللعب غير التقليدي لـ AlphaGo. استراتيجيته في البداية تبدو غير عادية. وعندها فقط نفهم ما كان يدور في خلده ، ثم ليس 100٪.
لشرح ما أعنيه بالتفكير بشكل أفضل ، ضع في اعتبارك ما يلي. قد تحتوي برامج مثل Deep Blue على خطأ في التعليمات البرمجية. قد تسقط من تجاوز الذاكرة. قد تكون مشلولة بسبب حلقة لا نهائية أو مجرد إعطاء إجابة خاطئة. ولكن يمكن حل جميع هذه المشاكل من قبل مبرمج لديه حق الوصول إلى التعليمات البرمجية المصدر للبرنامج الذي تمت كتابة الخوارزمية به.
تعمل الخوارزميات مثل AlphaGo بشكل مختلف جدًا. من الصعب جدًا رؤية مشاكلهم ، مجرد النظر إلى رمز البرنامج. إنها تتعلق بالعرض الداخلي للمعلومات. هذا المنظر عبارة عن مساحة متعددة الأبعاد متغيرة باستمرار تشبه المناظر الطبيعية الحلم. حل مشاكل مثل هذه الخوارزميات لا يتطلب أكثر ولا أقل من معالج نفسي للخوارزميات.
خذ المركبات غير المأهولة. Robomobile ، الذي شاهد علامة التوقف الأولى في العالم الحقيقي ، قد شاهد بالفعل ملايين علامات التوقف أثناء التدريب أثناء بناء تمثيل عقلي لهذه العلامة. تحت ظروف الإضاءة المختلفة ، في الطقس الجيد والسيئ ، مع ثقوب الرصاص وبدونها - تحتوي علامات التوقف على كمية لا تصدق من المعلومات المتنوعة. في معظم الظروف العادية ، سيتعرف الروبوت على علامة التوقف. ولكن ليست كل الظروف طبيعية. أظهرت بعض التجارب الحديثة أن بعض الملصقات السوداء التي تغطي علامة التوقف يمكن أن تخدع خوارزمية تقرر أنها ، في الواقع ، علامة على حدود السرعة التي تصل إلى 60 ميل في الساعة. تبدأ الخوارزمية ، بعد أن اجتمعت بشيء مشابه للغاية للظل المتناقض للشجرة ، في الهلوسة.
وكم من الطرق تحتوي الخوارزمية على هلوس؟ لمعرفة ذلك ، سيتعين علينا أن نطلب من الخوارزمية جميع التركيبات الممكنة لبيانات الإدخال. هذا يعني أن شيئًا ما يمكن أن يحدث بطريقة خاطئة بعدد لا نهائي من الطرق. لقد عرف المبرمجون الخبراء هذا منذ فترة طويلة ، ويستخدمونه لإنشاء ما يسمى ب أمثلة على الخصومة.
أظهر فريق بحث MIT LabSix أنه من خلال إصدار صور خاصة إلى خوارزمية تصنيف صور Google واستخدام البيانات الواردة منها ، يمكن للمرء تحديد نقاط ضعفه. ثم يمكنهم استخدام نقاط الضعف هذه لخداع الخوارزمية - على سبيل المثال ، لجعله يعتقد أن الأشعة السينية هي في الواقع صورة لجروين يلعبان في العشب.
يمكن أن تخطئ الخوارزميات أيضًا ، لأنها تدرك أحيانًا السمات البيئية التي ترتبط بالنتيجة النهائية ، على الرغم من عدم وجود علاقة سببية معها. في عالم الخوارزميات ، يسمى هذا
إعادة التدريب . عندما يحدث هذا في الدماغ ، نسميه خرافة.
واحدة من أكبر الإخفاقات الخوارزمية في الوقت الحالي لا تزال ما يسمى. "
parabola Google Flu " [التنبؤ بوباء الإنفلونزا]. استخدمت خدمة Google Flu المعلومات التي يبحث عنها الأشخاص على Google للتنبؤ بأماكن تفشي الإنفلونزا وحدتها. في البداية ، عملت تنبؤات إنفلونزا Google بشكل جيد ، لكنها بدأت في التدهور بمرور الوقت ، حتى بدأ النظام أخيرًا في التنبؤ بضعف حالات الإنفلونزا عما تم تسجيله في المراكز الأمريكية لمكافحة الأمراض. إنفلونزا Google ، بصفتها شامان خوارزمي ، لم تنتبه ببساطة إلى ما هو مطلوب.
ربما يمكن تصحيح أمراض الخوارزمية. ولكن من الناحية العملية ، غالبًا ما تكون الخوارزميات عبارة عن صناديق سوداء مملوكة لها ، ويحظر تحديثها بموجب قوانين التجارة. يصف
سلاح الهزيمة الرياضية لعام 2016 الخاص بـ Katie O'Neill العرض المذهل الحقيقي ، الذي يتكون من خوارزميات تجارية أدت أمراضها الماكرة إلى إفساد حياة الناس. ومما له أهمية خاصة الأخطاء الحسابية التي تقسم الأغنياء والفقراء. من المرجح أن يعاني الفقراء من مشاكل الائتمان ، ويعيشون في أماكن ترتفع فيها معدلات الجريمة ، ويحيط بهم فقراء آخرون يعانون من مشاكل مماثلة. وبسبب هذا ، تختار الخوارزميات هؤلاء الأشخاص كأهداف لخداع الإعلانات التي تتغذى على يأسهم ، وتقدم لهم قروضًا
ضعيفة الملاءة ، وترسل المزيد من رجال الشرطة إلى مناطق إقامتهم ، مما يزيد من احتمال قيام الشرطة باحتجازهم بسبب الجرائم التي تحدث بنفس التكرار وفي المناطق الأكثر ثراء. تحدد الخوارزميات التي يستخدمها نظام العدالة هؤلاء الأشخاص فترات طويلة ، وتقلل من فرصهم في الإفراج المشروط ، وتحجب الشواغر لهم ، وتزيد من فوائد الرهن العقاري ، وتتطلب أقساط تأمين كبيرة ، وما إلى ذلك.
هذه الحلقة المفرغة الخوارزمية مخفية في الدمى المتداخلة التي تتكون من مربعات سوداء: خوارزميات الصندوق الأسود التي تخفي عملية المعالجة في أفكارها ذات الأبعاد الأعلى ، والتي لا يمكننا الوصول إليها ، مخفية في المربعات السوداء لحقوق الملكية للخوارزميات. في بعض الأماكن ، على سبيل المثال ، في نيويورك ، أدى هذا إلى مقترحات لاعتماد القوانين التي تتطلب مراقبة عدالة الخوارزميات التي تستخدمها الخدمات البلدية. ولكن إذا لم نتمكن حتى من اكتشاف التشوهات المعرفية في أنفسنا ، فكيف نتوقع أن يتم اكتشافها في خوارزمياتنا؟
الخوارزميات ، التدريب على البيانات البشرية ، تكتسب تشوهاتنا. في
دراسة حديثة بقيادة Eileen Kaliskan من جامعة برينستون ، تم اكتشاف أن الخوارزميات المستندة إلى الأخبار اكتسبت تحيزات عنصرية وجنسانية بسرعة. كما أشار كاليسكان: "يعتقد الكثير من الناس أن السيارات ليس لها أي تحيز. لكن الآلات تتدرب على البيانات البشرية. والناس لديهم الأحكام المسبقة ".
الشبكات الاجتماعية هي عش الثعبان من التحيز والكراهية البشرية. تصبح الخوارزميات التي تقضي الكثير من الوقت على الشبكات الاجتماعية متعصبين أعمى بسرعة. يكتسبون التحيز ضد الممرضات والمهندسات. فهم يسيئون فهم قضايا مثل الهجرة وحقوق الأقليات. أكثر من ذلك بقليل ، وستبدأ الخوارزميات في معاملة الناس بشكل غير عادل مثل ارتباط الناس ببعضهم البعض. لكن الخوارزميات واثقة بطبيعتها من معصومتها. وما لم تدربهم في الاتجاه المعاكس ، فلن يكون لديهم سبب للشك في عدم الكفاءة (كل شيء مثل الناس).
في الخوارزميات التي وصفتها ، تنشأ مشاكل نفسية بسبب جودة البيانات التي يتدربون عليها. لكن الخوارزميات يمكن أن تواجه مشاكل مماثلة بسبب هيكلها الداخلي. يمكنهم نسيان المعلومات القديمة عند تعلم معلومات جديدة. تخيل أنك تتذكر اسم زميل جديد ونسيت فجأة المكان الذي تعيش فيه. في الحالات القصوى ، قد تعاني الخوارزميات بسبب ما يسمى "
النسيان الكارثي " عندما لم تعد الخوارزمية ككل تتعلم شيئًا جديدًا وتتذكره.
تستند نظرية الضعف المعرفي المرتبط بالعمر إلى فكرة مشابهة: عندما تصبح الذاكرة مثقلة ، يستغرق كل من الدماغ والكمبيوتر وقتًا أطول للعثور على ما يعرفونه.
عندما تأخذ الحالة بالضبط منعطفًا مرضيًا - يعتمد ذلك على وجهة النظر. ونتيجة لذلك ، غالبًا ما تظل التشوهات النفسية لدى الأشخاص بدون حل.
المواد التركيبية ، مثل ابنتي ، التي ترتبط في تصورها الحروف المكتوبة بألوان معينة ، غالبًا ما لا تدرك أن لديها هدية خاصة للإدراك ، حتى سن المراهقة.
تشير الأدلة من تحليل خطاب رونالد ريغان الآن إلى أنه عانى من الخرف كرئيس.
يصف مقال لصحيفة الغارديان كيف يتم إطلاق النار الجماعي الذي حدث في الولايات المتحدة حوالي تسعة من كل عشرة أيام في السنوات الخمس الماضية من قبل ما يسمى الأشخاص "العاديون" الذين لا يستطيعون تحمل الاضطهاد والاكتئاب.
في كثير من الحالات ، هناك حاجة إلى عدة مقاطعات متتالية للكشف عن مشكلة. يستغرق تشخيص الفصام ما لا يقل عن شهر لملاحظة الأعراض. لا يمكن تشخيص اضطرابات الشخصية الاجتماعية - مصطلح حديث للاعتلال النفسي والاعتلال الاجتماعي - في الأشخاص الذين تقل أعمارهم عن 18 عامًا ، ومن ثم لا يمكن تشخيصهم إلا إذا كان الشخص يعاني من اضطرابات سلوكية تصل إلى 15 عامًا.
لا تحتوي معظم الاضطرابات النفسية على مؤشرات حيوية ، تمامًا مثل عدم وجود أخطاء في كود AlphaGo. المشاكل في "معداتنا" غير مرئية. هي في "برنامجنا". العديد من الخيارات لتعطيل الدماغ تجعل كل مشكلة نفسية فريدة من نوعها. نقوم بتصنيفها إلى فئات واسعة ، مثل
الفصام أو
متلازمة أسبرجر ، ولكن معظم الاضطرابات لها نطاق واسع ، يغطي الأعراض التي يمكن العثور عليها في معظم الناس ، إلى درجة أو أخرى. في عام 2006 ، كتب علماء النفس ماثيو كيلر وجوفري ميللر أن هذه خاصية حتمية لبنية الدماغ.
في ذهن مثل عقولنا ، يمكن أن يحدث الكثير من الخطأ. اقترح كارل يونغ ذات مرة أنه في كل شخص ذكي يكمن مجنون. كلما أصبحت خوارزمياتنا مثلنا ، كان من الأسهل عليه الاختباء فيها.
توماس هيلز أستاذ علم النفس بجامعة وارويك في كوفنتري ببريطانيا.