هل يمكننا فتح الصندوق الأسود للذكاء الاصطناعي؟

لا يزال دين بوميرلو يتذكر المرة الأولى التي اضطر فيها للتعامل مع مشكلة الصندوق الأسود. في عام 1991 ، قام بأحد المحاولات الأولى في المجال الذي تتم دراسته الآن من قبل كل من يحاول إنشاء سيارة روبوت: تعلم كيفية قيادة جهاز كمبيوتر.

وهذا يعني أنك بحاجة إلى قيادة عربة همفي معدّة خصيصًا (عربة الطرق الوعرة للجيش) ، والركوب في شوارع المدينة. هذه هي الطريقة التي يتحدث بها بوميلو ، الذي كان آنذاك طالب دراسات عليا سابق في علم الروبوتات في جامعة كارنيجي ميلون ، عن ذلك. جهاز كمبيوتر مبرمج للمتابعة من خلال الكاميرا ، وتفسير ما يحدث على الطريق وتذكر أن جميع حركات السائق ركبت معه. كان بوميلو يأمل أن تبني السيارة في نهاية المطاف جمعيات كافية للقيادة المستقلة.

في كل رحلة ، درب بوميلو النظام لعدة دقائق ، ثم تركه يسير من تلقاء نفسه. يبدو أن كل شيء يسير على ما يرام - حتى بمجرد أن اقتربت همفي ، من الجسر ، فجأة إلى الجانب. تمكن رجل من تجنب وقوع حادث من خلال الإمساك بسرعة بعجلة القيادة وعودة التحكم.

في المختبر ، حاول بوميلو اكتشاف خطأ في الكمبيوتر. ويشرح قائلاً: "كانت إحدى مهام عملي العلمي هي فتح" الصندوق الأسود "ومعرفة ما كان يفكر فيه". لكن كيف؟ قام ببرمجة الكمبيوتر على أنه "شبكة عصبية" - وهو نوع من الذكاء الاصطناعي الذي يحاكي عمل الدماغ ، واعدًا بأن يكون أفضل من الخوارزميات القياسية في التعامل مع المواقف المعقدة المتعلقة بالعالم الحقيقي. لسوء الحظ ، مثل هذه الشبكات غير شفافة مثل الدماغ الحقيقي. لا يقومون بتخزين كل شيء تم تعلمه في كتلة أنيقة من الذاكرة ، ولكن بدلاً من ذلك ينشرون المعلومات بحيث يكون من الصعب جدًا فك شفرتها. فقط بعد مجموعة واسعة من اختبارات رد فعل البرمجيات لمعلمات الإدخال المختلفة ، اكتشفت بوميلو مشكلة: استخدمت الشبكة العشب على طول حواف الطرق لتحديد الاتجاهات ، وبالتالي فإن مظهر الجسر يربكها.

بعد 25 عامًا ، أصبح فك ترميز الصناديق السوداء أكثر صعوبة بشكل كبير ، مع زيادة إلحاح هذه المهمة. كانت هناك زيادة هائلة في تعقيد وانتشار التكنولوجيا. يصف بوميلو ، الروبوتات التعليمية بدوام جزئي في كارنيجي ميلون ، نظامه القديم بأنه "شبكة عصبية للفقراء" ، مقارنة بالشبكات العصبية الضخمة التي تباع على الآلات الحديثة. تقنية التعلم العميق (GI) ، التي تتدرب فيها الشبكات على المحفوظات من "البيانات الضخمة" ، تجد تطبيقات تجارية مختلفة ، من الهواتف المحمولة إلى توصيات المنتج على المواقع بناءً على سجل التصفح.

تعد التكنولوجيا بأن تكون في كل مكان في العلوم. ستستخدم المراصد الراديوية المستقبلية GO للبحث عن إشارات مهمة في صفائف البياناتوإلا فإنك لن تكفر . سوف تستخدمها كاشفات موجات الجاذبية لفهم الضوضاء الصغيرة وإزالتها. سيستخدمها الناشرون لتصفية الملايين من الأبحاث والكتب ووضع علامات عليها. يعتقد البعض أن أجهزة الكمبيوتر في نهاية المطاف بمساعدة GO ستكون قادرة على إظهار الخيال والقدرات الإبداعية. قال جان روش فليمانت ، الفيزيائي في معهد كاليفورنيا للتكنولوجيا: "يمكنك فقط إسقاط البيانات في الآلة وستعيد قوانين الطبيعة إليك".

لكن مثل هذه الإنجازات ستجعل مشكلة الصندوق الأسود أكثر حدة. كيف تجد الآلة إشارات مهمة؟ كيف يمكنك التأكد من صحة استنتاجاتها؟ كم يجب أن يثق الناس في التعلم العميق؟ يقول أخصائي الروبوتات هود ليبسون من جامعة كولومبيا في نيويورك: "أعتقد أننا يجب أن نستسلم بهذه الخوارزميات". ويقارن الوضع باجتماع مع أجانب أذكياء لا ترى أعينهم اللون الأحمر والأخضر والأزرق فحسب ، بل أيضًا اللون الرابع. ووفقا له ، سيكون من الصعب للغاية على الناس أن يفهموا كيف يرى هؤلاء الأجانب العالم ، وأن يشرحوا لنا ذلك. ويقول إن أجهزة الكمبيوتر ستواجه نفس المشاكل في تفسير قراراتها. "في مرحلة ما ، سيبدأ في تشبه محاولات تفسير شكسبير للكلب."

بعد مواجهة مثل هذه المشاكل ، يتفاعل باحثو الذكاء الاصطناعي بنفس الطريقة التي يتفاعل بها بوميلو - يفتحون صندوقًا أسود ويقومون بأعمال تشبه علم الأعصاب لفهم تشغيل الشبكات. يقول فينسينزو إنوسنت ، فيزيائي في CERN كان أول من استخدم الذكاء الاصطناعي في مجاله ، إن الإجابات ليست بديهية. "كعالم ، لست راضيا عن القدرة البسيطة على تمييز الكلاب عن القطط. يجب على العالم أن يقول: الفرق هو ذلك وذاك. "

ركوب جميل

تم إنشاء أول شبكة عصبية في أوائل الخمسينيات ، مباشرة بعد ظهور أجهزة الكمبيوتر القادرة على العمل وفقًا للخوارزميات اللازمة. والفكرة هي محاكاة تشغيل وحدات صغيرة قابلة للعد - الخلايا العصبية - مرتبة في طبقات ومتصلة بـ "المشابك" الرقمية. تتلقى كل وحدة نمطية في الطبقة السفلية بيانات خارجية ، على سبيل المثال ، وحدات بكسل الصورة ، ثم تنشر هذه المعلومات إلى بعض الوحدات في الطبقة التالية. كل وحدة نمطية في الطبقة الثانية تدمج المدخلات من الطبقة الأولى وفقًا لقاعدة رياضية بسيطة ، وتمرر النتيجة. ونتيجة لذلك ، تقدم الطبقة العليا إجابة - على سبيل المثال ، تقوم بتعيين الصورة الأصلية إلى "القطط" أو "الكلاب".


? « » (Deep Dream) , , , , – , .

, – , .

Deep Dream .

تنبع قدرات هذه الشبكات من قدرتها على التعلم. من خلال التعلم من مجموعة البيانات الأولية مع الإجابات الصحيحة المقدمة ، يقومون بتحسين خصائصهم تدريجيًا ، وتعديل تأثير جميع الروابط للحصول على النتائج الصحيحة. تحاكي العملية تدريب الدماغ ، مما يقوي ويضعف نقاط الاشتباك العصبي ، ويوفر مخرجات شبكة قادرة على تصنيف البيانات التي لم يتم تضمينها أصلاً في مجموعة التدريب.

إمكانية تدريب فيزيائيي CERN المغوي في التسعينيات ، عندما كانوا من بين أول من قاموا بتكييف الشبكات العصبية الكبيرة للعمل في العلوم. ساعدت الشبكات العصبية بشكل كبير في إعادة بناء مسارات الشظايا دون الذرية ، منتشرة على الجانبين في تصادمات الجسيمات في مصادم الهادرون الكبير.

هذا الشكل من التعلم هو أيضًا سبب انتشار المعلومات عبر الشبكة: كما هو الحال في الدماغ ، يتم تشفير ذاكرته في قوة المركبات المختلفة ، ولا يتم تخزينها في أماكن معينة ، كما هو الحال في قاعدة بيانات مألوفة. "أين يتم تخزين الرقم الأول من رقم هاتفك في دماغك؟ قال بيير بالدي ، أخصائي التعلم الآلي (MO) ، جامعة كاليفورنيا ، ربما في مجموعة المشابك ، ربما ليس بعيدًا عن بقية الأرقام. ولكن لا يوجد تسلسل محدد من البتات التي ترميز الرقم. ونتيجة لذلك ، كما يقول اختصاصي تكنولوجيا المعلومات جيف كلون من جامعة وايومنغ ، "على الرغم من أننا أنشأنا هذه الشبكات ، لا يمكننا فهمها بشكل أفضل من الدماغ البشري."

بالنسبة للعلماء الذين يعملون مع البيانات الضخمة ، هذا يعني أنه يجب استخدام GO بعناية. تشرح أندريا فيدالدي ، أخصائية المعلوماتية في جامعة أكسفورد: تخيل أنه في المستقبل ، سيتم تدريب الشبكة العصبية على التصوير الشعاعي للثدي للإشارة إلى ما إذا كان سرطان الثدي قيد الدراسة لدى النساء المدروسات أم لا. بعد ذلك ، افترض أن أنسجة امرأة سليمة تبدو عرضة للإصابة بالمرض. "يمكن للشبكة العصبية أن تتعلم التعرف على علامات الورم - تلك التي لا نعرف عنها ، ولكن يمكنها التنبؤ بالسرطان."

ولكن إذا لم تستطع الآلة شرح كيفية تحديدها ، فوفقًا لـ Vedaldi ، ستكون هذه معضلة خطيرة للأطباء والمرضى. ليس من السهل على المرأة الخضوع للإزالة الوقائية للثدي بسبب وجود ميزات وراثية يمكن أن تؤدي إلى السرطان. وسيكون اتخاذ مثل هذا الاختيار أكثر صعوبة ، لأنه لن يعرف حتى ما هو هذا العامل - حتى لو تبين أن توقعات الجهاز دقيقة.

يقول مايكل تايكا ، عالم الفيزياء الحيوية ومبرمج Google: "المشكلة هي أن المعرفة جزء لا يتجزأ من الشبكة ، وليس فينا". "هل فهمنا أي شيء؟ لا - هذه هي الشبكة المفهومة ".

عالجت عدة مجموعات من العلماء مشكلة الصندوق الأسود في عام 2012. شارك فريق بقيادة جيفري هينتون ، أخصائي MO من جامعة تورنتو ، في مسابقة رؤية الكمبيوتر ، ولأول مرة أثبت أن استخدام GO لتصنيف الصور من قاعدة بيانات تحتوي على 1.2 مليون صورة تفوق أي نهج آخر مع باستخدام الذكاء الاصطناعي.

من خلال فهم كيف يمكن ذلك ، أخذت مجموعة Vedaldi خوارزميات Hinton المصممة لتحسين الشبكة العصبية ودفعها إلى الخلف. بدلاً من تدريب الشبكة لتفسير الإجابة بشكل صحيح ، اتخذ الفريق شبكات تم تدريبها مسبقًا وحاول إعادة إنشاء الصور ، والتي بفضلها تدربوا. وقد ساعد هذا الباحثين على تحديد كيفية تقديم الآلة لبعض الميزات - كان الأمر كما لو أنهم كانوا يسألون نوعًا من الشبكة العصبية الافتراضية التي تتنبأ بالسرطان ، "أي جزء من التصوير الشعاعي للثدي أدى بك إلى علامة خطر الإصابة بالسرطان؟"

استخدم Taika وزملاؤه في Google نهجًا مشابهًا العام الماضي. تبدأ خوارزميتهم ، التي أطلقوا عليها اسم الحلم العميق ، بصورة زهرة ، على سبيل المثال ، وتعديلها لتحسين استجابة عصبون معين من المستوى الأعلى. إذا كان العصبون يحب وضع علامة على صور الطيور ، على سبيل المثال ، فستبدأ الصورة المتغيرة في إظهار الطيور في كل مكان. تشبه الصور الناتجة الرؤى تحت LSD ، حيث تكون الطيور مرئية في الوجوه والمباني وغيرها الكثير. يقول تايكا ، وهو فنان أيضًا: "أعتقد أن هذا يشبه إلى حد كبير الهلوسة". عندما رأى هو وزملاؤه إمكانات الخوارزمية في المجال الإبداعي ، قرروا جعلها مجانية للتنزيل. في غضون أيام قليلة ، أصبح هذا الموضوع الفيروسي.

باستخدام تقنيات تزيد من ناتج أي خلية عصبية ، وليس فقط واحدة من أفضل الخلايا العصبية ، وجد فريق Klun في عام 2014 أن مشكلة الصندوق الأسود يمكن أن تكون أكثر تعقيدًا مما بدت عليه من قبل. من السهل جدًا خداع الشبكات العصبية بمساعدة صور ينظر إليها الناس على أنها ضوضاء عشوائية أو أنماط مجردة. على سبيل المثال ، يمكن للشبكة أن تأخذ خطوطًا متموجة وتقرر أنها نجم البحر ، أو تخلط الخطوط السوداء والبيضاء مع حافلة مدرسية. علاوة على ذلك ، ظهرت نفس الاتجاهات في الشبكات المدربة على مجموعات البيانات الأخرى.

اقترح الباحثون عدة حلول لمشكلة خداع الشبكات ، ولكن لم يتم العثور على حل عام حتى الآن. في التطبيقات الحقيقية ، يمكن أن يكون هذا خطيرًا. أحد السيناريوهات المخيفة ، وفقًا لكلون ، هو أن القراصنة يتعلمون الاستفادة من هذه العيوب في الشبكة. يمكنهم إرسال السيارة الآلية إلى لوحة إعلانية ستستغرقها في الطريق ، أو خداع ماسح شبكية العين عند مدخل البيت الأبيض. ويختتم كلايون قائلاً: "نحتاج إلى أن نشمر عن سواعدنا وأن نجري أبحاثًا علمية عميقة من أجل جعل MO أكثر موثوقية وذكاء".

دفعت مثل هذه المشاكل بعض علماء الكمبيوتر إلى الاعتقاد أنه لا يجب التركيز على الشبكات العصبية وحدها. يقول زوبين قهرماني ، باحث في MO بجامعة كامبريدج ، إنه إذا اضطر الذكاء الاصطناعي إلى إعطاء إجابات يمكن للناس تفسيرها بسهولة ، فإن ذلك سيؤدي إلى "الكثير من المشاكل التي لا يمكن لـ GO التعامل معها". تم عرض أحد الأساليب العلمية المفهومة بشكل معقول لأول مرة في عام 2009 من قبل ليبسون وعالم الأحياء الحسابي مايكل شميت ، الذي كان يعمل بعد ذلك في جامعة كورنيل. أظهرت خوارزمية Eureqa عملية إعادة اكتشاف قوانين نيوتن من خلال ملاحظة شيء ميكانيكي بسيط - نظام بندول - متحرك.

بدءًا من مزيج عشوائي من طوب الرياضيات مثل + ، - ، وجيب وجيب التمام ، يغيرها أوريكا من خلال التجربة والخطأ ، على غرار التطور الدارويني ، حتى يتعلق الأمر بالصيغ التي تصف هذه البيانات. ثم تقدم تجارب لاختبار النماذج. يقول ليبسون إن إحدى فوائده هي البساطة. "يحتوي النموذج الذي طوره يوريكا عادةً على اثني عشر معلمة. تحتوي الشبكة العصبية على ملايين منها. "

على الطيار الآلي

في العام الماضي ، نشر قارخماني خوارزمية لأتمتة عمل العالم وفقًا للبيانات ، من البيانات الأولية إلى العمل العلمي النهائي. يلاحظ برنامجها الإحصائي التلقائي الاتجاهات والشذوذ في مجموعات البيانات ويقدم رأيًا ، بما في ذلك شرح مفصل للمنطق. وقال إن هذه الشفافية "بالغة الأهمية" للاستخدام في العلوم ، ولكنها مهمة أيضًا للاستخدام التجاري. على سبيل المثال ، في العديد من البلدان ، البنوك التي ترفض القروض ملزمة قانونًا بشرح سبب الرفض - وقد لا يكون ذلك ممكنًا مع خوارزمية GO.

توضح إيلي دوبسون ، مديرة علوم البيانات في Arundo Analytics في أوسلو ، أن المنظمات المختلفة لديها نفس الشكوك. على سبيل المثال ، إذا حدث خطأ ما في بريطانيا بسبب تغيير في السعر الأساسي ، فلا يمكن لبنك إنجلترا ببساطة أن يقول "كل شيء بسبب الصندوق الأسود".

ولكن على الرغم من كل هذه المخاوف ، يقول علماء الكمبيوتر إن محاولات إنشاء ذكاء اصطناعي شفاف يجب أن تكون مكملة للدفاع المدني ، وليس بديلاً لهذه التكنولوجيا. قد تعمل بعض التقنيات الشفافة بشكل جيد في المجالات الموصوفة بالفعل كمجموعة من البيانات المجردة ، ولكنها لا تتوافق مع الإدراك - عملية استخراج الحقائق من البيانات الأولية.

ونتيجة لذلك ، وفقا لهم ، يجب أن تكون الإجابات المعقدة التي يتم تلقيها بفضل وزارة الدفاع جزءًا من أدوات العلوم ، لأن العالم الحقيقي معقد. بالنسبة لظواهر مثل الطقس أو السوق المالية ، قد لا تكون الأوصاف الاصطناعية المختزلة موجودة ببساطة. يقول ستيفان ملاط ​​، عالم الرياضيات التطبيقي في بوليتكنك باريس: "هناك أشياء لا يمكن وصفها بالكلمات". يقول: "عندما تسأل الطبيب عن سبب قيامه بهذا التشخيص ، فسوف يصف لك الأسباب". - ولكن لماذا تحتاج بعد ذلك إلى 20 عامًا لتصبح طبيبًا جيدًا؟ لأن المعلومات يتم الحصول عليها ليس فقط من الكتب ".

وفقا للبلدي ، يجب على العالم قبول GO وعدم التحلي بالصبر الأسود. لديهم مثل هذا الصندوق الأسود في رؤوسهم. "أنت تستخدم الدماغ باستمرار ، وتثق به دائمًا ، ولا تفهم كيف يعمل".

Source: https://habr.com/ru/post/ar398451/