قدم معهد ماساتشوستس للتكنولوجيا أداة تفاعلية توضح سبب اتخاذ نظام ذكي لقرار أو آخر. هذا المقال يدور حول كيفية عمله.
/ Unsplash / راندي فتمشكلة الصندوق الأسود
تقوم أنظمة التعلم الآلي الآلي (AutoML) بشكل متكرر باختبار وتعديل الخوارزميات ومعلماتها. باستخدام طريقة
تعلم التعزيز ،
تحدد هذه الأنظمة نماذج الذكاء الاصطناعي الأكثر ملاءمة من غيرها لحل مشكلة معينة. على سبيل المثال ، لأتمتة
الدعم الفني . لكن أنظمة AutoML تتصرف مثل الصناديق السوداء ، أي أن طرقها مخفية عن المستخدمين.
هذه الميزة تعقد إلى حد كبير تصحيح خوارزميات التعلم الآلي. وعلى سبيل المثال ، في حالة أنظمة الطيار الآلي ، قد تكون النتائج قاتلة. في عام 2016 ، أصبحت Tesla على الطيار الآلي لأول مرة مشاركًا في حادث مميت ، تصطدم بشاحنة كبيرة. سبب الحادث غير معروف بشكل موثوق. الخبراء ليس لديهم سوى افتراض - الخوارزمية
خلط شاحنة عالية مع علامة طريق مثبتة على الحافة السفلية من الجسر. ولم يتم القضاء على الخطأ بعد - في أوائل مارس ،
تعرضت الولايات المتحدة
لحادث مماثل مرة أخرى.
لشرح كيفية وصول خوارزمية الجهاز إلى استنتاج واحد أو آخر ، يستخدم المهندسون التقنيات الخلفية أو النماذج المفسرة مثل أشجار القرار . في الحالة الأولى ، تُستخدم بيانات المدخلات والمخرجات لتقريب "عملية التفكير" للخوارزمية. دقة هذه التقنيات ضعيفة.
أشجار القرار هي طريقة أكثر دقة ، لكن تعمل فقط مع البيانات المصنفة . لذلك ، بالنسبة للمشاكل المعقدة ، تكون رؤية الكمبيوتر غير مريحة.
قرر المهندسون من معهد ماساتشوستس للتكنولوجيا وجامعة هونغ كونغ للعلوم والتكنولوجيا وجامعة تشجيانغ تصحيح الوضع. لقد
قدموا أداة لتصور العمليات التي تحدث داخل الصندوق الأسود. كان يسمى ATMSeer.
كيف يعمل النظام
يعتمد ATMSeer على
نماذج ضبط تلقائي (ATM). هذا نظام تعلم آلي آلي يبحث عن النماذج الأكثر فاعلية لحل مشكلات معينة (على سبيل المثال ، البحث عن كائنات). يختار النظام بشكل تعسفي نوع الخوارزمية - شبكة عصبية أو أشجار قرار أو "
غابة عشوائية " أو انحدار لوجستي. بالطريقة نفسها ، تحدد المعلمات الفوقية للنموذج - حجم الشجرة أو عدد طبقات الشبكة العصبية.
يجري ATM سلسلة من التجارب مع بيانات الاختبار ، ويقوم بضبط المعلمات الفائقة تلقائيًا وتقييم الأداء. بناءً على هذه المعلومات ، اختارت النموذج التالي ، والذي يمكنه عرض أفضل النتائج.
يتم تقديم كل نموذج في شكل نوع من "وحدة المعلومات" مع المتغيرات: الخوارزمية ، hyperparameters ، الأداء. يتم عرض المتغيرات على الرسوم البيانية والرسوم البيانية المقابلة. علاوة على ذلك ، يمكن للمهندسين تحرير هذه المعلمات يدويًا ومراقبة التغييرات في النظام الذكي في الوقت الفعلي.
أظهر مهندسو معهد ماساتشوستس للتكنولوجيا واجهة الأداة
في الفيديو التالي . في ذلك ، قاموا بتسوية العديد من حالات المستخدم.
تتيح لك لوحة تحكم ATMSeer إدارة عملية التعلم وتنزيل مجموعات بيانات جديدة. كما يعرض مؤشرات الأداء لجميع الطرز على مقياس من صفر إلى عشرة.
آفاق
يقول المهندسون إن الأداة الجديدة ستسهم في تطوير مجال التعلم الآلي ، مما يجعل العمل باستخدام خوارزميات ذكية أكثر شفافية.
لاحظ عدد من متخصصي MO بالفعل أنه مع ATMSeer ، أصبحوا أكثر ثقة في صحة نماذج AutoML التي تم إنشاؤها.
سيساعد النظام الجديد الشركات أيضًا على تلبية متطلبات إجمالي الناتج المحلي. تتطلب اللوائح العامة لحماية البيانات خوارزميات تعلم الآلة للشفافية . يجب أن يكون مطورو النظام الذكي قادرين على شرح القرارات التي اتخذتها الخوارزميات. يعد ذلك ضروريًا حتى يتمكن المستخدمون من فهم كيفية معالجة النظام لبياناتهم الشخصية تمامًا.
/ Unsplash / استير جياوفي المستقبل ، يمكنك توقع المزيد من الأدوات للنظر في الصندوق الأسود. على سبيل المثال ، يعمل مهندسو معهد ماساتشوستس للتكنولوجيا
بالفعل على حل آخر. وسوف يساعد طلاب الطب على تدريب مهارات كتابة التاريخ.
بالإضافة إلى MIT ، تعمل IBM في هذا المجال. جنبا إلى جنب مع زملاء من جامعة هارفارد ، قاموا بتقديم أداة Seq2Seq-Vis.
يتصور عملية صنع القرار في الترجمة الآلية من لغة إلى أخرى. يوضح النظام كيفية ارتباط كل كلمة في المصدر والنص النهائي بأمثلة تم تدريب الشبكة العصبية عليها. لذلك ، من الأسهل تحديد ما إذا حدث خطأ بسبب بيانات الإدخال غير الصحيحة أو خوارزمية البحث.
الأدوات التي تجعل خوارزميات التعلم الآلي أكثر شفافية ستعثر أيضًا على تطبيق في
ITSM عند تطبيق Service Desk. سوف تساعد الأنظمة في تدريب روبوتات الدردشة الذكية ، وسوف تساعد في تجنب المواقف عندما
لا تتصرف كما هو مقصود .
مواد من مدونة الشركة:
وبلوق على حبري: