أصبحت مشكلة الوثوق في التنبؤات التي قدمتها نماذج التعلم الآلي أكثر وأكثر أهمية. وكلما زاد القرار الذي اتخذ على أساس هذا التوقع ، قل الثقة. هذا يرجع في المقام الأول إلى حقيقة أنه من غير الواضح دائمًا ما الذي أثر على القرار النهائي ، هل كان هناك أي تحيزات في البيانات الأولية التي تم تدريب النموذج عليها ، وإذا ارتكب المطور أخطاء في حساب المعلمات. لا يمكن التحقق من كل هذا يدويًا في الممارسة ، لذلك غالبًا ما يكون من الأسهل على الإدارة عدم تنفيذ الذكاء الاصطناعي على الإطلاق.
ولكن ماذا لو كنت أتمتة هذه العملية؟
تقديم
Watson OpenScale ، وهو حل قائم على السحابة يسمح لك ليس فقط بالتحكم في جودة نماذجك ، ولكن أيضًا لتتبع وجود التحيز في التنبؤات ، لاكتشاف أسبابها والقضاء عليها.
سنخبرك بما هو وأين تتعلم كيفية التعامل معها.
التحيز - مشكلة الذكاء الاصطناعى الخفي
تخيل أنك تشاهد مباراة كرة قدم ويطلب منك شخص كان أفضل لاعب في عام 2018. ماذا تجيب؟ توقف وفكر ثانية قبل قراءة المزيد ... إذا كنت من محبي الأرجنتين ، فمن المرجح أن تقول "ميسي" ، إذا كنت من محبي البرتغال ، فإن إجابتك ستكون "رونالدو". قد يقول شخص آخر أن ميسي هو الأفضل ، أو ربما دزيوبا. تعكس كل من هذه الإجابات (بما في ذلك التي ظهرت في رأسك) التحيز الملازم لكل شخص يجيب على هذا السؤال. يمكن أن يكون سبب الإعجاب مباشرة من قبل اللاعب نفسه ، أو من قبل الفريق ككل ، أو بسبب مشاعر معينة بالنسبة للبلد الذي يقف الفريق من أجله.
يمكن العثور على التحيز ، الواعي وغير الواعي ، في جميع جوانب أعمالنا تقريبًا. عندما يتعلق الأمر باتخاذ القرارات ، بما في ذلك خوارزميات الذكاء الاصطناعي ، يمكن أن يكون للتحيز عواقب وخيمة. فكر في استخدام بنك لمنظمة العفو الدولية للتعرف على النشاط الاحتيالي. تخيل أن الشخص الذي طور هذا النموذج استخدم مجموعة بيانات حيث ارتكبت جميع المعاملات الاحتيالية من قبل أشخاص من جنس أو جنسية أو مستوى دخل معين. بعد ذلك ، وبقدر كبير من اليقين ، يمكننا القول أن النموذج الذي تم تدريبه على مثل هذه البيانات المتحيزة سيأخذ هذا التحيز في الاعتبار في تنبؤاته. علاوة على ذلك ، نظرًا لأن المقاييس التي تصف هذا النموذج (الدقة / الاستدعاء) ستكون قريبة من المثالية (بعد كل شيء ، يتم التحقق على عينة فرعية من نفس مجموعة البيانات) ، سيكون من الصعب للغاية على الموظف اكتشاف وجود التحيز نتيجة لهذه الخوارزمية. ونتيجة لذلك ، فإن هذا النموذج ، على الرغم من القيم المترية الممتازة ، سيعمل بشكل سيء للغاية ، حيث يمثل إجراءات احتيالية ليست كذلك والعكس صحيح ، متخطيًا المعاملات الخطيرة حقًا. وكل هذا بسبب التحيز (التحيز) في البيانات المصدر التي تم تدريب النموذج عليها.
قد تكون المشكلة الأكبر هي وجود تحيز في نتائج النموذج ، في غياب أي تحيز في البيانات. قد يكون سبب ذلك خطأ في توزيع أوزان المعلمات ، أو نتيجة للتحولات غير الخطية أثناء التدريب أو التدريب الإضافي للنموذج. لذلك ، من المهم للغاية ليس فقط العثور على التحيز في مرحلة المعالجة المسبقة للبيانات ، ولكن أيضًا مراقبة التنبؤات باستمرار أثناء الاختبار واستخدامها في المنتج لمنع التحيز من الظهور في نتائج الخوارزمية.
نظرًا لوجود مثل هذه المشكلات ،
تبدو الأجهزة الذكية
غير موثوقة في نظر العديد من مالكي الشركة.
هل يمكن أن تساعد الذكاء الاصطناعي في تحسين الذكاء الاصطناعي؟
تقدم شركة IBM حل
Watson OpenScale السحابي ، والذي يتيح المراقبة المستمرة لأداء النماذج وانحياز التنبؤ في الوقت الفعلي. فهو لا يكتشف حدوث المشكلات فحسب ، بل يكتشف سبب حدوثها ويقدم خيارًا حول كيفية تصحيح البيانات الأولية لتجنب ظهور التحيز في التنبؤات. يسمح لك IBM Watson OpenScale بمراقبة تشغيل النموذج بشكل مستمر ، والتحقق من وجوده.
سؤال كبير آخر للشركات التي تستخدم نماذج الذكاء الاصطناعي هو طبيعة الصندوق الأسود للنماذج. كيف يمكن لمالك الأعمال التحقق من أن منظمة العفو الدولية تتخذ القرار الصحيح بناءً على البيانات الصحيحة؟ كيف نفسر "سلوك" نموذج الذكاء الاصطناعي؟ يمثل عدم وجود إجابات "بسيطة" على هذه الأسئلة مشكلة كبيرة واجهها الخبراء مؤخرًا. يقوم IBM Watson OpenScale بحلها. التنبؤ النهائي الذي تم إجراؤه بواسطة النموذج ، يكون IBM Watson OpenScale مصحوبًا بتفسيرين مختلفين يتيحان لك فهم سلوك الخوارزمية. نتيجة لهذا ، يبدو أن هناك فرصة ملموسة لزيادة مستوى الثقة بين المديرين ، ونتيجة لذلك ، تسريع تنفيذ الذكاء الاصطناعى في الأعمال.
فما هو واتسون OpenScale كل نفس؟
- خدمة السحاب متوفرة على IBM Cloudمع الاستخدام
المجاني في إطار حساب لايت
- رصد وتتبع نتائج النموذجقياس سرعة النموذج وتتبع النتائج في الإسقاط على هدف العمل ، مع واجهة رسومية واضحة ومريحة
- ضبط النماذج لأغراض العملتعمل نتائج أعمال النموذج باستمرار على ضبط البيانات لتحسين نتائج نماذج التعلم الآلي
- إدارة وفك تشفير النموذجدعم الامتثال التنظيمي عن طريق تتبع وشرح حلول الذكاء الاصطناعي في العمليات التجارية ، وكذلك اكتشاف الأخطاء وتصحيحها الذكي لتحسين النتائج.
هل ترغب في اختبار نموذج التحيز الخاص بك مع IBM Watson OpenScale؟
أو ربما تعرف لماذا اتخذت هذا القرار أو ذاك بشأن بيانات محددة؟
تعال إلى
9 يوليو في
ورشة عمل مجانية ليوم واحد في موسكو ، ويمكنك:
- للتعرف على مبادئ وميزات التدريب وتشغيل الشبكات العصبية
- تدريب أنواع مختلفة من الشبكات العصبية باستخدام مجموعات البيانات المتوفرة والتعليمات التفصيلية
- اختبر تشغيل الشبكات العصبية باستخدام منصة Watson OpenScale ومكتبة المصادر المفتوحة الخاصة بـ IBM Adversarial Robustness Toolbox (IBM ART)
- جرب قدرات AI لإنشاء نماذج شبكات عصبية بسرعة باستخدام محرك NeuNetS
تتم جميع عمليات معالجة البيانات في سحابة IBM - تحتاج فقط إلى كمبيوتر محمول ومتصفح. التسجيل والمعلومات التفصيلية -
انقر هنا .