قبل بضعة أشهر ، واجهت مشكلة ، لم ينجح نموذجي المبني على خوارزميات التعلم الآلي ببساطة. لقد فكرت لفترة طويلة حول كيفية حل هذه المشكلة وفي مرحلة ما أدركت أن معرفتي محدودة للغاية وأفكاري شحيحة. أعرف بضع عشرات من النماذج ، وهذا جزء صغير جدًا من تلك الأعمال التي يمكن أن تكون مفيدة للغاية.
الفكرة الأولى التي تتبادر إلى الذهن هي أنه إذا كنت أعرف وفهمت المزيد من النماذج ، فإن صفاتي كباحث ومهندس ككل ستزداد. دفعتني هذه الفكرة إلى دراسة مقالات من مؤتمرات تعلم الآلة الحديثة. هيكلة هذه المعلومات صعبة للغاية ، ومن الضروري تسجيل التبعيات والعلاقات بين الأساليب. لم أكن أريد تقديم التبعيات في شكل جدول أو قائمة ، لكنني أردت شيئًا أكثر طبيعية. ونتيجة لذلك ، أدركت أن وجود رسم بياني ثلاثي الأبعاد مع حواف بين النماذج ومكوناتها بنفسي ، يبدو مثيراً للاهتمام.
على سبيل المثال ، تتكون GAN [1] معمارياً من مولد (GEN) ومميز (DIS) ، ويتألف التشفير التلقائي للخصوم (AAE) [2] من التشفير التلقائي (AE) [3] و DIS ،. يمثل كل مكون رأسًا منفصلاً في هذا الرسم البياني ، لذلك بالنسبة إلى AAE ، سيكون لدينا ميزة مع AE و DIS.
خطوة بخطوة ، قمت بتحليل المقالات ، وكتبت الطرق التي تتكون منها ، وفي أي مجال موضوع يتم تطبيقها ، وعلى البيانات التي تم اختبارها ، وما إلى ذلك. في هذه العملية ، أدركت عدد الحلول المثيرة للاهتمام التي لا تزال مجهولة ، ولم تجد تطبيقاتها.
ينقسم التعلم الآلي إلى مجالات موضوعية ، حيث تحاول كل منطقة حل مشكلة معينة باستخدام طرق محددة. في السنوات الأخيرة ، تم مسح الحدود تقريبًا ، ومن الصعب عملياً تحديد المكونات التي تستخدم فقط في منطقة معينة. يؤدي هذا الاتجاه عمومًا إلى تحسين النتائج ، لكن المشكلة هي أنه مع الزيادة في عدد المقالات ، تمر العديد من الطرق المثيرة للاهتمام دون أن يلاحظها أحد. هناك العديد من الأسباب لذلك ، كما أن تعميم الشركات الكبيرة لمجالات معينة فقط يلعب دورًا مهمًا في هذا. تحقيق ذلك ، أصبح الرسم البياني ، الذي تم تطويره مسبقًا كشيء شخصي بحت ، عامًا ومفتوحًا.
بطبيعة الحال ، أجريت أبحاثًا وحاولت العثور على نظائرها لما كنت أفعله. هناك خدمات كافية تسمح لك بمراقبة ظهور مقالات جديدة في هذا المجال. ولكن كل هذه الأساليب تهدف في المقام الأول إلى تبسيط اكتساب المعرفة ، وليس للمساعدة في خلق أفكار جديدة. الإبداع أكثر أهمية من الخبرة ، والأدوات التي يمكن أن تساعدك في التفكير في اتجاهات مختلفة ، ورؤية صورة أكثر اكتمالا ، يبدو لي أنه ينبغي أن يصبح جزءًا لا يتجزأ من عملية البحث.
لدينا أدوات تجعل تجربة النماذج وإطلاقها وتقييمها أسهل ، ولكن ليس لدينا طرق تسمح لنا بإنشاء الأفكار وتقييمها بسرعة.
في غضون بضعة أشهر فقط ، قمت بتصنيف حوالي 250 مقالة من مؤتمر NeurIPS الأخير وحوالي 250 مقالة أخرى تستند إليها. كانت معظم المناطق غير مألوفة بالنسبة لي ، واستغرق الأمر عدة أيام لفهمها. في بعض الأحيان لم أتمكن من العثور على الوصف الصحيح للنماذج والمكونات التي تتكون منها. بناءً على ذلك ، كانت الخطوة المنطقية الثانية هي خلق إمكانية للمؤلفين لإضافة وتغيير الأساليب في الرسم البياني بأنفسهم ، لأنه لا أحد باستثناء مؤلفي المقال يعرف كيفية تحليل ووصف طريقتهم بأفضل طريقة.
يتم تقديم مثال لما حدث كنتيجة هنا.
آمل أن يكون هذا المشروع مفيدًا لشخص ما ، ولو لأنه فقط ، ربما ، سيسمح لشخص ما بالحصول على جمعيات يمكن أن تؤدي إلى فكرة جديدة مثيرة للاهتمام. لقد فوجئت عندما سمعت كيف تقوم فكرة الشبكات التنافسية التوليدية. في بودكاست الاستخبارات MIT machine [4] ، قال يان جودفيلو إن فكرة الشبكات العدائية ترتبط بالمراحل "الإيجابية" و "السلبية" لتعلم آلة بولتزمان [5].
هذا المشروع يحركه المجتمع. أرغب في تطويره وتحفيز المزيد من الأشخاص على إضافة معلومات حول أساليبهم هناك ، أو تعديل ما تم إنشاؤه بالفعل. أعتقد أن معلومات الطريقة الأكثر دقة وتقنيات التصور الأفضل ستساعد حقًا في جعل هذه الأداة مفيدة.
هناك مساحة كبيرة لتطوير المشروع ، بدءًا من تحسين التصور نفسه ، بحيث تنتهي بالقدرة على بناء رسم بياني فردي مع إمكانية الحصول على توصيات لطرق التحسين.
يمكن الاطلاع على بعض
التفاصيل الفنية
هنا .
[1] إيان ج. جودفيلو ، جان بوغيت أبادي ، مهدي ميرزا ، بنج زو ، ديفيد واردي فارلي ، شيريل أوزير ، آرون كورفيل ، يوشوا بينجيو. شبكات الخصومة التوليدية.[2] علي رضا مخزاني ، جوناثون شلينز ، نافديب جيتلي ، إيان جودفيلو ، بريندان فراي. الخصومات[3] دانا هـ. بالارد. Autoencoder.[4] إيان جودفيلو: بودكاست الذكاء الاصطناعي في معهد ماساتشوستس للتكنولوجيا.[5] رسلان سالاخوتينوف ، جيفري هينتون. آلات بولتزمان العميق