SpaceFusion: هيكلة الفضاء الخفي غير المهيكل لمنظمة العفو الدولية التفاعلية

تسمح اللوحة للفنانين بتنظيم ومزج ألوان مختلفة ، مما يخلق لوحات على قماش أمامهم. إن وجود أداة مماثلة يمكن أن تمكن الذكاء الاصطناعي من التعلم معًا من مصادر مختلفة للبيانات ، مثل المحادثات والقصص والصور والمعرفة ، يمكن أن يفتح الباب للباحثين والعلماء لتطوير أنظمة أكثر شمولية للذكاء الاصطناعي.


تتيح اللوحة للفنان تشويه وخلط الدهانات بألوان مختلفة. تلتزم SpaceFusion بمساعدة علماء الذكاء الاصطناعى على فعل أشياء مماثلة لنماذج مختلفة مدربة على مجموعات بيانات مختلفة.

بالنسبة لنماذج التعلم العميق الحديثة ، يتم تمثيل مجموعات البيانات عادة بواسطة المتجهات في مساحات مخفية مختلفة باستخدام شبكات عصبية مختلفة. في مقال " التحسين المشترك للتنوع والملاءمة في توليد ردود الفعل العصبية " ، قدم أنا وزملائي المشاركين SpaceFusion ، نموذج تدريب يمكن أن "يخلط" مختلف المساحات المخفية - مثل الدهانات على لوحة - بحيث يمكن لمنظمة العفو الدولية استخدام الأنماط والمعرفة المضمنة في كل من منهم. تنفيذ هذا العمل متاح على جيثب .

التقاط لون المحادثة البشرية


كمحاولة أولى ، طبقنا هذه التقنية على الذكاء الاصطناعي التفاعلي العصبي. في إعدادنا ، من المتوقع أن يولد النموذج العصبي ردودًا مناسبة ومثيرة للاهتمام استنادًا إلى سجل المحادثة أو السياق. على الرغم من أن النجاحات الواعدة قد تحققت في نماذج الاتصالات العصبية ، فإن هذه النماذج ، كقاعدة عامة ، لا تحاول المجازفة ، وتكرار الإجابات العامة والمملة. تم تطوير مناهج لتنويع هذه الاستجابات وتعكس بشكل أفضل لون المحادثة البشرية ، ولكن غالبًا ما ينشأ حل وسط مع انخفاض في الأهمية. .


الشكل 1: مثل لوحة تجعل من السهل الجمع بين الدهانات ، يقوم SpaceFusion بمحاذاة أو مزج المساحات المخفية من طرز seq2seq (S2S ، والنقاط الحمراء) ومنشئ التشفير التلقائي (AE ، النقاط الزرقاء) لمشاركة النموذجين بشكل أكثر فعالية.

SpaceFusion يحل هذه المشكلة عن طريق ربط المساحات المخفية المستخرجة من نموذجين (الشكل 1):

  • نموذج التسلسل إلى التسلسل (S2S) ، والذي يهدف إلى الحصول على الإجابات ذات الصلة ، ولكن قد يكون لديه بعض الاختلافات ؛ كذلك
  • نموذج وحدة التشفير التلقائي (AE) القادر على تقديم إجابات مختلفة ولكن لا يعكس علاقتها بالمحادثة.

يمكن للنموذج المُدرَّب بشكل مشترك الاستفادة من نقاط قوة كلا النموذجين وتنظيم نقاط البيانات بطريقة أكثر تنظيماً.


الشكل 2: ما ورد أعلاه يوضح سياقًا واحدًا واستجاباته الكثيرة في الفضاء الخفي الناجم عن SpaceFusion. المسافة والاتجاه من متجه الاستجابة المتوقعة ، مع مراعاة السياق ، تتوافق تقريبًا مع الأهمية والتنوع ، على التوالي.

على سبيل المثال ، كما هو مبين في الشكل 2 ، مع مراعاة السياق - في هذه الحالة ، "هل يرغب أحد في بدء هذه اللعبة؟" - الإجابات الإيجابية "أرغب في تشغيلها" و "نعم ، ألعب" موجودة في اتجاه واحد. العناصر السلبية - "أنا غير مهتم باللعبة" و "لا ، أنا غير مهتم" - يتم رسمها في اتجاه مختلف. يتم تحقيق التنوع في الإجابات من خلال دراسة الفضاء الخفي في اتجاهات مختلفة. بالإضافة إلى ذلك ، تكون المسافة في المساحة المخفية ذات صلة. الإجابات التي تكون بعيدة عن السياق - "نعم ، ألعب" و "لا ، أنا لا ألعب" - عادة ما تكون عامة ، بينما يكون الأقربون أكثر صلة بالسياق المحدد: "أنا غير مهتم باللعبة" و "عندما هل ستلعب؟ "

يفصل SpaceFusion بين معايير الأهمية والتنوع ويعرضها في بعدين مستقلين - الاتجاه والمسافة - مما يسهل من تحسين المفصل بينهما. أظهرت تجاربنا التجريبية وتقييماتنا على البشر أن أداء SpaceFusion أفضل على هذين المعيارين مقارنةً بخطوط الأساس التنافسية.

تعلم المساحة الخفية المشتركة


فكيف بالضبط SpaceFusion خريطة مساحات مختلفة خفية؟

الفكرة بديهية تمامًا: بالنسبة لكل زوج من النقاط من مسافتين مخفيتين مختلفتين ، نقوم أولاً بتقليل مسافتهم في المساحة الخفية الشائعة ، ثم نحافظ على انتقال سلس بينهما. يتم ذلك عن طريق إضافة مصطلحين جديدين - مصطلح المسافة ومدى النعومة - إلى الوظيفة المستهدفة.

بأخذ المحادثة كمثال ، يقيس مصطلح المسافة المسافة الإقليدية بين النقطة من الفضاء الخفي S2S ، والتي يتم عرضها بناءً على السياق وتمثل الاستجابة المتوقعة ، والنقاط من الفضاء الخفي AE التي تتوافق مع إجاباتها المستهدفة. يؤدي تقليل هذه المسافة إلى عرض نموذج S2S للسياق كنقطة قريبة ومحاط بإجاباته في مساحة مخفية شائعة ، كما هو موضح في الشكل 2.

يقيس مصطلح النعومة احتمال توليد استجابة الهدف من الاستيفاء العشوائي بين نقطة تم تعيينها من سياق ونقطة تم تعيينها من استجابة. من خلال زيادة هذا الاحتمال إلى الحد الأقصى ، نشجع الانتقال السلس في قيمة الاستجابات التي تم إنشاؤها أثناء الابتعاد عن السياق. يسمح لنا هذا بالتحقيق في جوار نقطة التنبؤ التي قدمتها S2S ، وبالتالي إنشاء مجموعة متنوعة من الإجابات ذات الصلة بالسياق.

مع إضافة هذين التنظيميين الجديدين إلى الوظيفة الهدف ، فإننا نفرض قيود المسافة والتساوي على تعلم المساحات المخفية ، لذلك لن يركز التدريب فقط على الأداء في كل مساحة مخفية ، بل سيحاول أيضًا مواءمتها معًا عن طريق إضافة هذه الهياكل المطلوبة. لقد ركز عملنا على النماذج التفاعلية ، لكننا نتوقع أن يقوم SpaceFusion بمحاذاة المساحات المخفية المدربة بواسطة نماذج أخرى على مجموعات بيانات مختلفة. سيؤدي ذلك إلى ربط مختلف القدرات ومجالات المعرفة التي يتعلمها كل نظام معيّن من الذكاء الاصطناعى ، وهو الخطوة الأولى نحو الذكاء الاصطناعى الأكثر شمولاً.


انظر أيضا: 7 دورات مجانية للمطورين

Source: https://habr.com/ru/post/ar474244/


All Articles