هذا النص ليس نتيجة البحث العلمي ، بل هو أحد الآراء الكثيرة المتعلقة بتطورنا التكنولوجي المباشر. وفي الوقت نفسه دعوة للمناقشة.غاري ماركوس ، أستاذ بجامعة نيويورك ، مقتنع بأن التعلم العميق يلعب دوراً هاماً في تطوير الذكاء الاصطناعى. لكنه يعتقد أيضًا أن الحماس المفرط لهذه التقنية يمكن أن يؤدي إلى تشويه سمعتها.
في كتابه
Rebooting AI: بناء الذكاء الاصطناعي يمكننا أن نثق به ، يعالج Marcus ، وهو طبيب أعصاب من خلال التدريب الذي بنى حياته المهنية على أحدث أبحاث الذكاء الاصطناعى ، القضايا الفنية والأخلاقية. من وجهة نظر تقنية ، يمكن للتعلم العميق أن يقلد بنجاح حل مهام الإدراك التي يؤديها دماغنا: على سبيل المثال ، التعرف على الصور أو الكلام. ولكن لحل المهام الأخرى ، مثل فهم المحادثات أو تحديد العلاقات السببية ، فإن التعلم العميق ليس جيدًا. لإنشاء آلات ذكية أكثر تقدماً يمكنها حل مجموعة واسعة من المهام - تسمى غالبًا الذكاء الاصطناعي العام - يجب دمج التعلم العميق مع التقنيات الأخرى.
إذا لم يفهم نظام الذكاء الاصطناعي مهامه أو العالم من حوله ، فقد يؤدي ذلك إلى عواقب وخيمة. حتى أصغر التغييرات غير المتوقعة في بيئة النظام يمكن أن تؤدي إلى سلوكه الخاطئ. هناك بالفعل العديد من هذه الأمثلة: محددات التعبيرات غير المناسبة التي يسهل خداعها ؛ أنظمة البحث عن وظيفة تميز باستمرار ؛ المركبات غير المأهولة التي تتعرض لحوادث وتقتل أحيانًا سائق أو مشاة. خلق الذكاء الاصطناعي العام ليس مجرد مشكلة بحثية مثيرة للاهتمام ، بل لديه العديد من التطبيقات العملية بالكامل.
في كتابه ، طرح ماركوس ومؤلفه المشارك إرنست ديفيس الدعوة لطريق مختلف. إنهم يعتقدون أننا لا نزال بعيدين عن إنشاء منظمة العفو الدولية المشتركة ، لكنهم على يقين من أنه عاجلاً أم آجلاً سيكون من الممكن إنشاؤها.
لماذا نحتاج إلى منظمة العفو الدولية المشتركة؟ تم بالفعل إنشاء إصدارات متخصصة وجلب الكثير من الفوائد.صحيح ، والفوائد ستكون أكبر. ولكن هناك العديد من المهام التي لا تستطيع حل الذكاء الاصطناعي المتخصص حلها. على سبيل المثال ، فهم الكلام العادي ، أو المساعدة العامة في العالم الافتراضي ، أو الروبوت الذي يساعد في التنظيف والطهي. هذه المهام تتجاوز قدرات AI المتخصصة. سؤال عملي آخر مثير للاهتمام: هل من الممكن إنشاء سيارة آمنة بدون طيار باستخدام AI متخصص؟ تُظهر التجربة أن مثل هذا الذكاء الاصطناعي لا يزال يواجه العديد من المشكلات المتعلقة بالسلوك في المواقف غير الطبيعية ، حتى عند القيادة ، مما يؤدي إلى تعقيد الموقف إلى حد كبير.
أعتقد أننا جميعًا نرغب في الحصول على الذكاء الاصطناعي الذي يمكن أن يساعدنا في اكتشاف اكتشافات جديدة على نطاق واسع في مجال الطب. ليس من الواضح ما إذا كانت التقنيات الحالية مناسبة لذلك ، لأن علم الأحياء مجال معقد. يجب أن يكون المرء مستعدًا لقراءة العديد من الكتب. يفهم العلماء العلاقات بين السبب والنتيجة في تفاعل الشبكات والجزيئات ، ويمكنهم تطوير نظريات حول الكواكب وما إلى ذلك. ومع ذلك ، مع AI المتخصصة ، لا يمكننا إنشاء آلات قادرة على مثل هذه الاكتشافات. ومع الذكاء الاصطناعى المشترك ، يمكننا إحداث ثورة في العلوم والتكنولوجيا والطب. في رأيي ، من المهم جدًا مواصلة العمل على منظمة العفو الدولية المشتركة.
أصوات مثل "عامة" تعني الذكاء الاصطناعى القوي؟بقول "عام" أعني أن الذكاء الاصطناعى سوف يكون قادرًا على التفكير وحل المشكلات الجديدة بشكل مستقل. على عكس ، على سبيل المثال ، قوه ، حيث المشكلة لم تتغير منذ 2000 سنة الماضية.
يجب أن يكون الذكاء الاصطناعى العام قادرًا على اتخاذ القرارات في السياسة والطب. هذا هو تناظرية القدرة البشرية. يمكن لأي شخص عاقل أن يفعل الكثير. تأخذ الطلاب عديمي الخبرة وبعد عدة أيام تجبرهم على العمل في أي شيء تقريبًا ، بدءًا بالمهمة القانونية وتنتهي بالمهمة الطبية. هذا يرجع إلى حقيقة أن لديهم فهم مشترك للعالم وقادرون على القراءة ، وبالتالي يمكنهم المساهمة في مجموعة واسعة جدًا من الأنشطة.
العلاقة بين مثل هذا الفكر والعقل القوي هي أن الفكر غير القوي لن يتمكن على الأرجح من حل المشكلات الشائعة. لإنشاء شيء يمكن الاعتماد عليه بدرجة كافية يمكن أن يعمل مع عالم دائم التغير ، قد تحتاج على الأقل إلى الاقتراب من الذكاء المشترك.
ولكن الآن نحن بعيدون جدا عن هذا. يمكن أن يلعب AlphaGo بشكل مثالي على لوحة 19 × 19 ، ولكن يجب إعادة تدريبه للعب على لوحة مستطيلة. أو خذ نظام التعلم العميق المتوسط: يمكن أن يتعرف على الفيل إذا كان مضاء جيدًا وملمس بشرته مرئيًا. وإذا كانت صورة ظلية فيل فقط مرئية ، فمن المحتمل أن النظام لن يكون قادرًا على التعرف عليها.
تذكر في كتابك أن التعلم العميق غير قادر على تحقيق قدرات الذكاء الاصطناعى العام ، لأنه غير قادر على الفهم العميق.في العلوم المعرفية يتحدثون عن تشكيل نماذج معرفية مختلفة. أنا جالس في غرفة في الفندق وأدرك أن هناك خزانة ، يوجد سرير ، يوجد تلفزيون ، معلق بشكل غير عادي. أنا أعرف كل هذه العناصر ، وأنا لا التعرف عليها فقط. أنا أفهم أيضًا كيفية ترابطها مع بعضها البعض. لدي أفكار حول سير العالم. أنها ليست مثالية. قد تكون خاطئة ، لكنها جيدة جدا. واستناداً إليهم ، أقدم الكثير من الاستنتاجات التي أصبحت دليلًا لأفعالي اليومية.
الطرف الآخر هو شيء مثل نظام ألعاب Atari الذي أنشأه DeepMind ، والذي يتذكر فيه ما يحتاج إلى فعله عندما رأى بكسلات في أماكن معينة على الشاشة. إذا حصلت على بيانات كافية ، فقد يبدو أن لديك فهمًا ، لكنها في الواقع سطحية للغاية. والدليل على ذلك هو أنه إذا قمت بنقل الكائنات بثلاثة بكسل ، فسيكون AI يلعب بشكل أسوأ. التغيير يربكه. هذا هو عكس الفهم العميق.
لحل هذه المشكلة ، تقترح العودة إلى منظمة العفو الدولية الكلاسيكية. ما هي مزاياها التي نحتاج إلى محاولة استخدامها؟هناك العديد من المزايا.
أولاً ، إن الذكاء الاصطناعى الكلاسيكي هو في الواقع إطار عمل لإنشاء نماذج معرفية للعالم ، يمكن على أساسها استخلاص استنتاجات.
ثانيا ، الذكاء الاصطناعى الكلاسيكي متوافق تماما مع القواعد. الآن في مجال التعلم العميق ، يوجد ميل غريب عندما يحاول المتخصصون تجنب القواعد. إنهم يريدون فعل كل شيء على الشبكات العصبية وعدم القيام بأي شيء يشبه البرمجة الكلاسيكية. ولكن هناك مهام تم حلها بهدوء بهذه الطريقة ، ولم يهتم بها أحد. على سبيل المثال ، إنشاء طرق في خرائط Google.
في الواقع ، نحن بحاجة إلى كلا النهجين. يتيح لك التعلم الآلي التعلم بشكل جيد من البيانات ، لكنه يساعد بشكل سيء للغاية في عرض التجريد الذي يمثله برنامج الكمبيوتر. يعمل Classic AI بشكل جيد مع التجريدات ، ولكن يجب برمجته يدويًا بشكل كامل ، وهناك الكثير من المعرفة في العالم لبرمجتها جميعًا. من الواضح أننا نحتاج إلى الجمع بين كلا النهجين.
يرتبط هذا بالفصل الذي تتحدث فيه عما يمكن أن نتعلمه من العقل البشري. أولاً وقبل كل شيء ، حول المفهوم القائم على الفكرة المذكورة أعلاه أن وعينا يتكون من العديد من الأنظمة المختلفة التي تعمل بطرق مختلفة.أعتقد أن هناك طريقة أخرى لشرح ذلك: كل نظام إدراكي لدينا ، يحل بالفعل مشكلات مختلفة. يجب تصميم أجزاء مماثلة من الذكاء الاصطناعي لحل المشكلات المختلفة ذات الخصائص المختلفة.
إننا نحاول الآن استخدام بعض التقنيات المتكاملة لحل المشكلات التي تختلف اختلافًا جذريًا عن بعضها البعض. إن فهم الجملة لا يختلف على الإطلاق عن التعرف على كائن ما. لكن الناس في كلتا الحالتين يحاولون استخدام التعلم العميق. من وجهة نظر معرفية ، هذه مهام مختلفة نوعيًا. لقد اندهشت للتو من مدى ضآلة تقدير مجتمع خبراء التعلم العميق لمنظمة العفو الدولية الكلاسيكية. لماذا الانتظار حتى تظهر رصاصة فضية؟ لا يمكن تحقيقه ، ولا تسمح عمليات البحث غير المثمرة بفهم مدى تعقيد مهمة إنشاء الذكاء الاصطناعى.
تذكر أيضًا أن أنظمة الذكاء الاصطناعي ضرورية لفهم العلاقات بين السبب والنتيجة. هل تعتقد أن التعلم العميق ، الذكاء الاصطناعى الكلاسيكي ، أو أي شيء جديد تمامًا سوف يساعدنا في هذا؟هذا مجال آخر لا يكون التعلم العميق مناسبًا له. لا تشرح أسباب بعض الأحداث ، ولكنها تحسب احتمال وقوع حدث في ظل ظروف معينة.
عن ماذا نتحدث؟ تنظر إلى بعض السيناريوهات ، وتفهم سبب حدوث ذلك وما الذي يمكن أن يحدث إذا تغيرت بعض الظروف. أستطيع أن أنظر إلى الحامل الذي يقف عليه التلفاز ، وأتصور أنه إذا قطعت إحدى ساقيها ، فإن المنعطف سينقلب وسينخفض التلفاز. هذه علاقة سببية.
Classic AI يعطينا بعض الأدوات لهذا الغرض. يمكنه أن يتخيل ، على سبيل المثال ، ما هو الدعم وما هو السقوط. لكنني لن أشيد. تكمن المشكلة في أن الذكاء الاصطناعى الكلاسيكي في معظمه يعتمد على اكتمال المعلومات حول ما يحدث ، لكني انتهيت فقط من خلال النظر إلى المنصة. بطريقة ما يمكنني التعميم ، تخيل أجزاء من الحامل غير مرئية بالنسبة لي. ليس لدينا بعد أدوات لتنفيذ هذه الخاصية.
أنت أيضا تقول أن الناس لديهم المعرفة الفطرية. كيف يمكن تنفيذ ذلك في الذكاء الاصطناعى؟في وقت الولادة ، فإن عقولنا هو بالفعل نظام مدروس بعناية. لم يتم إصلاحها ، فقد أنشأت الطبيعة المسودة الأولى. ومن ثم يساعدنا التعلم في مراجعة هذه المسودة طوال حياتنا.
المسودة الخشنة للدماغ لديها بالفعل بعض القدرات. إن الماعز الجبلي حديث الولادة في غضون ساعات قليلة قادر على النزول بدقة منحدر الجبل. من الواضح أنه لديه بالفعل فهم للفضاء ثلاثي الأبعاد وجسده والعلاقة بينهما. نظام معقد جدا.
هذا هو السبب جزئيا في اعتقادي أننا بحاجة إلى الهجينة. من الصعب أن تتخيل كيف يمكنك إنشاء روبوت يعمل بشكل جيد في العالم دون معرفة مماثلة ، ومن أين يبدأ ، بدلاً من البدء من نقطة الصفر والتعلم من تجربة طويلة وواسعة.
بالنسبة للبشر ، فإن معرفتنا الفطرية تأتي من جينومنا ، الذي تطور بمرور الوقت. ومع أنظمة الذكاء الاصطناعى ، علينا أن نمضي في الاتجاه الآخر. في جزء منه ، قد تكون هذه القواعد لبناء الخوارزميات لدينا. في جزء منه ، قد تكون هذه قواعد لإنشاء هياكل البيانات التي تعالجها هذه الخوارزميات. وفي جزء منه ، قد يكون هذا معرفة أننا سنستثمر مباشرة في الآلات.
ومن المثير للاهتمام ، في الكتاب الذي تجلب لك فكرة الثقة وإنشاء أنظمة الثقة. لماذا اخترت هذا المعيار؟أعتقد أن كل هذا اليوم لعبة كرة. يبدو لي أننا نعيش لحظة غريبة في التاريخ ، ونثق إلى حد كبير في البرامج غير الموثوق بها. أعتقد أن المخاوف الكامنة اليوم لن تستمر إلى الأبد. خلال مائة عام ، سوف تبرر منظمة العفو الدولية ثقتنا ، وربما حتى قبل ذلك.
ولكن اليوم ، منظمة العفو الدولية أمر خطير. ليس بمعنى أن إيلون موسك يخشى ، ولكن في حقيقة أن أنظمة مقابلة العمل تميز ضد المرأة ، بغض النظر عن ما يفعله المبرمجون ، لأن أدواتهم بسيطة للغاية.
أود أن يكون لدينا منظمة العفو الدولية أفضل. لا أريد أن يبدأ "شتاء الذكاء الاصطناعي" ، عندما يدرك الناس أن الذكاء الاصطناعي لا يعمل وخطير فقط ، ولا يريدون إصلاحه.
بطريقة ما ، يبدو كتابك متفائلاً حقًا. تقترح أنه يمكنك بناء منظمة العفو الدولية ذات مصداقية. نحن فقط بحاجة للبحث في اتجاه مختلف.صحيح أن الكتاب متشائم للغاية على المدى القصير ومتفائل للغاية على المدى الطويل. نعتقد أن جميع المشكلات التي وصفناها يمكن حلها إذا نظرنا بشكل أوسع إلى الإجابات الصحيحة. ونحن نعتقد أنه إذا حدث هذا ، فإن العالم سوف يصبح أفضل.