سمعت أنه في المستقبل ، سيصبح الذكاء الاصطناعي للكمبيوتر أكثر ذكاءً منا مما يجعلهم يسلبون جميع وظائفنا ومواردنا ، وسوف يموت الناس. هل هذا صحيح؟
هذا هو السؤال الأكثر شيوعًا الذي تطرح علي في خطاباتي حول الذكاء الاصطناعي. الأشخاص الذين يسألونه قلقون بصدق ، ويأتي قلقهم من أشخاص آخرين - خبراء يسألون نفس السؤال. من بينها يمكنك مقابلة أذكى الناس الذين يعيشون اليوم - على سبيل المثال ،
ستيفن هوكينج ،
وإيلون ماسك ،
وماكس تيجمارك ،
وسام هاريس وبيل جيتس - وهم يؤمنون جميعًا بإمكانية مثل هذا السيناريو. في مؤتمر حديث لمنظمة العفو الدولية ، اتفقت لجنة من الأشخاص التسعة الأكثر دراية بالذكاء الاصطناعي على أنه لا يمكننا تجنب ظهور الذكاء الاصطناعي الخارق للإنسان.
لكن هذا السيناريو لغزو عالم الذكاء الاصطناعي يتضمن خمسة افتراضات ، كما اتضح بعد دراسة متأنية ، لا تستند إلى أدلة. قد تكون هذه التصريحات مبررة في المستقبل ، ولكن لا يوجد لدى أي منها الآن دليل. هذه هي الافتراضات:
1. أصبح الذكاء الاصطناعي بالفعل أكثر ذكاءً منا ، وتتزايد قوته بشكل كبير.
2. سنقوم بإنشاء ذكاء اصطناعي عام شبيه بما لدينا.
3. نحن قادرون على خلق الذكاء البشري القائم على السيليكون.
4. العقل قادر على النمو بلا حدود.
5. بعد انفجار الذكاء الفائق ، سيساعدنا في حل جميع مشاكلنا.
اعتراضًا على هذا القانون الأرثوذكسي ، سأعطي خمسة عبارات هرطقة ، والتي يبدو لي أن لها أسبابًا أخرى.
1. الذكاء ليس أحادي البعد ، لذا فإن مفهوم "أذكى من الناس" لا معنى له.
2. لا يوجد لدى البشر ولا الذكاء الاصطناعي وعي للأغراض العامة.
3. سوف يقتصر محاكاة التفكير البشري على وسائل الإعلام الأخرى على تكلفة إنشائه.
4. أبعاد الذكاء ليست لانهائية.
5. الذكاء هو أحد عوامل التقدم.
إذا كان توقع ظهور الذكاء الاصطناعي الخارق للإنسان (SII) مبنيًا على خمسة افتراضات رئيسية ليس لها دليل ، فإن هذه الفكرة تشبه إلى حد كبير المعتقد الديني أو الأسطورة. بعد ذلك ، سوف أتوسع في كل افتراضاتي المضادة الخمسة ، وسأثبت أن SII هي في الواقع أسطورة.
1.
يبدأ المفهوم الخاطئ الأكثر شيوعًا حول الذكاء الاصطناعي مع سوء الفهم حول الذكاء الطبيعي. وهو يتألف من حقيقة أن الذكاء أحادي البعد. تميل معظم التقنيين إلى تصوير الذكاء كما يفعل
نيك بوستروم في Superintelligence ، كرسم بياني خطي أحادي البعد مع اتساع متزايد.
على جانب واحد هو ضعف الذكاء ، على سبيل المثال ، حيوان صغير ؛ من ناحية أخرى ، عبقرية عالية ، على سبيل المثال - كما لو كان يمكن تمثيل الذكاء كمستوى صوت في الديسيبل. بالطبع ، في هذه الحالة ، من السهل أن نتخيل أن حجم الذكاء يستمر في النمو ، ونتيجة لذلك ، يتجاوز مستوانا الفكري للغاية ويصبح فكرًا عاليًا للغاية - هدير! - غير قابل للوصول إلينا وخارج الجدول الزمني.
هذا النموذج يكافئ سلمياً سلمياً تكون فيه كل خطوة لاحقة من الذكاء أعلى من الخطوة السابقة. الحيوانات الأصغر سنًا في الدرجات السفلية ، وسيفوقنا الذكاء الاصطناعي عالي المستوى وسيكون على الخطوات المذكورة أعلاه. الخط الزمني لهذا الحدث لا يهم ، فقط الترتيب - مقياس زيادة الذكاء.
المشكلة في هذا النموذج أنه أسطوري مثل سلم التطور. قبل داروين ، كان العالم الطبيعي يعتبر سلمًا تقع فيه الحيوانات الأصغر سنًا تحت الشخص. حتى بعد داروين ، كان من المعتاد التفكير في التطور على أنه "سلم" ، حيث تتحول الأسماك إلى زواحف ، ثم إلى ثدييات ، ثم إلى قرود ، إلى بشر ، وكل مرحلة تكون في "مرحلة تطور" أعلى قليلاً ، وبالتالي تعتبر أذكى من سابقاتها. لذا فإن سلم الذكاء يتفق مع سلم الوجود. لكن هذه النماذج لها نهج غير علمي تمامًا.
إن التصوير الأكثر دقة للتطور الطبيعي للأنواع هو قرص متوسع ، كما في الصورة أعلاه ، اقترحه
ديفيد هيلس من جامعة تكساس لأول مرة وتم إنشاؤه على أساس الحمض النووي. تبدأ
ماندالا الأنساب في المركز بأشكال الحياة البدائية ، ثم تتفرع في الوقت المناسب. ينتقل الوقت إلى الخارج ، لذا فإن أحدث أنواع الحياة التي تعيش على الكوكب اليوم هي حول المحيط. تؤكد هذه الصورة على حقيقة التطور ، التي يصعب قبولها: كل نوع من الكائنات الحية اليوم تم تطويره بشكل متساوٍ. يوجد الناس في هذه الحلقة مع الصراصير والرخويات والسرخس والثعالب والبكتيريا. مر كل نوع بسلسلة مستمرة من ثلاثة مليارات سنة من التكاثر الناجح ، مما يعني أن البكتيريا والصراصير اليوم متطورة بشكل تطوري مثل البشر. لا يوجد سلم.
وبالمثل ، لا يوجد سلم للذكاء. الذكاء ليس أحادي البعد. هذا معقد من العديد من الأنواع وأنماط التعرف ، كل منها عبارة عن سلسلة متصلة. خذ أبسط مهمة لقياس ذكاء الحيوان. إذا كان العقل أحادي البعد ، لكنا ببساطة نبني عقليات الببغاء ، الدلفين ، الحصان ، السنجاب ، الأخطبوط ، الحوت الأزرق ، القط والغوريلا بالترتيب التصاعدي الصحيح. لكن اليوم ليس لدينا دليل علمي على وجود مثل هذا الخط. قد يكون أحد أسباب ذلك هو عدم وجود فرق بين الذكاءات في الحيوانات ، لكننا أيضًا لا نرى ذلك. علم الحيوان مليء بأمثلة مذهلة للاختلافات في التفكير الحيواني. ولكن ربما لديهم جميعا "ذكاء عام" نسبي واحد؟ ربما ، لكن بالنسبة له لا توجد طريقة للقياس والمقاييس. لدينا العديد من المقاييس المختلفة لأنواع كثيرة من الإدراك.
بدلاً من سطر واحد يحتوي على ديسيبل ، فإن النموذج الأكثر دقة للذكاء سيكون رسمًا بيانيًا لمساحته الاحتمالية ، مثل الشكل أعلاه ، على سبيل المثال ، يمثل الأشكال المحتملة. الذكاء هو سلسلة توافقية. العديد من العقد ، كل منها عبارة عن سلسلة متصلة ، تخلق هياكل معقدة ومتنوعة بأبعاد أعلى. يمكن أن تكون بعض العقول معقدة للغاية ولديها العديد من العقد الفرعية للتفكير. البعض الآخر قد يكون أبسط ، ولكن تمتد أكثر ، مع أخذ زاوية في الفضاء. يمكن اعتبار هذه المجمعات ، التي نسميها العقول ، سمفونيات تشتمل على العديد من أنواع الأدوات. وهي تختلف ليس فقط في الحجم ، ولكن أيضًا في النغمة واللحن واللون والإيقاع ، إلخ. يمكن تمثيلها كنظم إيكولوجية. وبهذا المعنى ، فإن مكونات العقد المختلفة للتفكير تعتمد على بعضها البعض ويتم إنشاؤها معًا.
كما قال
مارفن مينسكي ، العقول البشرية هي مجتمعات العقول. نحن نعمل على النظم البيئية للتفكير. لدينا العديد من أنواع التفكير التي تتعامل مع أنواع كثيرة من التفكير: الاستنباط والاستقراء والمنطق الرمزي والذكاء العاطفي والمنطق المكاني والذاكرة قصيرة المدى والذاكرة طويلة المدى. الجهاز العصبي لأمعائنا هو دماغ من نوع معين له أسلوب تفكير خاص به. نحن لا نفكر بعقل واحد فقط ، بل نفكر بالجسد كله.
تختلف مجموعات التفكير هذه من فرد لآخر ومن الأنواع إلى الأنواع. يمكن أن يتذكر السنجاب الموقع الدقيق لعدة آلاف من الجوز لسنوات ، مما يؤثر تمامًا على العقل البشري. لذا في هذا النوع من التفكير ، البروتينات متفوقة على البشر. هذه القوة العظمى مرتبطة بأنماط أخرى ، تتلاشى مقارنةً بأوضاعنا ، وهذا الاتصال يشكل عقل السنجاب. في مملكة الحيوان ، هناك العديد من الأمثلة الأخرى على الفرص التي تفوق الفرص البشرية ، ويتم تضمينها أيضًا في أنظمة مختلفة.
وينطبق الشيء نفسه على الذكاء الاصطناعي. العقول الاصطناعية متفوقة بالفعل على البشر في أبعاد معينة. حاسبتك عبقرية في الرياضيات ، وذاكرة Google متفوقة بالفعل على ذاكرتنا في بُعد معين. نحن نصنع الذكاء الاصطناعي الذي يبرز في أوضاع معينة. نحن قادرون على القيام ببعض هذه الأشياء بأنفسنا ، لكنها تفعلها بشكل أفضل - على سبيل المثال ، في مجالات الاحتمالية أو الرياضيات. لا تتوفر لنا طرق تفكير أخرى - فقط محرك البحث يمكنه تذكر كل كلمة على ستة مليارات صفحة ويب. في المستقبل ، سنتوصل إلى أنواع جديدة تمامًا من التفكير ليس لدينا ، وفي الواقع في الطبيعة الحية. من خلال اختراع الطيران الاصطناعي ، استلهمنا من أنظمة الطيران البيولوجية ، وبشكل رئيسي رفرفة الأجنحة. لكننا اخترعنا مثل هذه الرحلات - مع مراوح وأجنحة ثابتة - لم تكن معروفة للعالم البيولوجي. هذه رحلة لشخص آخر. وبنفس الطريقة ، سنتوصل إلى طرق تفكير جديدة غير موجودة في الطبيعة. في العديد من الحالات ، ستكون وسائط جديدة ومحددة وصغيرة مصممة لوظيفة معينة - ربما نوع من المنطق المناسب فقط للإحصاءات ونظرية الاحتمالات.
في حالات أخرى ، سيكون العقل الجديد عبارة عن مجموعة معقدة من أنواع التفكير التي يمكننا استخدامها لحل المشكلات التي لا تخضع لذكائنا. قد تتطلب العديد من أكثر مشاكل الأعمال والعلوم تعقيدًا حلًا من مرحلتين. المرحلة الأولى: اخترع طريقة تفكير جديدة يمكن أن تعمل مع عقولنا. ثانياً: الجمع بينهما لحل المشكلة. نظرًا لأننا نحل المشكلات التي لم يكن من الممكن الوصول إلينا سابقًا ، فإننا نريد أن نسمي هذا النوع الجديد من التفكير "أكثر ذكاءً" مما نحن عليه ، ولكن في الواقع يختلف الأمر ببساطة عنا. الميزة الرئيسية للذكاء الاصطناعي هي التفكير المختلف. أعتقد أنه من المفيد التفكير في الذكاء الاصطناعي باعتباره تفكيرًا غريبًا (أو فضائيًا اصطناعيًا). سوف يكون غيبته الفضيلة الرئيسية.
في الوقت نفسه ، سوف ندمج أنماط التفكير المختلفة هذه في مجتمعات العقل الأكثر تعقيدًا. بعض هذه المجمعات ستكون أكثر تعقيدًا من مجموعتنا ، لأنها يمكن أن تحل المشكلات التي لا يمكن الوصول إليها من قبلنا ، ومن ثم يريد شخص ما أن يصفها بأنها خارقة. لكننا لا نطلق على Google SII ، على الرغم من أن ذاكرته تفوق ذاكرتنا ، لأن هناك أشياء كثيرة يمكننا القيام بها أفضل منه. ستكون مجمعات الذكاء الاصطناعي هذه قادرة على تجاوزنا في العديد من الأبعاد ، ولكن لا يمكن لأحد القيام بكل ما نفعله أفضل منا. يمكن مقارنة ذلك بالقدرات البدنية للناس. يبلغ عمر الثورة الصناعية بالفعل 200 عام ، وعلى الرغم من أن الآلات العامة تفوق القدرات البدنية للشخص (سرعة الحركة ، رفع الأثقال ، القطع الدقيق ، إلخ) ، لا توجد آلة قادرة على تجاوز الشخص العادي في كل ما يفعله.
وبينما أصبح مجتمع العقول بالذكاء الاصطناعي أكثر تعقيدًا ، إلا أنه لا يزال من الصعب قياس هذا التعقيد علميًا. ليس لدينا مقاييس جيدة للتعقيد يمكنها تحديد ما إذا كان خيار طائرة بوينج 747 أكثر صعوبة أو وصف كيف تختلف صعوباتها. هذا أحد أسباب عدم وجود مقاييس جيدة للعقل. سيكون من الصعب جدًا تحديد ما إذا كان العقل A أكثر صعوبة من العقل B ، وبالتالي ، فمن الصعب فهم أي منهم أذكى. سرعان ما سوف نفهم أن العقل ليس بعدًا واحدًا ، وفي الواقع نحن مهتمون بجميع الطرق العديدة التي يمكن للعقل أن يعمل بها - كل تلك العقد من الإدراك التي لم نكتشفها بعد.
2.
الخطأ الثاني المتعلق بالذكاء البشري هو اعتقادنا بأن عقلنا عالمي ، إنه عقل ذو هدف عام. وقد أدى هذا الاعتقاد إلى ظهور الهدف الذي غالبًا ما ذكره باحثو الذكاء الاصطناعي لإنشاء ذكاء اصطناعي معمم ، OII. ومع ذلك ، إذا اعتبرنا الذكاء مساحة أكبر من الاحتمالات ، فلن يكون لها حالة معممة. الذكاء البشري ليس في موقع مركزي تدور حوله مفكرات متخصصة أخرى. الذكاء البشري هو نوع خاص جدًا جدًا من الذكاء ظهر نتيجة لملايين السنين من التطور حتى تعيش أجناسنا على هذا الكوكب. إذا وضعته في مساحة كل الذكاءات الممكنة ، فسيكون في مكان ما في الزاوية ، تمامًا مثل عالمنا على حافة مجرة ضخمة.
يمكننا بالتأكيد أن نتخيل بل ونخترع تفكيرًا يشبه سكينًا سويسريًا عالميًا. إنه يقوم بعمل جيد مع مجموعة من المهام ، لكنه لا يعمل بشكل جيد مع أي منها. سوف يتبع الذكاء الاصطناعي نفس
المبدأ الهندسي الذي تتبعه جميع الأشياء التي تم إنشاؤها أو ولدتها: لا يمكنك تحسين كل بُعد. التسويات فقط ممكنة. لن تعمل على إنشاء وحدة عامة متعددة الوظائف متفوقة على الوحدات المتخصصة. العقل الكبير ، "قادر على أي شيء" ، لن يكون قادرًا على القيام بكل هذا بالإضافة إلى العقول المتخصصة. نظرًا لأننا نؤمن بتعميم عقولنا ، فإننا نعتقد أن التفكير لا يجب أن يتبع تنازلات هندسية ، وأنه سيكون من الممكن إنشاء ذكاء يزيد من جميع أنماط التفكير. لكن لا يوجد دليل على ذلك. لم نبتكر بعد خيارات كافية للعقل لرؤية المساحة كلها (وحتى الآن نجرف عقول الحيوانات ، ونقيمها بسعة أحادية البعد).
3.
جزء من هذا الاعتقاد يأتي من مفهوم الحوسبة الشاملة. هذا الافتراض ، الذي تم وصفه رسميًا في عام 1950 باسم
أطروحة الكنيسة-تورينج ، ينص على أن جميع الحسابات التي تصل إلى عتبة معينة متساوية. لذلك ، لجميع الحسابات هناك جوهر عالمي ، وما إذا كانت تحدث في جهاز واحد مع العديد من الأجزاء السريعة ، أو الأجزاء البطيئة ، أو في الدماغ البيولوجي - كل هذا هو نفس العملية المنطقية. وهذا يعني أنه من الممكن محاكاة أي عملية حوسبة (تفكير) في أي آلة قادرة على الحوسبة "الشاملة". يعتمد أتباع التفرد على هذا المبدأ ، ويتوقعون أن نتمكن من إنشاء أدمغة السيليكون التي يمكن أن تستوعب العقل البشري ، وأننا نستطيع خلق عقل اصطناعي يعتقد أن البشر أكثر ذكاءً. يجب أن يكون هذا الأمل متشككًا ، لأنه يقوم على سوء فهم لفرضية الكنيسة-تورينج.
كانت نقطة البداية لهذه الفرضية كما يلي: "إذا كان هناك فيلم (ذاكرة) لا نهائي ووقت ، فإن جميع الحسابات متكافئة." المشكلة هي أنه في الواقع ليس لدى الكمبيوتر ذاكرة ووقت لا نهائي. في العالم الحقيقي ، يعد الوقت الفعلي أمرًا بالغ الأهمية ، وغالبًا ما يكون مسألة حياة أو موت. نعم ، يمكن أن يكون كل التفكير متكافئًا إذا تم تجاهل الوقت. نعم ، يمكنك محاكاة التفكير البشري في أي مصفوفة ، طالما أنك تتجاهل الوقت أو القيود الحقيقية لتخزين البيانات والذاكرة. ومع ذلك ، من خلال تضمين الوقت ، سيكون من الممكن إعادة تعريف هذا المبدأ بشكل كبير: "نظامان للحوسبة يعملان على منصات مختلفة جدًا لن يكونا متكافئين في الوقت المناسب." أو: "الطريقة الوحيدة للحصول على أنماط تفكير متشابهة هي تشغيلها على منصات مكافئة". تؤثر المادة الجسدية التي تعمل عليها الحسابات - خاصة عندما تصبح أكثر تعقيدًا - بشكل كبير على نوع التفكير الذي يمكن أن يعمل بنجاح في الوقت الفعلي.
سأستمر في هذه الحجج وأقول أن الطريقة الوحيدة للحصول على عملية تفكير قريبة من الإنسان هي إجراء حسابات على الأنسجة الرطبة والرطبة المشابهة للإنسان. وهذا يعني أن الذكاء الاصطناعي الكبير والمعقد الذي يعمل على السيليكون الجاف سيعطينا أنواعًا كبيرة ومعقدة وغير إنسانية من التفكير. إذا أصبح من الممكن إنشاء دماغ اصطناعي مبلل باستخدام الخلايا العصبية النامية المماثلة للخلايا البشرية ، فإنني سأقول أن أفكاره ستكون مشابهة جدًا لأفكارنا. تتناسب فوائد هذا الدماغ الرطب مع مدى التشابه الذي يمكن أن نجعله الأساس. إن تكلفة إنشاء مثل هذا "الكمبيوتر البشري" ضخمة ، وكلما اقترب النسيج من أنسجة المخ ، كلما كان إنشاء الشخص أكثر فعالية من حيث التكلفة. في النهاية ، يمكننا القيام بذلك في تسعة أشهر.
علاوة على ذلك ، كما هو موضح أعلاه ، نفكر بمساعدة الجسم كله ، وليس فقط مع دماغ واحد. لدينا الكثير من البيانات التي توضح أن الجهاز العصبي المعوي يوجه عملية اتخاذ القرار "العقلانية" الخاصة بنا ، وأنه قادر على تعلم الأحداث والتنبؤ بها. كلما قمنا بتشكيل نظام جسم الإنسان ، كلما اقتربنا من إعادة إنتاجه. إن التفكير في العمل على جسم مختلف تمامًا (السيليكون الجاف بدلاً من الكربون الرطب) سوف يفكر بشكل مختلف.
يبدو لي أن هذا ليس خطأ ، بل ميزة. كما ذكرت في الفقرة 2 ، فإن الفرق بين التفكير والإنسان هو الميزة الرئيسية للذكاء الاصطناعي. هذا سبب آخر لأنه من الخطأ القول بأنه "أذكى من الناس".
4.
في صميم مفهوم الذكاء الخارق - على وجه الخصوص ، فكرة أن مثل هذا الذكاء سوف يتحسن باستمرار - يكمن الاعتقاد في أن حجم الذكاء لا نهائي. لا أرى دليلا على ذلك. إن الإيمان بهذا يساعد الفكرة الخاطئة عن البعد الواحد للذكاء - لكن هذا مجرد إيمان. في الكون ، لا يوجد علم موثوق به للأبعاد المادية التي لا نهاية لها. درجة الحرارة ليست لانهائية - هناك
حرارة نهائية باردة
ونهائية . الزمان والمكان محدودان. السرعة النهائية. ربما يكون الخط العددي في الرياضيات غير محدود ، ولكن السمات المادية لها حدود. سيكون من المعقول أن نقول أن العقل نفسه محدود. لذا فالسؤال أين حدود الذكاء؟ نحن نميل إلى الاعتقاد بأنها أبعد بكثير عن متناول أيدينا ، إنها "أعلى" منا بكثير ، بقدر "أننا" أعلى من النملة. إذا تركنا مشكلة البعد الواحد الناشئة باستمرار ، فما الدليل الذي لدينا على أننا لم نصل إلى هذا الحد؟ لماذا لا نستطيع أن نكون في الحد الأقصى؟ , , ? , – , ?
,
. , – . , , - . «» [
The Inevitable ] , - . :
• , , ( ).
• , .
• , .
• , , .
• , , .
• , , - .
• , , .
• عقل قادر على إنتاج عقل مثالي ، ولكن لا يدرك نفسه بما يكفي لتمثيله.• عقل يمكن أن يخلق عقل أفضل بنجاح مرة واحدة.• عقل قادر على إنشاء عقل أكثر كمالا بنجاح ، وهو بدوره قادر على خلق عقل أكثر كمالا ، وما إلى ذلك.• العقل مع الوصول إلى التعليمات البرمجية المصدر ، وقادرة على التأثير في عملها.• عقل منطقي خالي من العواطف.• عقل قادر على حل المشاكل الشائعة ، ولكن لا يدرك نفسه.• عقل واعي ذاتي ، غير قادر على حل المشاكل الشائعة.• العقل ، الذي يتطلب تطويره الكثير من الوقت وحماية عقله.• العقل البطيء للغاية ، موزعة على حجم مادي كبير ، وبالتالي فهي غير مرئية للعقول أسرع.• عقل قادر على الاستنساخ الذاتي السريع والدقيق.• عقل قادر على الاستنساخ الذاتي ، وبعد ذلك يمكن أن يبقى جنبا إلى جنب مع استنساخه.• عقل خالد ، قادر على الهجرة بين المنصات.• عقل سريع وديناميكي ، قادر على تغيير عملية وخصائص عمله.• الذكاء النانوي ، أصغر ما يمكن من وجهة نظر الطاقة والمادية.• العقل متخصص في تنبؤات تطور الأحداث.• عقل لا يمحو أو ينسى أي شيء.• العقل التكافلي في الحيوان نصف الحيوان.• -.
• , , .
, .
, ( - ), , , , . , . , . أين الدليل؟ . , , ? , , . . 10 .
, , , .
, , , , , . : « , … , , . , 2029 ».
, , , , . . , .
, « », , .
, . , , , . , «» .
5.
آخر ، لم يدحضه أي شخص ، الإيمان بقدوم جبهة الإنقاذ الإسلامي ، لا يدعمه الدليل ، هو أن الذكاء الفائق للقوة اللانهائية تقريبًا سيحل بسرعة جميع مشاكلنا الرئيسية التي لم يتم حلها.
يعتقد العديد من أنصار انفجار الاستخبارات أنه سيؤدي إلى انفجار التقدم. أسمي هذا الإيمان الأسطوري "التفكير". هذا اعتقاد خاطئ بأن المراحل المستقبلية من التقدم لا يمكن تحقيقها إلا بسبب نقص القوة العقلية أو الذكاء. ألاحظ أن الاعتقاد بأن التفكير هو الدواء السحري لكل شيء شائع بين العديد من الأشخاص الذين يحبون التفكير.
خذ علاجًا للسرطان أو إطالة العمر. لا يمكنك حل مثل هذه المشاكل بفكر واحد. لا يوجد تفكير كافٍ لفهم كيفية تقدم الخلايا في العمر أو كيفية اختفاء التيلوميرات. لا يمكن لأي فكر مخادع أن يفهم كيف يعمل جسم الإنسان بمجرد قراءة جميع المؤلفات العلمية المعروفة في العالم والتفكير فيها. لا يمكن لـ FIC ، بمجرد التفكير في جميع تجارب الاندماج النووي ، أن ينتج خطة اندماج نووي فعالة. للتغلب على المسار من عدم معرفة كيفية عمل شيء ما إلى فهم كيفية عمل شيء ما ، يتطلب الأمر أكثر بكثير من مجرد التفكير. في العالم الحقيقي ، يتم إجراء أكوام من التجارب ، كل منها يؤدي إلى ظهور جبال من البيانات المتضاربة التي تتطلب المزيد من التجارب لإنشاء فرضية فعالة. لن يمنحك التفكير في البيانات المحتملة البيانات الصحيحة.
التفكير ليس سوى جزء من العلم ، وربما حتى جزء صغير منه. على سبيل المثال ، ليس لدينا ما يكفي من البيانات للاقتراب من حل مشكلة الموت. عند العمل مع الكائنات الحية ، تستغرق جميع التجارب تقريبًا بعض الوقت. لا يمكن تفريق عملية التمثيل الغذائي البطيء للخلايا. يستغرق الحصول على النتائج سنوات أو شهور أو أيام على الأقل. إذا أردنا معرفة ما يحدث للجسيمات دون الذرية ، فلا يمكننا التفكير فيها فقط. نحن بحاجة إلى بناء هياكل مادية ضخمة ومعقدة وماكرة لمعرفة ذلك. حتى لو كان أذكى الفيزيائيين أذكى 1000 مرة من الآن ، لولا المصادم لما تعلموا أي شيء جديد.
ليس هناك شك في أن SRI يمكنه تسريع تقدم العلم. يمكننا القيام بمحاكاة الكمبيوتر للذرات أو الخلايا وتسريعها عدة مرات ، ولكن هناك مشكلتان تحدان من فائدة المحاكاة. الأول هو أن المحاكاة والنماذج يمكن أن تكون أسرع من العمليات التي تتم دراستها فقط لأننا لا نأخذ في الاعتبار شيئًا ما. هذا هو جوهر النموذج أو المحاكاة. بالإضافة إلى ذلك ، فإن اختبار هذه النماذج والتحقق منها وإثباتها يستغرق أيضًا وقتًا طويلاً ويحتاج إلى السير بسرعة العمليات المحاكاة. لا يمكن تسريع التحقق من الحقيقة.
هذه الإصدارات المبسطة مفيدة لتصفية المسارات الواعدة وتسريع التقدم. ولكن في الواقع لا يوجد فائض. كل ما هو حقيقي يمارس تأثيره إلى حد ما ؛ هذا هو أحد تعريفات الواقع. إذا بدأت في ضخ النماذج والمحاكاة مع المزيد والمزيد من البيانات ، فسوف يتضح قريبًا أن الواقع أسرع من محاكاة 100 ٪. هذا تعريف آخر للواقع: أسرع نسخة ممكنة لجميع تفاصيل ودرجات الحرية الحالية. إذا استطعت نمذجة جميع الجزيئات في خلايا وجميع خلايا جسم الإنسان ، فلن تعمل المحاكاة بالسرعة نفسها التي يعمل بها جسم الإنسان. بغض النظر عن مدى تفكيرك في ذلك ، ستحتاج إلى وقت للتجريب ، سواء كان نظامًا حقيقيًا أو محاكاة.
لتكون مفيدة ، يحتاج الذكاء الاصطناعي إلى التسلل إلى العالم الحقيقي ، وسيحدد العالم سرعة ابتكاره. بدون إجراء تجارب ، وبناء نماذج أولية ، وأخطاء وتجارب مع الواقع ، يمكن للذكاء أن يفكر ، ولكن لا يؤدي إلى نتائج. لا توجد اكتشافات فورية لكل دقيقة أو ساعة أو يوم أو سنة حدوث ما يسمى. "خارق للذكاء الاصطناعي" غير متوقع. بالطبع ، ستؤدي النجاحات في تطوير الذكاء الاصطناعي إلى زيادة كبيرة في عدد الاكتشافات لكل وحدة زمنية ، على وجه الخصوص ، لأن الذكاء الاصطناعي ، على عكس الأشخاص ، سيطرح أسئلة لن يطرحها الناس ، ولكن حتى الذكاء القوي للغاية ، مقارنة بنا ، لا يضمن التقدم الفوري. لحل المشاكل ، هناك حاجة أكثر بكثير من مجرد الذكاء.
لن تكون الذكاء وحده قادرًا على حل مشاكل السرطان وطول العمر فحسب ، بل أيضًا مشاكل العقل نفسه. إن الشعار المعتاد لمؤيدي التفرد هو أنه بمجرد إنشاء ذكاء اصطناعي "أذكى من الشخص" ، يفكر ويبتكر فجأة ذكاء اصطناعي ، "أذكى منه" ، والذي بدوره يفكر بشكل صحيح ويخترع أكثر الذكاء الاصطناعي الذكي ، ونتيجة لذلك ، سينتهي كل شيء بانفجار في القوة الفكرية على مستوى إلهي تقريبًا. ليس لدينا دليل على أن مجرد التفكير في الذكاء يكفي لخلق مستويات جديدة من الذكاء. هذا التفكير هو الإيمان. لدينا الكثير من الأدلة ، بالإضافة إلى كمية كبيرة من المعرفة ، نحن بحاجة إلى التجارب والبيانات والتجارب والأخطاء ، والأسئلة المطروحة بشكل غير عادي وكل شيء آخر بخلاف البراعة البسيطة من أجل اختراع أنواع جديدة من العقول العاملة بنجاح.
في الختام ، سأقول أنه قد أكون مخطئا في بياناتي. نحن في المراحل الأولى. يمكننا اكتشاف مقياس عالمي للذكاء. اكتشف اللانهاية في كل الاتجاهات. نظرًا لأننا لا نعرف إلا القليل جدًا عن الذكاء (ناهيك عن الوعي) ، فإن احتمال وجود نوع من التفرد بالذكاء الاصطناعي يتجاوز الصفر. يبدو لي أن جميع الأدلة تتحدث لصالح احتمال منخفض لمثل هذا السيناريو ، ولكن هذا الاحتمال غير صفري.
لذا ، على الرغم من أنني لا أوافق على احتمالية ذلك ، فأنا أتفق مع الأهداف الأوسع لـ
OpenAI والأشخاص الأذكياء القلقين بشأن الاستثمار الأجنبي المباشر - وهو أنه يجب علينا إنشاء
ذكاء اصطناعي ودود والتفكير في كيفية غرس القيم التي تطابق قيمنا. وعلى الرغم من أنني أعتقد أن الاستثمار الأجنبي المباشر يمثل تهديدًا وجوديًا بعيدًا جدًا (وهو أمر يستحق النظر فيه) ، إلا أنني أعتقد أن احتماله الصغير (استنادًا إلى الأدلة المتاحة) يجب ألا يحكم علمنا وسياستنا وتطورنا. اصطدام كويكب بالأرض سيكون كارثة. احتمالية أكبر من الصفر (لذا يجب علينا دعم
صندوق B612 ) ، ولكن لا ينبغي لنا أن نعطي إمكانية حدوث ضربة كويكب لإدارة قراراتنا ، على سبيل المثال ، في مجال تغير المناخ ، أو السفر إلى الفضاء ، أو حتى في التخطيط الحضري.
وبنفس الطريقة ، تشير الأدلة حتى الآن إلى أن الذكاء الاصطناعي سوف يتحول على الأرجح إلى أنه ليس فوق البشر ، ولكنه خارج البشرية ، سيكون هناك مئات الأنواع الجديدة من التفكير التي تختلف عن الإنسان ، ولن يتحول أي منها إلى هدف عام للذكاء الاصطناعي ، ولن يصبح أي منهم إلهًا ، حل جميع مشاكلنا على الفور. بدلاً من ذلك ، سيكون لدينا مجرة من الذكاءات المحدودة ، التي تعمل بأبعاد غير مألوفة ، وتتجاوز قدراتنا في العديد منها ، والعمل معنا لحل المشاكل الموجودة وإنشاء مشاكل جديدة بمرور الوقت.
أفهم سحر وجاذبية إله SII. هذا شيء مثل سوبرمان. ولكن ، مثل سوبرمان ، هذه شخصية أسطورية. في مكان ما من الكون ، قد يوجد سوبرمان ، لكن احتمال وجوده صغير للغاية. لكن الأساطير يمكن أن تكون مفيدة ، ولا تختفي بعد اختراعها. لن تموت فكرة سوبرمان. إن فكرة التفرد بالذكاء الاصطناعي الخارق للإنسان ، بمجرد ظهورها ، لن تموت أيضًا. ولكن يجب أن نفهم أنها الآن فكرة دينية وليست علمية. إذا درسنا البيانات التي لدينا اليوم عن الذكاء ، الاصطناعي والطبيعي ، لا يمكننا إلا أن نستنتج أن مناقشاتنا حول إله SII الأسطوري هي مجرد أساطير.
اتصلت العديد من جزر
ميكرونيزيا المعزولة لأول مرة مع بقية العالم خلال الحرب العالمية الثانية. طارت الآلهة الغريبة في سمائها في طيور صاخبة ، وألقت الطعام والبضائع في جزرها ، ولم تعد. ظهرت طوائف دينية في الجزر ، تصلي من أجل عودة الآلهة وإلقاء المزيد من السلع. حتى الآن ، بعد مرور خمسين عامًا ، لا يزال الكثيرون ينتظرون إعادة البضائع. من الممكن أن يكون SRI عبادة أخرى من البضائع. بعد مائة عام ، سيكون الناس قادرين على النظر إلى الوراء ، في عصرنا ، في اللحظة التي بدأ فيها المؤمنون ينتظرون ظهور FIC ، الأمر الذي سيجلب لهم فوائد لا يمكن تصورها. بعد عقد من الزمان ، ينتظرون وصول الاستثمار الأجنبي المباشر ، واثقين من أن فوائده ستظهر قريباً جداً.
لكن الذكاء الاصطناعي غير الخارق حقيقي بالفعل هنا. نحن نعيد تعريف هذا المصطلح باستمرار ، ونزيد من تعقيده ، ونتيجة لذلك نحتفظ به في المستقبل ، ولكن بالمعنى الواسع لتعريف العقول الغريبة - في طيف مستمر من العقول المختلفة ، والعقول ، والأفكار ، والمنطق ، والتعاليم والوعي - يوجد الذكاء الاصطناعي بالفعل على هذا الكوكب ، ويستمر نشر وتعميق وتنويع وتكثيف. لا يوجد اختراع سابق يمكن مقارنته بسلطته على العالم ، وبحلول نهاية القرن سوف يمس الذكاء الاصطناعي ويغير جميع جوانب حياتنا. لكن أسطورة الذكاء الاصطناعي الخارق للإنسان ، مستعدة لتزويدنا بوفرة أو تدفعنا إلى العبودية الفائقة (أو كليهما في نفس الوقت) ، على ما يبدو ، ستستمر في العيش - هذه الفرصة أسطورية للغاية لرفضها.