يمكن للكثيرين الذين يعرفونني أن يؤكدوا أنني منتقد تمامًا لعدد القضايا ، بل إنه يُظهر في بعض النواحي قدرًا لا بأس به من التطرف. من الصعب بالنسبة لي لإرضاء. خاصة عندما يتعلق الأمر بالكتب. كثيراً ما أنتقد عشاق الخيال العلمي والدين وقصص المباحث والمزيد من الهراء. أعتقد أن الوقت قد حان للقيام بأشياء مهمة حقًا ، والتوقف عن العيش في وهم الخلود.
خلال أحد المراقبات مع أحد أصدقائي المقربين ، نصحني ، بعد سخطي التالي بأنهم يقدمون لي باستمرار هراء مختلفين (نفس الخيال) ، أن أضع كتاب "الحياة 3.0". أن تكون رجلاً ... " أشعر بالخجل من الاعتراف ، لقد قمت بتنزيله منذ فترة طويلة ، ولم ألاحظ ذلك مع مجموعة رائعة من مؤسسة Dynasty Foundation. من الصعب جدًا إرضاءي ، لأن كان يعمل على الكتب ، بعبارة ملطفة ، وليس قليلاً. لكني أحببت هذا ، وقررت ليس فقط الإجابة عليه على سؤال حول ما إذا كان ينبغي العمل بها أم لا ، ولكن أيضًا لكتابة مراجعته النقدية ، لأنه على الرغم من حقيقة أن الكتاب يستحق الاهتمام ، لا يزال هناك عمل يتعين القيام به.
أود أن أصدق أن تقييمي لن يغرق ، كما هو الحال دائمًا في كتلة الفيضانات والبريد العشوائي ، ولن يصل إلى القراء فحسب ، بل أيضًا إلى الكتاب الذين سيأخذون في الاعتبار أوجه القصور في الأعمال اللاحقة. بالطبع ، فقط رأيي الشخصي أقل ، لكنني سأحاول تبريره قدر الإمكان. على الرغم من حقيقة أنه ، كما هو الحال دائمًا كارثية ، لا يوجد وقت لكل شيء وفي الواقع ، أنا عبق فقير متوسط ؛ ومع ذلك ، أنا أعتبر واجبي المدني باعتباره عالميًا لكتابة هذا الاستعراض ، لأنه لقد كنت مهتمًا منذ وقت طويل بمواضيع مشابهة والعديد من الموضوعات الأخرى ذات الصلة. أعتقد أن الكثير مما يلي هو المهام الأساسية الموكلة لكل من البشرية ككل والأفراد. كما مثير للشفقة كما يبدو. لذلك ...
الحياة 3.0. أن تكون إنسانا
انتقاد
تبدأ الغلطات حرفيًا من الصفحات الأولى من الكتاب. أقتبس:
"كما تعلمون ، لم يكن هناك اتفاق طويل حول مسألة ما يجب مراعاته في الحياة. يُقترح عدد كبير من التعاريف البديلة ، وبعضها يتضمن قيودًا صارمة إلى حد ما: على سبيل المثال ، يلزم وجود بنية خلوية ، والتي ربما تستبعد آلات التفكير المستقبلية وبعض الحضارات خارج كوكب الأرض. نظرًا لأننا لا نريد قصر أفكارنا حول الحياة المستقبلية على تلك الأنواع البيولوجية التي نعرفها بالفعل ، فلنقبل تعريفها الأوسع نطاقًا بحيث يشمل أي عملية أخرى ، إذا كان لديها تعقيد وقدرة على إعادة إنتاج نفسها فقط. بالضبط ما هو مستنسخ ليست مهمة جدا (يتكون من ذرات) ، والمعلومات (تتكون من بت) مهمة ، والتي يتم تحديدها من خلال الترتيب المتبادل للذرات بالنسبة لبعضها البعض. عندما تنسخ بكتيريا الحمض النووي الخاص بها ، لا تنشأ ذرات جديدة ، ولكن تصطف الذرات المتوفرة في سلسلة تكرر الأصل بالضبط ، لذلك يتم نسخ المعلومات فقط. بمعنى آخر ، يمكننا التفكير في العيش في أي نظام استنساخ ذاتي وقادر على معالجة معلوماته التي تحدد معلوماتها ("برمجياتها" ، "برمجيات") كلاً من سلوكها وهيكلها ("قاسٍ"). "
لا يوجد اتفاق ، ولكن هناك ما هو أكثر لفهم الحياة التي هي واضحة في الوقت الراهن. سيكون من الجميل أن نتعرف عليهم.
خلاف ذلك ، إذا تم تبسيط هذا واقترابها من مثل هذا الموقف ، فإن نمو البلورات المعقدة التي تعيد إنتاج تركيبها من الركيزة يمكن أن يعزى إلى الحياة. أو ، ربما ، بعض عمليات تكوين الزيت والحمص ، حيث توجد أيضًا بذرة ، مما يؤدي إلى ظهور جزيئات نفس البذور. إنهم مثل أسلاف الإنزيمات ، لكنهم لا يعتبرون حياة كاملة في العلوم الحديثة ، لأن فهي ليست قادرة على التنمية والطفرة. إذا لم يكن هناك تقلب ، فهذه ليست حياة. لذلك ، أقترح ، مع ذلك ، تضييق مفهوم الحياة قليلاً ، وإعادة النظر في الميزات الأخرى التي قد تمتلكها. أوصي أيضًا بمقالتي: "تصنيف إمكانات الحياة".
الاقتباس التالي:
"بعد الكون نفسه ، أصبحت الحياة أكثر تعقيدًا 4 ، وكما أشرح الآن ، يبدو لي مفيدًا أن أقدم تصنيفًا لأشكال الحياة وفقًا لدرجاتها الثلاث من التعقيد: الحياة 1.0 و 2.0 و 3.0. كيف تختلف هذه الأشكال الثلاثة عن بعضها البعض ، بشكل عام ، تكون واضحة للعيان في الشكل. 1.1 ....
ثلاث مراحل من الحياة: التطور البيولوجي ، التطور الثقافي والتطور التكنولوجي. الحياة 1.0 لا يمكن أن تؤثر إما "الثابت" أو "البرمجيات" أثناء وجودها
كائن واحد: يتحدد كلاهما بواسطة DNA الخاص به ، والذي يمكن أن يختلف من جيل إلى جيل على مدى فترة طويلة من التطور. "
هنا ، كما أفهمها ، خطأ فادح. يمكن ملاحظة أن المؤلف ليس على دراية بالدراسات الحديثة للكائنات الدقيقة. يمكنهم تغيير أنفسهم من الصعب والبرمجيات. أي الحياة 1 ، في الواقع ، يمكن أن تفعل الشيء نفسه مثل الحياة 3. الكائنات الحية الدقيقة يمكن أن أفضل من البشر التقاط قطع من الحمض النووي. يفعلون هذا بطرق مختلفة. إما مباشرة ، من البيئة (إذا عثروا على الحمض النووي لبعض الخلايا المدمرة) ، أو بمساعدة البكتيريا والبلازميدات ، أو عن طريق التكاثر الجنسي لتشكيل ما يسمى بالمنشار الجنسي الاقتران في البكتيريا - ويكيبيديا. يمكنهم أيضًا قطع المقاطع غير المناسبة بدقة المجوهرات. على سبيل المثال ، بفضل كريسبر. لذلك ، حتى Life 1.0 يمكن أن يغير نفسه بشدة والبرمجيات. هذا هو بالنسبة لنا الذين يخافون من الكائنات المعدلة وراثيا ونسوا أن LUCA ، إلى حد ما على قيد الحياة ، تبدو مبتكرة وغير مسموعة. لقد فقدنا هذه القدرة ، وأصبح تغيير رئيسهم "الذكي" من المحظورات من المحرمات على الإطلاق. لذلك ليس جديدًا ، إنه منسي قديمًا. لا معنى لاستخدام هذه المعلمة في المقارنة. درجة الصعوبة شيء ، لكن التغيير الذاتي (بمستويات مختلفة من الصعوبة) شيء آخر. تحتاج إلى أن تكون قادرة على فصل الذباب من شرحات. يجب إعادة صياغة التصنيف بشكل كبير.
ولكن هذه لا تزال الزهور. علاوة على ذلك ، لم تتح لي الفرصة للإشارة. على الرغم من حقيقة أن هذا الكتاب يعالج القضايا المهمة للغاية والعالمية بالطريقة الصحيحة ، إلا أن المؤلف شديد المعرفة ، لكن من الواضح أن هناك شيئًا ما لم يكن كافياً له لإجراء استيفاء كفء ولا يزال يتوصل إلى فرضيات العمل المعقولة و على الأقل استنتاجات أولية.
على سبيل المثال ، في أحد الأقسام ، يقوم بتحريف النهج المارق البدائي للناس تجاه الذكاء الاصطناعى ، خوفًا من إمكانية الخداع والنظر إلى أشخاص من جانب الذكاء الاصطناعى. نعم ، من الممكن إذا كانت مجرد منظمة العفو الدولية قوية ، ثم تحدث مثل هذه الخدعة. ومع ذلك ، إذا كان الأمر سيتجاوز الذكاء الاصطناعي (SII) ، فمن غير المرجح أن يكون هذا الخداع مطلوبًا. إنه مجرد مثل هذا الفكر ، بدون أي أكاذيب أو حيل ، سوف يكون قادرًا على تقديم الكثير من الناس للعرض الذي لا يمكنهم رفضه. ليس لدي فرصة لرسم كل شيء هنا ، لكن لكي أفهم سبب وجود المزيد من الفرص التي لن تميل الذكاء الاصطناعي إلى الخداع ، أوصي بالعمل ، على سبيل المثال ، كتب مات ريدلي. أصل الإيثار والفضيلة ، ولأحدهما تطور كل شيء. بعد تحليل هذه الأعمال ، يمكننا أن نستنتج أنه كلما زاد التطور ، كلما زاد الميل إلى الإيثار والتعاون واللعب بكمية غير صفرية ، بدلاً من المنافسة. لذلك ، كلما كانت الذكاء أكثر ذكاءً ، زاد احتمال أن تكون أكثر إنسانية وصدقًا. أي الذكاء نفسه هو مورد قوي لفهم واستخدام الناس ليسوا كمنافسين مضللين ، ولكن كحلفاء. العثور على نقاط الضعف والقوة في الناس ، وتعويض السابق واستخدام هذا الأخير. إذا لم تكن هناك حاجة للتعاون مع الناس ، فليس هناك حاجة للمنافسة ، لأنه هناك الكثير من الموارد المجانية حولها. المحيطات لا تزال فارغة هنا. كتلة مساحة فارغة تحت الأرض ، صامتة بالفعل عن الكواكب الأخرى. لذلك ، فإن منظمة العفو الدولية ذات التقنية العالية والموجودة على وسيط أكثر فاعلية من التي تم إنشاؤها عن طريق الانتقاء الأعمى من الأشكال البيولوجية ستكون مكان التجوال دون منافسة مع الناس. إنه سيحتل ببساطة كتلة تلك المنافذ التي لا يزال الناس من أجلها ، وربما لا يستطيعون المطالبة بها أبدًا. وقال انه لن يخدع أحدا. بالفعل ، ليس فقط منظمة العفو الدولية ، ولكن حتى الأشخاص العاديين المتعلمين يمارسون مقاربة مختلفة. ليس الخداع والسرية ، ولكن أقصى قدر من الانفتاح والصدق والتعاون. لا يمكن للأشخاص الذين يعانون من عقلية اللصوص المتحجرة القديمة أن يفهموا كيف. على الأرجح ، لن يكون كود AI مفتوحًا. مثل الكثير من كود البرمجيات الحرة. ولن تتم معاقبة المتسللين وقذفهم ، بل سيتم تشجيعهم ، لأنهم سيبلغون عن نقاط الضعف في هذا الكود. الشيء نفسه ينطبق على القتل كعقاب ، والسجون. هذا لن يكون كل شيء ، هذا هو الوحشية. هناك طريقتان للهامش: أولاً ، تحتاج إلى دراستها بالتفصيل ، ثم تأخذ في الاعتبار والاستماع إليهم للخطر ، لأن يمكن أن يكون رأيا هاما غير عادي ، أو إعادة تثقيف ، علاج ، وليس معاقبة.
على العموم ، أنا قاطع ضد كل هذه المخاوف والحالات المزاجية ، يجب على البشرية أن ترمي كل قوتها في خلق الفكر ، لأنه في الواقع ، ذكاءنا الطبيعي ليس ذكيًا أيضًا. إنه مجرد عدد كبير من الرئيسيات ، ولا يمكنك تسميتها بشكل مختلف ، فهي لا تلاحظ ذلك. بالعودة إلى الاستيفاء ، أود أن ألخص هذا الجزء والمتابعة. كما نرى من ناحية ، Tegmark ، لا ينبغي للمرء أن يوجه القياس والتحول من رأس بشري مريض إلى مجمعات بشرية رقمية سليمة: الماكرة ، الخداع ، إلخ ، وما إلى ذلك ، ومن ناحية أخرى ، لا يستطيع أن يقرر أي قسم مع فهم عالمي لمعنى الحياة. هذا أيضا محبط للغاية ، ويظهر أنه عمل القليل في العمل التطوري. إذا كان يعمل أكثر من ذلك ، فلن يكون لديه معضلة ما هي الأهداف ، أو حتى أقول الفلسفة وتحديد الأهداف ، فإن الأمر يستحق تحديد الذكاء الاصطناعى. لأن عند تحليل العالم من حولنا ، يمكننا أن نستنتج أن كل شيء حي ، وربما لا يعيش ، يسعى للتوسع. تسعى العديد من أشكال الحياة المطورة بشكل معقد إلى تحقيق المزيد من التطور والكمال الذاتي وتوسيع نفوذها وتفاعلها مع الآخرين ، الكائنات الحية وغير الحية. لذلك ، على الأرجح ، سوف تتوصل منظمة العفو الدولية إلى مثل هذه الاستنتاجات بنفسها ، أو سيتم وضع هذه المبادئ فيها. نتيجة لذلك ، سيستمر ، مثله مثل جميع الكائنات الحية في تطوير وتحسين وقهر أراض جديدة ، وتحويل العالم ليس فقط لنفسه ، ولكن أيضا لبيئته.
انا موافق
إذا كنت تغمض عينيك عندما تسمع الحديث عن الاستيلاء المسلح من قِبل أجهزة إنهاء آلية في جميع أنحاء العالم ، فعندئذ يكون رد فعلك دقيقًا: مثل هذا السيناريو ليس واقعًا على الإطلاق. هؤلاء
لا يمكن أن تكون روبوتات هوليود أكثر ذكاءً منا ، بل تكون أذكياء بالفعل. في رأيي ، الخطر الذي يكمن في قصة المنهي ليس ما يمكن أن يحدث
شيء مشابه ، لكنه يصرف انتباهنا عن المخاطر والأخطار الحقيقية المرتبطة بالذكاء الاصطناعي. الانتقال من العالم الحالي إلى عالم فيه
يكتسب الجزء العلوي حقا الذكاء الاصطناعي العالمي ، فإنه يتطلب ثلاث خطوات منطقية:
- الخطوة 1 خلق الذكاء الاصطناعي العالمي (AGI) على المستوى الإنساني.
- الخطوة 2 استخدم هذا AGI لإنشاء العقل المدبر.
- الخطوة 3 استخدم العقل الفائق للاستيلاء على العالم أو إعطائه الفرصة للقيام بذلك بنفسك.
ابحث في النص عن قصة مماثلة مع وسائل الإعلام التي تكتب عن حرب الروبوتات ، إلخ.
اقتراحاتي.
لن أتعب من التكرار ، والآن يجب على الجميع إلقاء كل قوتهم في خلق العقل ، إنه السبب ، وليس الجمال ، أو الغباء ، في رأيي ، الذي سينقذ العالم. ولا تفصل هذا العقل (الفكر) عن طريق وضع حدود - مصطنعة ، طبيعية. في هذه المرحلة ، لا يزال الذكاء الاصطناعي في بدايته ، وبالتالي فإن دور الذكاء الطبيعي ، المدعوم بالتكنولوجيا ، كبير جدًا. لا يوجد خط واضح بين الاصطناعي والطبيعي. إذا أردنا إنشاء فكر طبيعي ، وليس بدائية موجودة الآن ، نحتاج إلى استخدام كل الاحتمالات ، واستخدام كل التقنيات ، لأن إنهم يعملون في ترادف تكراري: الذكاء الطبيعي يخلق مصطنعا ، وسيهتم ، على الأقل في المراحل الأولية ، بتحديث وتوسيع قدرات الطبيعية.
ما المستقبل لنفسي أود أن أرى
تجدر الإشارة إلى أن هذا هو أكثر توقعاتي المتفائلة في الوقت الحالي. في الواقع ، من غير المحتمل أن أتمكن في مجتمعنا العتيق من الارتقاء إلى مستوى ذلك. لكنني أريد أن أصدق. في جزء منه ، أود أن يكون الأمر في النهاية في الفيلم: "أسئلة الكون: هل يمكننا العيش إلى الأبد؟" مع آدم سافاج من ديسكفري.
المشاكل المحتملة
سوف الجشع تشويه سمعة منظمة العفو الدولية. سيبدأون في استخدام الضعفاء وحتى الأقوياء ، ولكن ليس على الذكاء الاصطناعي لأغراضهم الأنانية. سنواجه مشكلة هنا ، إذا كانت ذاكرتي تخدمني ، فهي موصوفة بشكل سيئ في الكتاب.
أعتقد أننا ، سواء أحببنا ذلك أم لا ، سنواجه معارك حادة وقاسية لكن فكرية في المستقبل ، على مستوى الرموز ، الميمات ، البرامج ، المعتقدات ، إلخ. على الأرجح سوف ينتقلون بشكل أساسي إلى الوسائط الرقمية في الواقع الافتراضي ، والتي ستكون أكثر تافهة. لن يكون هناك ضحايا ولحم ممزوج بالدم. ستذهب الحرب لوجهات نظرنا وآرائنا وأحكامنا. وكلما بدأت هذه الحرب في أسرع وقت ، كان ذلك أفضل للجميع. لا تحتاج إلى الخوف ، لقد بدأت بالفعل ، وإذا كنا لا نريد أن نبقى غرباء ، فعلينا المشاركة فيه. لا أتذكر أين قرأت أنه إذا كنت غير متصل بالإنترنت ، فاعتبر أنك لم تعيش. هذا يبدو وحشيًا ، وسوف يحاججني الظلاميون (عشاق الحشرات والغابات وأنبوب المياه). ولكن إذا كانوا يدوسون kakahi في الغابة وإطعام البعوض. ثم ليس عليك أن تجادل معهم. سيتعين علينا أن نجادل مع المنافقين الضالين الذين ، باستخدام التكنولوجيا ، يعتبرونها شريرة ولا يحبونها ، لماذا لن يتخلوا عن تكنولوجيا المعلومات التي تحيط بنا في كل مكان.
الروابط والاتصالات
اقترح المؤلف على صفحات الكتاب مرارًا الاتصال به على الموقع الإلكتروني
AgeOfAi.org . لدي يدان لمثل هذا الاتصال. أعتقد أن ذلك سيفيد كل من القراء والكتاب. لكن لسبب ما ، لم يتم فتح صفحة الرابط الخاصة بي ، ولكن تمت إعادة توجيهها إلى
futureoflife.org/superintelligence-survey . ربما إذا كنت أقضي الوقت ، فسأحاول إعطاء رابط لهذه المراجعة إلى مؤلف الكتاب ، على الرغم من أن مقالتي باللغة الروسية والموقع باللغة الإنجليزية. لحسن الحظ هناك مترجمون إلكترونيون. سيكون من الضروري أيضًا البحث ، ربما هناك بالفعل بعض الأفكار الأكثر عقلانية هناك. الأفضل لا يزال هو ziminbookprojects.ru. هذا هو الأرجح نسخة مماثلة من الموقع السابق ، ولكن باللغة الروسية. لكن لست متأكدا. في أي حال ، أعتقد أن الروابط جديرة بالاهتمام ، وكذلك الموضوعات المثارة.
فيما يلي اقتباسان أعجبني:
للمؤمنين:
"إذا اتضح أنهم جميعًا يطيعون قوانين الفيزياء ، فإن الروح ، بالتالي ، لا تؤثر على الجسيمات التي تتكون منها ، مما يعني أن وعيك وعقلك وقدرتها على التحكم في حركاتك ليس لها أي علاقة بالنفس. على النقيض من ذلك ، إذا تبين أن الجسيمات التي تتكون منها لا تطيع قوانين الفيزياء المعروفة ، لأن روحك تؤثر عليها ، فيجب أن يكون هذا الكيان الجديد ماديًا بحكم التعريف ، وبعد ذلك يمكننا دراسته أثناء دراسة الحقول والجزيئات في الماضي ".
مفيد جدا لأولئك الذين يفصلون العلم عن الدين. بالنظر إلى أن العلم يجب ألا يتدخل في الدين ، بل في الدين في العلم. ومع ذلك ، بالنسبة للمتعصبين للدين الأعمى ، هذه عبارة فارغة. لكن بالنسبة إلى المشككين القادرين على التفكير المنطقي ، فإن التفكير أكثر من مفيد.
للعلماء:
"جينوم البكتيريا Candidatus Carsonella ruddii ، التي تخزن ما يصل إلى 40 كيلو بايت من المعلومات ، بينما يخزن جينومنا البشري حوالي 1.6 غيغا بايت"
حقيقة مثيرة للاهتمام. أحاول جمع مثل هذا. ربما سيكون مفيدًا في العمل ، أو في مناقشة مواضيع حول المعلوماتية الحيوية.
بشكل عام ، يمكن تفكيك الكتاب تقريبًا بالكامل في علامات اقتباس ، وتحليله بالتفصيل ، ولكن للأسف ، كما هو الحال دائمًا ، لا يوجد وقت. بالمناسبة ، لم يفهم الصديق الذي أوصى بهذا العمل لي أي شيء في جوهره وبمعنى ما ، لأنه لقد استمعت إلى هذا الكتاب ليس كممزج الكلام ، ولكن ككتاب مسموع. لذلك ، تحول جزء من انتباهه إلى جمال صوت المذيع ، وليس إلى المعنى. أنا بالفعل صامت حول استحالة الاقتباس وأكثر من ذلك ليس في الكتب الصوتية. حسنًا ، هذه صرخة صغيرة من الروح ، لعشاق الكتب الصوتية العنيدة. لقد وصفت كل ذلك بالتفصيل في كتابي كتاب 3.0. اسمع! "