مؤتمر DEFCON 25. غاري كاسباروف. "المعركة الأخيرة من الدماغ." الجزء 1أعتقد أن المشكلة ليست في أن الآلات ستحل محل شخص في مكان عمله ، بما في ذلك في مجال النشاط الفكري ، وليس أن أجهزة الكمبيوتر تحمل السلاح ضد أشخاص من ذوي التعليم العالي وحساب Twitter. إدخال الذكاء الاصطناعي ليس سريعًا على الإطلاق ، ولكنه بطيء جدًا. لماذا؟ لأن هذه دورة طبيعية للتنمية البشرية ، ونحن ببساطة لا ندرك أن التدمير الذي نراه يعني إدخال تكنولوجيا جديدة ، والتي ، قبل إنشاء وظائف جديدة ، تدمر القديمة.
التكنولوجيا تدمر صناعات عفا عليها الزمن وتخلق صناعات جديدة ، مثل عملية الخلق ، مثل دورة التطوير. إذا حاولت سحب المعاناة عن طريق إدخال التقنيات القديمة في هذه العملية أو إنشاء بعض المزايا للتقنيات القديمة ، فسوف تبطئ العملية ببساطة وتجعلها أكثر إيلامًا. سوف يحدث هذا على أي حال ، لكن المشكلة هي أننا "ننظم" العملية ، وننشئ قواعد تبطئ من قصدها. أنا أعتبر هذه مشكلة أكبر من تلك التي ندركها بشكل أوضح. هذه مشكلة نفسية عندما يسأل الناس أنفسهم: "كيف تشعر بالأمان في مركبة بدون طيار"؟
نظرت إلى التاريخ وعلمت أنه قبل مائة عام ، كانت واحدة من أقوى النقابات في نيويورك هي نقابة المصاعد ، التي تضم 17 ألف عامل. بالمناسبة ، في ذلك الوقت كانت هناك تقنية بالفعل عندما يمكنك فقط الضغط على زر - لقد انتهيت ، لكن الناس لم يثقوا بها! إنه أمر فظيع - اضغط على الزر بنفسك للاتصال بالمصعد! هل تعرف لماذا "توفي" هذا الاتحاد وبدأ الناس في استخدام الأزرار بأنفسهم؟ لأنه بمجرد أن يقرر المصاعدون الإضراب. لقد أضربوا ، ثم خاطر الأشخاص الذين احتاجوا إلى الصعود إلى قمة مبنى إمباير ستيت بممارسة الضغط على أنفسهم.
تذكر ما قالوه عن الأطفال أو الأحفاد قبل 20 إلى 30 عامًا عندما دخلوا خلف عجلة سيارة: "هذا أمر فظيع ، نظرتم فقط إلى الإحصائيات ، لأن السيارات هي أحد الأسباب الرئيسية لموت البشر ، كيف يمكنهم المخاطرة بحياتهم؟"
لذلك ، كل هذا هو علم النفس النقي. من الناحية العملية ، لا ننتبه إلى عدد الأشخاص الذين يموتون في حوادث السيارات ، ولكن إذا مات شخص واحد من مركبة بدون طيار ، فإن هذا الحدث يتضخم إلى السماء. أي خلل ، أي خطأ في تقنيات الذكاء الاصطناعي يتم تغطيته مباشرة على الصفحات الأولى من الصحف. لكن انظر إلى الإحصائيات ، وانظر إلى عدد الحوادث ، وسترى مقدار هذه النسبة الضئيلة من إجمالي عدد الحوادث. لذلك ، لن ينتصر المجتمع البشري إلا إذا استطاع أن يتحرك إلى الأمام دون أن يصاب بالشلل بسبب هذه المخاوف.
يطرح سؤال آخر عندما نتحدث عن أخبار مزيفة أو الأمن السيبراني ، فهذه مواضيع مسيّسة للغاية ، وأحصل على الكثير من المكالمات يسألني كيف أتعامل مع كارهي الذكاء الاصطناعى. على سبيل المثال ، لدي مدونة عادية ، وفي مقالتي الجديدة ، التي سيتم نشرها في غضون يومين ، يتعلق الأمر بالكراهية وأن الخلاص من الكراهية يتكون في المعرفة والتدريب. نحتاج فقط إلى فهم أن هذه المشكلة كانت موجودة قبل وقت طويل من اختراع كل هذه الأشياء ، إنها فقط زادت أهميتها بفضل الإنترنت ، الذي يغطي ملايين ومليارات الأشخاص.
أعتقد أن الأمر عكس ذلك عندما يحاول شخص ما إيقاف التقدم من خلال محاولة تحريم منظمة العفو الدولية ، وأنت تعلم أن ذلك لن ينجح ، لأن لدينا بوتين وغيره من الأشرار ، أينما كانوا ، يستخدمون تقنياتنا الخاصة التي تم إنشاؤها في العالم الحر ضدنا. لذلك ، أعتقد أننا يجب أن نعتبر ذلك أمرا مفروغا منه.
جوهر المشكلة يكمن فينا فقط ، والإجابات على الأسئلة هي في داخلنا ، في قوتنا وثقتنا الخاصة. أنا أزعم أن الآلات الذكية لا يمكن أن تجعلنا "عفا عليها الزمن". ومع ذلك ، يجب أن نتذكر أن هناك بعض القيود المفروضة على تعاون الإنسان والكمبيوتر ، وإلى حد كبير هذه مجرد شائعات كانت موجودة من قبل. كما هو الحال دائمًا ، هذه مجرد فرص جديدة تدمر العالم القديم وتخلق عالمًا جديدًا ، وكلما تقدمنا للأمام ، كلما وجدنا أنفسنا أفضل.
الآن ، تشبه إلى حد بعيد حركة في عالم الخيال العلمي. المفارقة هي أنه إذا عدنا إلى الوراء قبل 50-60 عامًا ، فسوف نرى أنه في تلك الأيام كان الخيال العلمي إيجابيًا تمامًا ، فقد كان يوتوبيا. ومع ذلك ، فقد حدث انتقال تدريجي من اليوتوبيا إلى عسر الهضم ، بحيث لم نعد نريد أن نسمع أي شيء عن مستقبل البشرية.
هذا لم يحدث في ليلة واحدة. كان هناك وقت عندما قرر الناس أن استكشاف الفضاء كان مخاطرة كبيرة. هذا خطر كبير حقًا ، لكن تخيل أنه في عام 1969 ، عندما هبط الأمريكيون على سطح القمر ، كانت كل القوة الحاسوبية لناسا أقل من قوة أي جهاز كمبيوتر حديث يناسب في جيبك. هذا الجهاز أقوى ألف مرة من جهاز الكمبيوتر العملاق الذي كان موجودًا قبل 40 عامًا. فقط تخيل مقدار قوة الحوسبة التي تحملها في جيبك! ومع ذلك ، لست متأكدًا من أن Apple iPhone 7 لديه نفس قوة المعالجة التي كان لدى Apollo 7 ، أي أنها يمكن أن تنتج نفس التأثير.
ومع ذلك ، فقد زودتنا الآلات بالعديد من الإنجازات العظيمة في استكشاف الفضاء أو المحيطات ، ويجب أن نفهم أن أجهزة الكمبيوتر توفر لنا الفرصة لتحمل مخاطر كبيرة.
أود أن أنهي كلامي بنبرة إيجابية. أليس هذه الصورة الإيجابية معروضة على هذه الشريحة؟ الصورة في الزاوية اليمنى السفلى ليست "فوتوشوب" ، لقد التقيت بالفعل مع المنهي في عام 2003.
كما أنه يحب لعبة الشطرنج منذ الطفولة ، لكنه لم يتعامل معها بشكل خاص ، لذلك فقد بسرعة كبيرة. لذلك ، فوجئت للغاية ، بعد 6 أشهر ، بالترشح لمنصب حاكم كاليفورنيا وفاز!
لماذا أسمي هذه الصور إيجابية؟ لأنه على الرغم من أنه في جميع المسلسلات باستثناء السلسلة الأولى ، يقف أرنولد القديم دائمًا إلى جانب الفائزين ولا يتعب أبدًا من القتال ضد السيارات الجديدة ، ولكن في المجموعة الأولى نرى المجموعة التي تحدثت عنها - وهذا هو عندما يهزم شخص بالإضافة إلى جهاز قديم بالإضافة إلى واجهة مثالية الأحدث سيارة.
يمكنك أن تقول: "نعم ، الآلات أقوى من الناس ، لأنها يمكن أن تحسب كل شيء على الإطلاق!" ومع ذلك ، فإن النقطة ليست أنها يمكن أن تحسب كل شيء. على سبيل المثال ، في لعبة الشطرنج ، من الممكن تقنيًا التحدث عن اللانهاية الرياضية لعدد الحركات الممكنة التي تساوي 10 ^ 45 ، والتي ليس من الصعب حسابها لأي كمبيوتر حديث. ومع ذلك ، في اللعبة ، ليست الحسابات المهمة ، بل حقيقة أن الكمبيوتر متقدم على الشخص ، لأنه يسترشد دائمًا بالقواعد. وأنت تعرف تأثير هذه القواعد وتعرف لماذا يختار الكمبيوتر أفضل حركة من العدد الهائل من التحركات المحتملة.
ولكن إذا تحولنا إلى واقع حقيقي ، فأنا لست متأكدًا من أن الكمبيوتر يمكن أن يكون مفيدًا دائمًا. دعونا نلقي نظرة على الوضع الأكثر نموذجية - لديك جهاز كمبيوتر يراقب الامتثال للميزانية ، وأنت في المتجر وستشتري هدية غالية الثمن. يقيم الكمبيوتر عملية الشراء ويقول: "لا ، لا يمكنك تحمل تكلفة هذا الشيء لأنك تتجاوز الميزانية". قام الجهاز بحساب كل شيء ، ولكن هناك فارق بسيط - طفلك يقف في مكان قريب ، وهذه الهدية مخصصة له في عيد ميلاده. هل ترى كم هذا يغير ظروف المشكلة؟ هذا يغير كل شيء ، لأن الطفل ينتظر هذه الهدية.
يمكنني البدء في إضافة هذه الأشياء الصغيرة التي تغير كل شيء ، لكنني لا أعتقد أنه يمكن تضمينها في ظروف المشكلة والحصول على الحل الصحيح. لدينا الكثير من القواعد ، لكن لا يزال يتعين علينا طرح الأسئلة لأن الوضع يتغير. هذا ما يمكن أن يُطلق عليه الوضع الطبيعي ، لكن إذا نظرت إلى هذه الأفلام ، يمكنك القول أن الموقف الموضح هنا أكثر دراماتيكية وغير عادي. في هذه الشريحة ، ترى لقطة من حلقة V Star Wars: The Empire Strikes Back.
يوجه Han Solo السفينة مباشرة عبر حقل الكويكب ، ويبلغ ذعر S-3PO أن فرصة البقاء على قيد الحياة في هذا الحقل هي 1: 3122. يقول له Han Solo: "لا تخبرني أبدًا عن فرصنا!" هذا يطرح السؤال ، من هو الأكثر صوابًا في هذه الحالة؟
تعتبر التقنية التي يمثلها S-3PO مناسبة تمامًا ، لأن فرصة البقاء على قيد الحياة تميل إلى الصفر. من الممكن أن يكون الاستيلاء على أيدي القوات الإمبريالية من وجهة نظر الروبوت اختيارًا أفضل حتى لا يفكر فيه الشخص حتى من الموت في حقل الكويكب. ولكن إذا قرر الكمبيوتر أن الاستسلام للإمبراطورية هو الخيار الأفضل ، فيمكننا افتراض أن الشخص ليس لديه خيارات على الإطلاق. من المهم للغاية أنه في كلتا الحالتين ، العادية وغير العادية ، لدينا الفرصة لاتخاذ القرار النهائي ، واتخاذ مثل هذا القرار ، لا تزال هناك حاجة إلى القيادة البشرية.
هذا يعني في بعض الأحيان أنه يتعين عليك معارضة توصيات الكمبيوتر. إن معنى القيادة الإنسانية ليس معرفة الاحتمالات ، بل طرح أسئلة مهمة حقًا ، ليس اليوم أو غدًا فقط ، ولكن في المستقبل البعيد. يمكن أن تسمى هذه العملية "التوجيه الإنساني" أو "التدخل البشري" ، والتعرض دون مساعدة من الأجهزة الذكية. هذا هو ما ينبغي أن يكون مسارنا في هذا القرن.
يفاجأ الناس أحيانًا بتفاؤلي بشأن الآلات الذكية ، نظرًا لتجربتي معهم ، لكنني متفائل حقًا. وأنا متأكد من أنكم جميعًا متفائلون بنفس القدر بشأن مستقبل الذكاء الاصطناعي. ولكن يجب أن نتذكر أن تقنياتنا غير ملائمة. هذا ليس جيدًا أو سيئًا ، ولكن يمكن استخدامه في الأعمال الصالحة وللشر. يجب أن تصبح الآلات أكثر ذكاءً وقدرة. ويجب علينا ، نحن الأشخاص ، أن نفعل ما يمكن للناس فقط القيام به - الحلم ، الحلم إلى أقصى حد ، وبعد ذلك يمكننا استخراج جميع الأشياء المفيدة التي تحملها هذه الأدوات الجديدة المدهشة بأنفسهم.
كما هو مخطط ، لا يزال أمامنا 10 دقائق للإجابة على الأسئلة.
سؤال: برأيك ، هل من الممكن إنشاء نظام تعليمي آلي يمكنه تحديد أي التحركات أكثر انسجامًا مع الأسلوب الإنساني للعبة؟
كاسباروف: بادئ ذي بدء ، لا نتوقع من الكمبيوتر أن يخبرنا الخطوة الأولى وتحركات 17505 المتبقية. أعتقد أننا يجب أن نعتمد على السيارة كمصدر للحصول على أفضل التوصيات للحركات الفريدة. بالمناسبة ، يستخدم اللاعبون من الدرجة الأولى أجهزة الكمبيوتر كدليل لمساعدتهم على اتخاذ الموقف الأنسب في اللعبة. أكرر مرة أخرى - في 9 حالات من أصل 10 ، يتجاوز تقييم الوضع بواسطة الكمبيوتر بكثير التقييم الذي يمكن للشخص القيام به.
سؤال: هل توافق على أن الذكاء الحقيقي يتطلب حرية الاختيار ، وحرية صنع القرار ، والتي لا يمكن صنعها إلا من قبل شخص؟ بعد كل شيء ، يتم كتابة برنامج Deep Blue وبرامج الكمبيوتر الأخرى بواسطة أشخاص ، وعندما تلعب Deep Blue ، فإنك لا تخسر الكمبيوتر ، ولكن للمبرمجين الذين كتبوا هذا البرنامج. سؤالي هو: هل هناك أي خطر من أي نوع من الذكاء الآلي طالما أن أجهزة الكمبيوتر تتمتع بحرية الاختيار؟
كاسباروف: هنا يجب أن أنتقل من العلم إلى الفلسفة. فيما يتعلق ديب بلو ، كل شيء واضح - وهذا هو نتيجة لكثير من العمل البشري. في معظم الحالات ، حتى في حالة AlphaGo Demis Hassabis ، فهذه كلها ثمار الذكاء البشري. لا أعرف ما إذا كان يمكن أن تتمتع السيارات بحرية الاختيار ، لكنني أعتقد أن كل ما نفعله ، إذا عرفنا كيف نفعل ذلك ، فإن السيارات ستعمل بشكل أفضل. ومع ذلك ، فإننا نقوم بمعظم الأشياء ، لا نعرف كيفية القيام بها بأفضل طريقة ، لذلك لا يمكننا في الغالب فهم ما سيحدث. ببساطة ، لدينا هدف ، لكننا لا نعرف ما هو عليه ، ودور الجهاز هو مساعدتنا في تحقيق هذا الهدف. لذلك ، إذا تحدثنا عن الاختيار المجاني لأجهزة الكمبيوتر ، فيجب أن يساعدنا في ربطنا بهذا الهدف. أعتقد أن هذا احتمال بعيد للغاية بالنسبة لأجهزة الكمبيوتر.
سؤال: ما رأيك في الخصائص الإنسانية مثل الشجاعة والأخلاق ، والقرارات التي يمكن أن يتخذها الذكاء الاصطناعي بناءً عليها؟ على سبيل المثال ، ما الذي يجب على سيارة بدون طيار القيام به - الصعود إلى طفل أو تجنب الاصطدام به ، تصطدم بحجر وقتل راكبه؟
كاسباروف: هذا ما يسميه الناس "مشاعر" ، ولا يمكن قياسها كمياً ، لأنها مجموعة كاملة من الخصائص البشرية المختلفة. إذا كنا نتحدث عن الشجاعة ، فإن هذه الخاصية تتعارض دائمًا مع فرص اختيار الخيار الأفضل. الشجاعة ، شأنها شأن المشاعر الإنسانية الأخرى ، بحكم التعريف تتناقض مع العد الدقيق.
سؤال: السيد كاسباروف ، سؤالي لا يتعلق بأجهزة الكمبيوتر: ما هو في قارورة الخاص بك ويمكن أن أجربه؟
كاسباروف: ماذا تقصد؟
المضيف: يسأل ما هو في جيبك!
كاسباروف: في جيبي؟ "رأس المال"! هذا ليس إعلانًا ، إذا لاحظت ، فقد رميته بعيدًا.
سؤال: من سيكون برأيك بطل العالم المقبل في لعبة الشطرنج وهل لدى لاعب الشطرنج الصيني الشاب وي يي فرصة لإسقاط كارلسن من عرش ملك الشطرنج؟
كاسباروف: كارلسن هو اللاعب رقم 1 ، إنه ليس بطل العالم ، لكنه ببساطة أفضل لاعب شطرنج في العالم حسب التصنيف. في هذا العام ، سيكون عمره 27 عامًا ، لذا فهو لا يزال شابًا ، لكنه ليس شابًا جدًا وفق المعايير الحديثة. أعتقد وي والآن الآن 18 أو 19 سنة. لقد تفوق ماغنوس على اللاعبين الشباب مثل الأمريكيين ويسلي سو وفابيانو كيروانا ، وربما كان وي يي هو خصمه. ومع ذلك ، لكي تصبح بطلاً للعالم ، هناك حاجة إلى الموهبة ، فليس من الضروري أن تكون شابًا وحيويًا ، يكفي أن يكون لديك القليل من الحظ. إذن ، للإجابة على السؤال ، يمكنني القول - نعم ، لديه فرصة لهزيمة ماغنوس كارلسن.
سؤال: عندما تحدثت عن الخوارزميات الحتمية والتعلم الآلي ، ذكرت إمكانية استخدام الآلات كأدوات لتكملة ذكائنا. ماذا يمكنك أن تقول عن إمكانية تعظيم الموارد قبل إنشاء الذكاء الاصطناعى القوي ، أو حتى عن "وضع" العقل البشري في جهاز الكمبيوتر؟
كاسباروف: لا أتردد في الاعتراف بجهلي عندما لا أكون متأكدًا من أنني غير قادر على الإجابة عن السؤال بشكل صحيح. أبذل قصارى جهدي لفهم ماهية الدماغ البشري ، إذا نظرنا إليه بشكل منفصل عن جسم الإنسان ، ما هي الوظائف التي يؤديها. لأنه من الصعب تخيل كيف سيتصرف الدماغ بشكل منفصل عن الجسم. قد يكون من الممكن إجراء مثل هذه التجربة في المستقبل ، لكنني متأكد من أن الجمع بين الدماغ البشري ، والمشاعر الإنسانية والعواطف مع جهاز كمبيوتر سيشكل "عقلًا" سيكون أكثر فاعلية بكثير من الدماغ المستخرج والمجمد المستخدم كأداة مليئة بالخلايا العصبية.
سؤال: هل هناك نهج أساسي عالمي لمشكلة استبدال الوظائف البشرية بأجهزة الكمبيوتر؟
كاسباروف: أعتقد أن هذا سؤال مهم للغاية ، لأنه من الواضح أننا نقترب من اللحظة التي يمكن فيها ترك الكثير من الناس بدون عمل. هذه مفارقة للتقدم التكنولوجي: من ناحية ، لدينا أحدث التقنيات التي توفر مزايا تنافسية هائلة للجيل الشاب الذي يتعامل مع هذه الأجهزة والتقنيات. من ناحية أخرى ، أحرزنا تقدماً في الطب والتغذية الصحية ، مما يطيل من عمر الإنسان ويمنح الناس القدرة على العمل لسنوات عديدة. وبهذا المعنى ، لا يمكن لجيل الخمسينيات أو الستينيات أو حتى الأربعينيات التنافس مع شباب اليوم. يجب أن نجد حلاً لهذا الموقف المتناقض حيث الفجوة بين الأجيال واسعة للغاية. تقول التجربة التاريخية أن هذه الفجوة تؤدي دائمًا إلى انفجار كبير. أعني الفجوة بين البنية التحتية الاجتماعية الحالية للمجتمع والتقدم التكنولوجي.
هذه مشكلة يفضل السياسيون تأجيلها حتى الانتخابات القادمة. لا أحد يريد أن يتحدث عن هذا لأنه مشكلة مؤلمة. من السهل للغاية طباعة النقود ، على أمل أن يدفع شخص ما مقابل ذلك في وقت ما في المستقبل. لذلك ، هناك العديد من المفارقات في هذا المجال ، على سبيل المثال ، تراكم الديون لتوفير الضمانات الاجتماعية للجيل الأكبر سنا على أمل أن يقع عبء سداد هذه الديون على عاتق الجيل الشاب. هناك العديد من الأسئلة التي ليس لدي إجابات عليها ، والعديد من الأسئلة التي يمكنني طرحها ، آمل أن يساعدني الذكاء الاصطناعى في هذا الأمر.
إنه لأمر سيء للغاية أن السياسيين كانوا يحاولون لعقود من الزمن تجاهل المشاكل التي ناقشناها للتو. إنهم دائمًا جاهزون للبيانات ، ولديهم دائمًا خطط ، لكنهم لا يريدون أن يفهموا القدرة المضادة للإنتاجية المتمثلة في تفاقم مشكلة تعارض التكنولوجيا والمجتمع. شكرا لاهتمامكم!
شكرا لك على البقاء معنا. هل تحب مقالاتنا؟ تريد أن ترى المزيد من المواد المثيرة للاهتمام؟ ادعمنا عن طريق تقديم طلب أو التوصية به لأصدقائك ،
خصم 30٪ لمستخدمي Habr على تناظرية فريدة من خوادم الدخول التي اخترعناها لك: الحقيقة الكاملة حول VPS (KVM) E5-2650 v4 (6 Cores) 10GB DDR4 240GB SSD 1 جيجابت في الثانية من 20 $ أو كيفية تقسيم الخادم؟ (تتوفر خيارات مع RAID1 و RAID10 ، ما يصل إلى 24 مركزًا وما يصل إلى 40 جيجابايت من ذاكرة DDR4).
ديل R730xd 2 مرات أرخص؟ فقط لدينا
2 من Intel TetraDeca-Core Xeon 2x E5-2697v3 2.6 جيجا هرتز 14 جيجا بايت 64 جيجا بايت DDR4 4 × 960 جيجا بايت SSD 1 جيجابت في الثانية 100 TV من 199 دولار في هولندا! Dell R420 - 2x E5-2430 سعة 2 جيجا هرتز 6 جيجا بايت 128 جيجا بايت ذاكرة DDR3 2x960GB SSD بسرعة 1 جيجابت في الثانية 100 تيرابايت - من 99 دولارًا! اقرأ عن
كيفية بناء البنية التحتية فئة باستخدام خوادم V4 R730xd E5-2650d تكلف 9000 يورو عن بنس واحد؟