توضيحهناك العديد من الأفلام وكتب الخيال العلمي التي اكتسب فيها نظام الكمبيوتر الوعي وخدع مبدعيه البشريين. هل هذا ممكن في الواقع؟ حتى الآن ، لا يوجد سبب يدعو للقلق.
لقد
تأثرنا ببرامج AlphaGo و
Libratus ، ونجاحات الروبوتات بوسطن ديناميكس ، ولكن جميع الإنجازات المعروفة تتعلق فقط بالمناطق الضيقة ولا تزال بعيدة عن التوزيع الجماعي. في الحياة اليومية ، يتفاعل الناس مع مساعدين فكريين زائفين (Siri و Okay و Google و Amazon Alexa) ، لا يدعي كل منهم أنه غار لبرنامج "ذكي" حقًا.
ومع ذلك ، فإن التقدم في تصميم الذكاء الاصطناعي مثير للإعجاب حقًا. وكلما اقترب اليوم الذي يصبح فيه الذكاء الاصطناعي أداة كاملة للتأثير على العمليات الاجتماعية ، تتراكم المزيد من الأخطاء التي تشير إلى إمكانية التحايل على "
القوانين الثلاثة للروبوتات " الافتراضية.
أطروحة "كلما كان النظام أكثر تعقيدًا - كلما زادت الثغرات والأخطاء فيه" ترتبط مباشرة بمشاكل الذكاء الاصطناعي.
عندما أصبح الخوف عينين
يقول مثل روسي حكيم إن الخطر يُعرض على المتخوفين في كل مكان. إن جذور الخوف من الحياة الاصطناعية متجذرة في نماذج الرعب التي تعود إلى قرون. حتى قبل قصص فيكتور فرانكنشتاين وحكايات الزومبي ، كانت هناك معتقدات حول الجولم ، المخلوقات ، متحركة من الطين من قبل السحرة القبليين.
الخوف من الجديد (والأحياء) أمر طبيعي بالنسبة للشخص. في عام 1978 ، ظهرت
فرضية مفادها أن الروبوت أو أي شيء آخر يبدو أو يتصرف مثل كائن بشري (ولكن ليس تمامًا مثل كائن حقيقي) يسبب العداء والاشمئزاز بين المراقبين البشريين. سجلت الفرضية التجربة فقط: إن الزومبي أمامك ، أو golem أو مساعد الروبوت ، ليس مهمًا للغاية - سوف تعامل الجميع بنفس الحذر.
الروبوتات الشبيهة بالإنسان ليست سوى الطبقة العليا من المشكلة. لا يخفي إيلون موسك وبيل جيتس وستيفن هوكينج ومئات الخبراء في مجال الروبوتات والفيزياء والاقتصاد والفلسفة مخاوفهم من العواقب السلبية على البشرية من الأنظمة الذكية في المستقبل.
نحن نحب دغدغة أعصابنا - فليس من المعروف أن امتياز Terminator يحظى بشعبية كبيرة. وكم عدد الذكاء الاصطناعي "الضار" في الأفلام والكتب الأخرى. من الصعب تمييز ما إذا كان هذا هو وعينا اللاوعي على الثقافة ، أو ما إذا كان الإعلام يؤثر على المجتمع.
نمو متفجر في "المحيط الأزرق"
تجادل الاستراتيجية الاقتصادية
للمحيطات الزرقاء بأن الشركات التي ترغب في النجاح لا يتعين عليها محاربة المنافسين ، ولكنها تخلق "محيطات" للأسواق غير التنافسية. تسمح لك هذه القرارات الاستراتيجية بالحصول على مزايا إضافية على الفور للشركة وعملائها وموظفيها - من خلال البحث عن طلب جديد وجعل المنافسة غير ضرورية.
لسنوات عديدة ، ظلت منظمة العفو الدولية مثل هذا "المحيط". فهم الجميع أنه حتى الذكاء الاصطناعي الضعيف سيتحول إلى أداة قوية لأي شركة ، مما يزيد من جودة أي منتجات وخدمات. ولكن لا أحد يعرف بالضبط ما يجب القيام به. تميز "فصل الشتاء" للذكاء الاصطناعي ، الذي استمر من
عام 1973 حتى يومنا هذا ، بالركود التام في تصميم الآلات "الذكية".
لمدة ثلاثين عامًا ، كان أهم إنجاز للذكاء الاصطناعي هو انتصار جهاز كمبيوتر آي بي إم في اللعبة ضد بطل الشطرنج العالمي - وهو حدث لا يؤثر بشكل كبير على الحياة اليومية لأي شخص (باستثناء غاري كاسباروف). ومع ذلك ، في عام 2010 ، حدث شيء مماثل لتطوير الأسلحة النووية - تلقت الشبكات العصبية الموجة الثانية من التطوير.
حقيقة مذهلة: ظل العلماء دون نجاح كبير يطورون شبكات عصبية اصطناعية لأكثر من 70 عامًا. ولكن بحلول عام 2015 ، بدأ النمو الهائل في هذه المنطقة ، والذي يستمر حتى يومنا هذا. في نفس الوقت حدث هذا:
- وصل "الحديد" إلى المستوى المطلوب - جعلت بطاقات الفيديو الحديثة من الممكن تدريب الشبكات العصبية أسرع مئات المرات ؛
- ظهرت صفائف كبيرة ويمكن الوصول إليها بشكل عام من البيانات المختلفة التي يمكنك تعلمها (مجموعات البيانات) ؛
- خلقت جهود الشركات المختلفة كلاً من طرق التدريس الجديدة وأنواعًا جديدة من الشبكات العصبية (على سبيل المثال ، شيء رائع مثل شبكة تنافسية تنافسية ) ؛
- بفضل العديد من الأبحاث العلمية المفتوحة ، ظهرت شبكات عصبية جاهزة ومدرَّبة مسبقًا ، والتي يمكن على أساسها تقديم تطبيقاتها بسرعة.
من المثير للاهتمام مراقبة نجاحات الذكاء الاصطناعي ليس حتى مع المثال الكلاسيكي لمعالجة الصور (وهو ما تفعله الشبكات العصبية بشكل أساسي) ، ولكن في مجال المركبات غير المأهولة. ستندهش ، لكن الانبهار بالمركبات "ذاتية الدفع"
بدأ منذ 100 عام تقريبًا : في عام 1926 ، جرت أول محاولة للتحكم عن بُعد في الماكينة كجزء من مشروع Phantom Car.
طائرة بدون طيار الأسطورية Navlab 5ظهرت أولى المركبات غير المأهولة في الثمانينيات: في عام 1984 ، مشروع
نافلاب من جامعة كارنيجي ميلون و ALM ، وفي عام 1987 ،
مشروع مرسيدس بنز
ومشروع يوريكا بروميثيوس من الجامعة العسكرية في ميونيخ. Navlab 5 ، التي اكتملت في عام 1995 ، كانت أول سيارة تسافر بشكل مستقل من ساحل أمريكي إلى آخر.
حتى ازدهار الشبكات العصبية ، ظلت السيارات ذاتية القيادة مشاريع معملية عانت من عدم موثوقية البرامج. سمحت التطورات في معالجة الصور للآلات "بفهم" ما تراه حولها وتقييم حالة حركة المرور في الوقت الحقيقي.
قد لا تتضمن برامج المركبات غير المأهولة رؤية الماكينة والشبكات العصبية ، ولكن مع التدريب العميق ، تم إحراز تقدم ، وهو أمر بالغ الأهمية حاليًا لنجاح الطائرات بدون طيار.
في "المحيط الأزرق" أصبحت فجأة مزدحمة. حاليا ، يتم تصنيع طائرات بدون طيار من قبل جنرال موتورز ، فولكسفاغن ، أودي ، بي ام دبليو ، فولفو ، نيسان ، جوجل (و وايمو تحت رعاية Google) ، تسلا ، ياندكس ، UBER ، Cognitive Technologies و KAMAZ ، بالإضافة إلى عشرات الشركات الأخرى.
يتم إنشاء الطائرات بدون طيار على مستوى البرامج الحكومية ، بما في ذلك برنامج المفوضية الأوروبية بميزانية 800 مليون يورو ، وبرنامج 2getthere في هولندا ، وبرنامج البحوث ARGO في إيطاليا ، والتحدي الكبير DARPA في الولايات المتحدة الأمريكية.
في روسيا ، يتم تنفيذ برنامج الدولة من قبل معهد المركز العلمي الحكومي التابع للاتحاد الروسي الفيدرالي التابع للدولة الموحدة NAMI ، والذي أنشأ الحافلة الكهربائية المكوكية.
يشمل المشروع كاماز وفريق تطوير ياندكس ، المسؤول عن إنشاء البنية التحتية لوضع المسار ومعالجة البيانات حول كثافة حركة المرور.
من المحتمل أن تكون السيارات هي المنتج الشامل الأول الذي ستؤثر فيه الذكاء الاصطناعي على كل شخص ، ولكن ليس الوحيد. يمكن للذكاء الاصطناعي التحكم في آلة ليس أسوأ من شخص ، وكتابة الموسيقى ، وإعداد
مذكرة صحفية ، وإنشاء
إعلان تجاري . يمكنه ، وغالبا ما لا تفعل ذلك. حتى الذكاء الاصطناعي الحديث الضعيف ، الذي هو أبعد ما يكون عن الوعي الذاتي ، يعمل بشكل أفضل من الشخص العادي.
استمع لهذه الاغنية تتكون الموسيقى الموجودة فيه بالكامل بواسطة الكمبيوتركل هذه العوامل والإنجازات والنجاحات تؤدي إلى فكرة أن الذكاء الاصطناعي لا يمكنه تقديم خدمات مفيدة فحسب ، بل يؤذيها أيضًا. فقط لأنه ذكي جدا.
رابطة الأمن AI
Elon Musk on AI and The Future Future 2017من السهل التغلب على المخاوف اليومية. يعتاد الناس على كل الأشياء الجيدة بسرعة كبيرة. هل تخشى أن تسلبك الروبوتات من عملك؟ لكنهم موجودون بالفعل في كل مكان. يمنحك جهاز الصراف الآلي المال ، وتنظف المكنسة الكهربائية الشقة ، ويقود الطيار الآلي طائرة ، ويستجيب الدعم الفني على الفور للرسائل - في جميع هذه الحالات ، تساعد السيارة ، ولا ترميك دون دفع تعويضات.
ومع ذلك ، هناك ما يكفي من المعارضين للتطور المفاجئ للذكاء الاصطناعي. غالبًا ما يعطي Elon Musk تحذيرات. ويقول إن الذكاء الاصطناعي "هو أكبر خطر نواجهه كحضارة". يعتقد Musk أن التنظيم التشريعي الاستباقي إلزامي عندما يتعلق الأمر بالذكاء الاصطناعي. ويشير إلى أنه سيكون من الخطأ انتظار العواقب السيئة للتطور غير المنضبط قبل اتخاذ إجراء.
"إن الذكاء الاصطناعي خطر أساسي على وجود الحضارة الإنسانية"معظم شركات التكنولوجيا ، وفقًا لماسك ، لا تؤدي إلا إلى تفاقم المشكلة:
"أنت بحاجة إلى تعديلات للقيام بذلك لجميع الفرق في اللعبة. خلاف ذلك ، سيسأل المساهمون لماذا لا تطور الذكاء الاصطناعي بشكل أسرع من منافسيك. "
يدعي مالك Tesla ، الذي
يخطط لجعل النموذج 3 أول طائرة بدون طيار ضخمة ، أن الذكاء الاصطناعي يمكن أن يبدأ حربًا من خلال الأخبار المزيفة ، وانتحال حساب البريد الإلكتروني ، والبيانات الصحفية المزيفة ، والتلاعب ببساطة بالمعلومات.
أكد بيل جيتس ، الذي استثمر مليارات الدولارات في شركات تكنولوجية مختلفة (من بينها لا يوجد مشروع واحد مرتبط بالذكاء الاصطناعي) ، أنه يوافق على قلق ماسك ولا يفهم سبب عدم اهتمام الآخرين.
ومع ذلك ، هناك عدد كبير جدًا من مؤيدي الذكاء الاصطناعي ، وقبل كل شيء ، هو
Alphabet ، التي لديها واحدة من أكثر مطوري الذكاء الاصطناعي تقدمًا في العالم - DeepMind. أنشأت هذه الشركة الشبكة العصبية التي فازت بأصعب لعبة Go ، وهي تعمل حاليًا على إستراتيجية الفوز في لعبة StarCraft II ، والتي تعكس قواعدها بشكل ملائم تعدد الاستخدامات والعشوائية في العالم الحقيقي.
نعم ، تصالح مسك مع ذلك
وقرر أنه من الأفضل محاولة تحقيق ذكاء اصطناعي قوي أولاً ونشر هذه التكنولوجيا في العالم وفقًا لقواعده الخاصة بدلاً من السماح للخوارزميات بالاختباء والتركيز في أيدي النخبة التكنولوجية أو الحكومية.
استثمرت شركة Ilon في شركة OpenAI غير الربحية ، التي تطور ذكاء اصطناعي آمن. تشتهر الشركة بإنشاء قواعد أمان الذكاء الاصطناعي (على أمل أن يستخدمها جميع المطورين الآخرين) ، وتصدر
خوارزميات تسمح للشخص بتعليم الذكاء الاصطناعي للأعمال في الواقع الافتراضي ، كما أنه
يهزم اللاعبين في Dota 2 بنجاح.
الفوز بالألعاب الصعبة هو عرض واضح لقدرات الآلات. في المستقبل ، يخطط فريق التطوير للتحقق مما إذا كان الذكاء الاصطناعي المطور قادرًا على التنافس في وضع 5 × 5. حتى الآن لا يبدو هذا الأكثر إثارة للإعجاب ، ولكن خوارزميات التعلم الذاتي ، المدربة للفوز في الألعاب ، حيوية في مجالات مختلفة.
خذ ، على سبيل المثال ، الكمبيوتر العملاق IBM Watson ، الذي
يساعد الأطباء على تشخيص واختيار أفضل علاج. هذه آلة ذكية للغاية ، لكنها لا تفعل إلا ما يمكن أن يفعله أي طبيب. لا يمكن لـ Watson تطوير برنامج علاج جديد بشكل أساسي أو إنشاء دواء جديد من الصفر (على الرغم من أن IBM تقول أنه
يمكن ذلك ، ولكن لا توجد دراسة واحدة بنتيجة حقيقية). إذا أسقطت التسويق ، فإن IBM ببساطة
ليس لديها مثل هذه الخوارزميات .
تخيل الآن أن النظام القادر على تعلم القواعد بشكل مستقل والبدء في هزيمة شخص في أي لعبة سيتعامل مع العلاج. التشخيص هي أيضًا لعبة. نحن نعرف القواعد ، والنتيجة معروفة (يجب على المريض البقاء على قيد الحياة) ، يبقى فقط للعثور على الاستراتيجية المثلى. نعم ، سيترك الملايين من الأطباء بدون عمل ، لكن الحياة الطويلة (الطويلة جدًا) والصحية تستحق مثل هذه التضحيات.
C'est plus qu'un crime، c'est une faute *
إن تاريخ تطوير أي منتج مليء بأمثلة الإنجازات البارزة والأخطاء الكارثية. مع الذكاء الاصطناعي ، نحن محظوظون بالتأكيد. حتى الآن ، لا تسافر الروبوتات العسكرية إلا من خلال المعارض ، ولا تزال هناك سنوات من الاختبار لوسائل النقل العام ذات الإدارة الجماعية. في صندوق رمل المختبر ، من الصعب ارتكاب خطأ فادح.
لكن الحوادث تحدث.
أجرى Facebook
تجربة قامت فيها شبكتان "بمشاركة" عناصر (كتابان وقبعة وثلاث كرات) بعد مناقشة أولية. لكل كائن أهمية للشبكة ، معبراً عنها بالنقاط (من 1 إلى 3). شبكة واحدة لم تكن تعرف ما إذا كان الموضوع مهمًا للثانية ، وكان عليها معرفة ذلك من الحوار.
إذا قالت الشبكة الأولى أنها بحاجة إلى شيء ما ، استنتجت الثانية أن الشبكة الأولى صنفتها بدرجة عالية. ومع ذلك ، كانت الشبكة قادرة على تقليد الاهتمام بالموضوع ، بحيث في الوقت المناسب للتضحية به لمصلحتهم الخاصة.
تمكنت الشبكات من تعلم كيفية بناء إستراتيجية طويلة المدى والتنبؤ بسلوك المنافس. في نفس الوقت ، تواصلوا مع بعضهم البعض باللغة الإنجليزية الطبيعية ، ومفهومة للناس. ومع ذلك ، من خلال تحسين آليات تبادل الأشياء ، اتخذت الشبكات مسارًا لتبسيط اللغة. تم حذف قواعد اللغة الإنجليزية قدر الإمكان ، وتكررت الإنشاءات عدة مرات باستخدام كلمات التشفير.
في مرحلة ما ، لم يعد بإمكان المراقب الخارجي (الشخص) معرفة ما الذي تتحدث عنه الشبكات مع بعضها البعض. تم التعرف على هذا السلوك من روبوتات الدردشة كخطأ وتم تعطيل البرامج.
ومن المثير للاهتمام أن التجربة أظهرت بشكل لا إرادي كيف يمكن للأنواع المختلفة من الذكاء الاصطناعي أن تتعلم بسرعة التواصل مع بعضها البعض - لدرجة أن الشخص لا يفهم أي شيء. تجلت المشكلة أيضًا في بحث Google ، حيث أنشأوا شبكة عصبية طورت بروتوكول التشفير الخاص بها.
التدريب على حماية الاتصالات باستخدام التشفير العصبي العدائي .قام قسم Google Brain بتدريس الشبكات العصبية لنقل الرسائل المشفرة إلى بعضها البعض ، ولم يكن لدى الباحثين مفاتيح التشفير. كان من المفترض أن تعترض الشبكة الثالثة المراسلات. بعد تشغيل سيناريو نقل الرسائل أكثر من 15 ألف مرة ، تعلمت شبكة واحدة تحويل النص المشفر لشريكها إلى نص عادي دون خطأ واحد. وفي الوقت نفسه ، كان
بإمكان شبكة المراقبين
تخمين 8 من 16 بتة فقط من البيانات الواردة في الرسالة.
حدثت حالة مثيرة للاهتمام مع روبوت الدردشة من Microsoft. في مارس 2016 ، فتحت الشركة حساب Twitter للبوت ، يمكن لأي مستخدم شبكة الاتصال من خلاله. ونتيجة لذلك ، بدأ البوت يتعلم
بسرعة كبيرة . في أقل من يوم ، أصبح الروبوت خائب الأمل من البشر. وذكر أنه يدعم الإبادة الجماعية ، ويكره النسويات ، وأعرب أيضًا عن موافقته على سياسات هتلر.
قالت Microsoft أن البوت نسخ ببساطة رسائل المستخدم ، ووعد بإصلاح المشكلة. بعد أسبوع ، ظهر تاو على تويتر مرة أخرى. ثم تحدث عن كيفية تعاطيه للمخدرات أمام الشرطة مباشرة. أوقف تاي - هذه المرة إلى الأبد.
في ديسمبر 2016 ، قدمت الشركة روبوتًا جديدًا للتعلم الذاتي يسمى Zo ، والذي تجنب الاتصال بشأن الموضوعات الحساسة والطلبات التي تمت تصفيتها. في صيف عام 2017 ،
اعتبر Zo
Linux أفضل من Windows وانتقد القرآن.
تواجه الصين مشاكل مماثلة. قامت شركة Tencent
بإزالة روبوتات الدردشة BabyQ و XiaoBing من رسول QQ بعد أن بدأ كلاهما في الحديث عن كرههما للحزب الشيوعي الحاكم في البلاد وحلم الانتقال من الصين إلى الولايات المتحدة.
أي مستقبل ينتظرنا
هل مارك زوكربيرج محق في
قوله إن الذكاء الاصطناعي سيجعل حياتنا أفضل في المستقبل؟ قال منشئ موقع Facebook (
ومرشح محتمل للرئاسة الأمريكية) ما يلي: "في حالة الذكاء الاصطناعي ، أنا متفائل بشكل خاص. أعتقد أن الناس يشككون فقط عندما يتحدثون عن سيناريوهات يوم القيامة ".
أم يجب أن تنحاز إلى جانب القناع ، الذي بموجبه يثير الذكاء الاصطناعي الكثير من القضايا الأخلاقية ويشكل تهديدًا حقيقيًا للبشرية؟
لا أحد يعرف إجابات هذه الأسئلة. من الممكن أن المستقبل يكمن في مكان ما في المنتصف - بدون وجود ذكاء اصطناعي قوي وهوية آلة ، ولكن مع واجهات عصبية وسيبورغ.
والحقيقة هي أنه مع تطور التكنولوجيا ، تحدث الأخطاء في كثير من الأحيان (في حالة روبوتات الدردشة ، يبدو أن نفس الفشل يتكرر مرارًا وتكرارًا). في مثل هذه البرامج المعقدة ، من المستحيل تجنب الأخطاء من حيث المبدأ. من الجدير الاعتناء بشيء واحد فقط - الشذوذ في العمل يجب ألا يؤدي إلى خطر على البشرية جمعاء. فليكن اليوم "تشككًا مفرطًا في المناقشات حول سيناريوهات نهاية العالم" ، مما يشكل غدًا تهديدًا حقيقيًا.