هناك قدرات ، لكن ليس هناك سبب: المهام التي لا تستطيع منظمة العفو الدولية مواجهتها

وتوضح تاتيانا جافريلوفا ، الأستاذة في قسم تكنولوجيا المعلومات في جامعة سانت بطرسبرغ الحكومية ، أن الخوارزميات هي التي تحدد أساس الذكاء الاصطناعي وماهية الصعوبات التي يواجهها مطوروها: "يجب أن تقرر السيارة من سيضحي - أولئك الذين بداخل السيارة ، أو أولئك الذين هرعوا تحت العجلات".

من المخ الحي إلى الذكاء الاصطناعي

على مدى السنوات الخمس الماضية ، نشأت موجة كبيرة من المنشورات والخطب والمخاوف ، وكذلك الضجيج - المناقشات والضجيج والإعلان العدواني حول الذكاء الاصطناعي. هذا يشير في المقام الأول التكهنات والألفاظ النابية. تخبر بوابات الأخبار التي تتنافس مع بعضها البعض كيف تعلمت الشبكة العصبية حيلة مذهلة أخرى. يجب أن يكون مفهوما أن الشبكة العصبية الاصطناعية ليست نموذجًا للمخ. يلاحظ علماء الفيزيولوجيا العصبية أن آلية الدماغ لا تزال غير مفهومة بشكل جيد ، وأن نموذجها بعيد عن التشكل الرياضي.

في عام 2013 ، قامت المفوضية الأوروبية بتقييم مشروع بحث مشروع الدماغ البشري وخصصت منحة بقيمة مليار دولار للبحث. الهدف من هذا المشروع هو إنشاء نموذج حاسوبي كامل الوظائف للعقل البشري. قدم تعقيد الدماغ: كيف تتواصل الخلايا العصبية وتتفاعل مع بعضها البعض ، وكيف تتشكل الذكريات ، وتتخذ القرارات. في المؤتمر الأوروبي في عام 2019 ، تم تقديم عرض تقديمي من قبل عالم الأعصاب ، مدير ومؤسس مشروع العقل البشري ، هنري ماركرام. قام هو والفريق بعرض صور للدماغ ، مضاءة على تصوير مقطعي من جوانب مختلفة ، مؤكدين أنه كلما زاد عمقهم في الدماغ ، أصبح من الواضح كيف يعمل. طوال هذه الفترة ، كانوا يسيرون على طريق التصغير ، لكن من الواضح أنهم بحاجة إلى نموذج كلي للدماغ. هنا يمكنك استخلاص تشبيه مع الاستعارة المعروفة: بغض النظر عن مقدار زحف النمل داخل التلفزيون ، فإنه لا يزال لا يفهم نوع الجهاز.

يتحدث Chatbots لكن لا يفهم

تم تطوير أول برنامج للمحادثة "إليزا" في الستينيات. كان عملها مثل جلسة العلاج النفسي. مثال قد يبدو الحوار كالتالي:
- مرحبا. كيف حالك؟
- رأسي يؤلمني.
- كم مرة يحدث هذا؟
"في كل مرة أتحدث فيها مع والدتي".
"لديك مشكلة مع والدتك." أخبرنا المزيد عن هذا.

يحتوي البرنامج على مجموعة من الفراغات. يحدد الكلمة الرئيسية في كل جملة ويخلق الوهم من المحادثة ، دون أي معنى على الإطلاق. وبالتالي ، يمكن أن تستمر إليزا بمهارة في محادثة لعدة ساعات ، مما يجعل انطباعًا جيدًا عن الأشخاص.

أليس اليوم من Yandex هي نفس إليسا ، مع منصة خدمة متصلة ومفردات أكثر ثراءً. كل ذكاء روبوتات الدردشة هذه تأتي لإعادة التدريب. إذا حددنا لهم الإجابات سيئة وغير مناسبة ، فستتخلص منها في المستقبل ، وستترك الإجابات الجيدة المناسبة. العقلانية الحقيقية للبرنامج ، قدرته ليس فقط على تحديد ما يظهر في الصورة أو تحويل الخطاب الشفهي إلى نص ، ولكن لفهم معنى المعلومات والتفكير ، سوف تظهر فقط عند الاتصال بقاعدة المعرفة. هذا هو فهم معين للنظام العالمي. لا يوجد برنامج يمكن القيام بذلك حتى الآن. يسمى الذكاء الاصطناعي العمل مع قاعدة المعرفة رمزية AI (AI رمزي).

الآن يتم استخدام اتجاهين بنشاط: الشبكة العصبية الاصطناعية والتعلم الآلي. لا يتم تطويرها في المختبرات العلمية تحت إشراف العلماء ، ولكن في شركات تكنولوجيا المعلومات. يعترف المبرمجون ومطورو الشبكات العصبية الاصطناعية بأنه لا يوجد شيء يفكر إلا الدماغ. لذلك ، إذا كانوا يريدون إنشاء نظام ذكي ، فإنهم يضطرون إلى محاكاة الدماغ ، لأنه لا يوجد شيء أكثر من ذلك. لكن التقدم الأساسي سيكون بالنسبة لأولئك القادرين على عبور نماذج تمثيل المعرفة والتعلم الآلي.
بالمناسبة ، بعض الشركات تستخدم بالفعل الروبوتات بنشاط للتوظيف. إنها جيدة بشكل خاص في العروض الجماعية ، التي تستقبل أكثر من 1000 سير ذاتية. يقوم الروبوت بتحليل الاستبيانات وتقييم المرشحين من حيث أهميتها ، ولكن لا يزال القرار النهائي يتخذ من قبل الشخص. اكتشف العلماء في معهد جورجيا للتكنولوجيا في هذه الحالة أن الناس يثقون في الروبوت عن طيب خاطر. يحدث هذا إذا تم إخبارهم مقدمًا أنه مصمم لأداء مهمة محددة. هذه الروبوتات أيضا إجراء مقابلات نهاية الأسبوع. الناس لديهم حوار أكثر صراحة مع الجهاز حول أسباب الفصل وعما الصعوبات التي واجهوها في عملية العمل. وبالتالي ، تجمع الروبوتات تعليقات جيدة جدًا ، والأهم من ذلك كله. بالإضافة إلى ذلك ، يخاف الناس من الكذب على الروبوت. يعتقدون أن السيارات لديها المزيد من المعلومات. على سبيل المثال ، كان السؤالان الرئيسيان لاختيار أصحاب المتاجر: هل لديك سجل إجرامي وهل تشرب الكحول؟ وأجاب الأشخاص دون الاختباء على هذه الأسئلة للروبوت.

ما هو الخطأ في الطائرات بدون طيار

المركبات غير المأهولة الحديثة غير كاملة ولديها عيوب عديدة. الأكاذيب الأكثر وضوحا في رؤية الآلة. المشكلة ليست حتى في المجال التقني ؛ مشكلة رؤية الماكينة لم يتم حلها من الناحية النظرية. تقوم الكاميرات وأجهزة الاستشعار بمعالجة إشارات معينة بسرعة كبيرة ، ونتيجة لذلك تتشكل الصور الثنائية في ذاكرة الكمبيوتر ، والتي يجب تفسيرها. هذه هي الصعوبة الرئيسية. على سبيل المثال ، إذا قام أحد المشاة بعبور الطريق ، فحينئذٍ ينظر أي سائق إلى ذلك بسهولة. ليس لأن رؤيته أفضل من رؤية كاميرا الطائرة بدون طيار ، ولكن لأن السائق لديه نموذج لشخص متحرك في ذهنه. نماذج الرؤية لا وجود لها بعد. من غير المعروف كيف يعالج الشخص المعلومات المرئية. يتم تصميم أجهزة النمذجة التي تسمح بدرجة من الثقة بالتعرف على عدد من الكائنات.

تخيل أنك طلبت من شخص لا يفهم أي شيء في السيارات إحضار عظم الترقوة. من الواضح أنه لن يكون قادرًا على القيام بذلك. لأنه ليس ميكانيكي سيارات ، وليس لديه نموذج رافعة في رأسه. ولكن إذا قلت إن هذه قطعة من الحديد ذات شكل منحني - فإن الشخص سوف يحضرها. يعلم الجميع ماهية قطعة الحديد ، ويفهمون شكل "الشكل المنحني". حتى بعد التفسير ، لن يتغلب الروبوت. للقيام بذلك ، تحتاج إلى تدريبه ، ووضع مفاهيم كل هذه الأشياء من زوايا مختلفة وبدرجات مختلفة من الوصول.

أثناء وجوده في المكتب ، لا يتعين على الشخص نقل الكرسي بعيدًا عن الطاولة لتحديد العنصر. مجرد إلقاء نظرة على الظهر. فقط لأن الناس لديهم نموذج كامل للكرسي ، ونحن ، في جزء منه ، نعيد تكوين الكل. نحن نعلم أن الكرسي هو سمة أساسية لداخل المكتب. لذلك ، من بين مجموعة كبيرة من الكائنات التي يمكن إعادة إنشائها من هذه القطعة ، نختار واحدًا. لا توجد برامج عالمية يمكنها القيام بذلك. لا تحتوي الذكاء الاصطناعي الآن على نموذج للعالم ومعرفة تتيح له تفسير الصورة التي يراها بشكل لا لبس فيه.

لنفترض أنه في مكان ما خلف الشجيرات ، اختبأ رجل ، مستعدًا للهروب على الطريق. يتم إخفاء جزء من جسده وراء أوراق الشجر الكثيفة. لن يكون الجزء المرئي كافيًا حتى يتمكن الجهاز من اعتبار ذلك خطراً محتملاً. علاوة على ذلك ، إذا رأيت فيلًا يختبئ خلف الشجيرات ، فمن المحتمل أن يقرر أن هذا الرجل في قناع الفيل ، لأنه في منطقتنا لم يتم العثور على الأفيال. حسنا ، السيارة بالتأكيد ليس لديها هذه المعرفة.

مشكلة التفسيرات تقترب من حلها ، على أي حال هناك تقدم. في خوارزمية التعلم الآلي على عينات ضخمة ، يمكنك وضع 100 سيارة ، ومن الواضح أن 101 ، حتى مع علامة تجارية مختلفة ، مع وجود احتمال كبير ، سوف يتعرف البرنامج بشكل صحيح. على الرغم من أن هذه السيارة لن توضع على وجه التحديد. تجدر الإشارة أيضًا إلى أنه بالنسبة لتدريب البرنامج ، من المهم ملاحظة مجموعة متنوعة من الاختيارات. على سبيل المثال ، إذا كنت ستتعلم فقط البرنامج في سيارات السيدان ، ثم سيتحول المكشوف إلى أعلى ، فمن المحتمل أنه لن يتعرف عليه ، لأنه لم تكن هناك سيارات بدون سقف في العينة.

التحدي الثاني هو المعضلة الأخلاقية التي يجب على الماكينة فيها الاختيار الأخلاقي. دعنا نقول المركبات بدون طيار تحمل راكبا. قفز رجل للقاء ، والطريقة الوحيدة لتجنب الاصطدام كانت القيادة في عمود قريب. يجب أن تقرر السيارة من سيضحي - أولئك الذين هم داخل السيارة ، أو أولئك الذين هرعوا تحت العجلات. هذه مهمة غير قابلة للحل على الإطلاق بالنسبة لها. بالفعل هناك الحوادث الأولى وحتى الضحايا. في ولاية أريزونا ، اصطدمت سيارة الدفع الرباعي غير المأهولة المملوكة لأوبر بمشاة حتى الموت. خطأهم هو أنهم أصدروا خوارزمية خام لم تجتاز جميع الاختبارات على المسار.

مشكلة الطائرات بدون طيار هي ، أولاً ، نقص الأفكار الأساسية حول العالم. الناس دائما اتخاذ القرارات في السياق. لا توجد ذكاء مصطنع لديه صورة كاملة عن العالم الذي يملكه الشخص في سن 18 عامًا. لهذا السبب ، يتم إصدار رخص القيادة على وجه التحديد بدءًا من سن 18 عامًا [في روسيا] ، على الرغم من أن الرؤية قد تم تشكيلها جيدًا بالفعل عند سن الرابعة عشرة. وقبل بلوغ سن الرشد ، لا يمكن للشخص اتخاذ قرارات مستنيرة ، بما في ذلك القرارات الأخلاقية والعاطفية.

نحن نتعامل مع خوارزميات صغيرة جدًا وغير ناضجة تتطلب تحسينًا. إنهم قادرون على العمل بشكل صحيح ، ولكن حصرا تحت سيطرة الإنسان.

جهاز كشف الذكاء الاصطناعي

في سوق الذكاء الاصطناعي ، تستثمر الشركات الرائدة في العالم بنشاط في مجال الحوسبة العاطفية. تكشف هذه التقنية عن أكثر التغييرات غير المرئية في تعبيرات الوجه. يختار البرنامج عددًا معينًا من النقاط على الوجه ويقارنها مع قاعدة بيانات الصور الفوتوغرافية التي تم التعرف على المشاعر فيها بالفعل.

وقالت مايكروسوفت أن لديهم خوارزمية مماثلة ، لكنها لن تعطيها للحكومة. هذه أداة خطيرة للغاية يمكن استخدامها ضد البشر. تخيل أنك تدخل مكتب الرئيس ، ويرى أنك تكرهه وتفكر فيه بشدة. هناك مشكلة أخلاقية خطيرة.

سيكون هناك العديد من البرامج المشابهة لـ "أدوات التعرف". جميل ، رائع بما في ذلك. ستكون مفيدة ، خاصة في الطب. السيارات تساعد الأطباء بالفعل في تشخيص الأمراض. لنفترض أن برنامج IBM Watson الأمريكي يجعل تشخيصات التشخيص أفضل من بعض الأطباء المبتدئين. كعينة تدريبية ، تم وضع ستة آلاف حالة تاريخية فيها. هذا عمل ضخم وبالطبع الكثير من المال.

هل الجهاز يعرف كيف يؤلف

الجهاز غير قادر على توليد شيء جديد نوعيًا. كلمات أصلية ، آيات ، مؤلفات موسيقية - كل هذا يعتمد على مبدأ التقليب ، أو ببساطة أكثر ، التقليب. أما بالنسبة للشعر ، فإن خوارزمية الإجراءات هي كما يلي: يجد البرنامج لحظات مشتركة ومجموعات معينة. يأخذ الكلمات الأساسية ويضيف كلمات المؤلفين الآخرين إليها ويلويها إلى الإيقاع المطلوب. اللغة الروسية معقدة ، ولكن إذا كنت لا تهتم بالقافية ، فيمكنك "إنشاء" آية بيضاء.

مع الموسيقى ، لا يزال الأمر أسهل. يحدد البرنامج أي الحبال هي الأكثر تميزًا لفنان معين ويستخدمها ، ولكن في تسلسل مختلف. أساس هذا "الإبداع" هو خلط الحجم ورفض النغمة الصريحة العلنية.
كانت هناك برامج تتألف من الحكايات الشعبية. للقيام بذلك ، أجرينا تحليلًا للسيناريوهات باستخدام كتاب فلاديمير بروب "مورفولوجيا قصة". اتضح أن نموذج تطور الأحداث يتضمن العديد من العناصر الواضحة: القصص الخيالية لها دائما شخصيات إيجابية وسلبية. هناك أيضًا مانح وطريق وعقبة ونهاية سعيدة في النهاية. ومن السمات المميزة لهذه القصص حكايات انتقائية. جمع البرنامج بين الأبطال وأفعالهم ، على سبيل المثال ، عن إيفان ذا فول ، الذي يقاتل مع الثعبان جورينيك. وكان العيب المطلق هو اللغة السيئة للقصة. المستمعين بالملل. سيضيف حكواتي الأحياء دائمًا روح الدعابة وسرعة الكلام في مكان ما. للسبب نفسه ، لا يمكن للبرنامج ترجمة الاستعارات أو الوحدات اللغوية إلى لغات أخرى. يعمل المترجمون عبر الإنترنت مع كميات كبيرة من المعلومات. تجدر الإشارة إلى أن جودة ترجمتهم قد تحسنت بشكل ملحوظ في السنوات الأخيرة. الآن لا يترجمون كل كلمة على حدة ، كما فعلوا من قبل ، لكنهم يبحثون عن الجملة بأكملها في مكان ما في النصوص. أكبر صعوبة تنشأ مع دلالات. هذا يتطلب قاعدة معرفة لفهم معنى التعبيرات. على سبيل المثال: الدجاج جاهز لتناول العشاء. ليس من الواضح كيفية ترجمة هذه العبارة بشكل صحيح إذا كنت لا تعرف مكان وجود الشخص في هذه اللحظة - في مزرعة الدجاج (الدجاج جاهز لتناول العشاء) أو في مطعم (الدجاج مستعد للغداء).

بدون المعرفة الإنسانية ، لا يوجد نشاط فكري ممكن. لا يمكن استبدال المعرفة بأي شيء. والسؤال هو كيفية رقمنة هذه المهارات. كيفية تحويل التجربة إلى مخطط ذي معنى ، يمكن مشاركته مع الجهاز.