خوارزميات التعلم الآلي لا تفهم الواقع بعد بالطريقة التي يفعلها الناس - في بعض الأحيان مع عواقب وخيمةنبذة عن الكاتب:
ميلاني ميتشل أستاذة علوم الكمبيوتر في جامعة ولاية بورتلاند وأستاذ زائر في معهد سانتا في. سيتم نشر كتابها ، الذكاء الاصطناعي: دليل للتفكير ، في عام 2019 من قبل Farrar و Straus و Giroux
زائر معرض الذكاء الاصطناعي في جنوب أفريقيا ، سبتمبر 2018. الصورة: نيك بوثما / وكالة حماية البيئة ، عبر شاترستوكربما سمعت أننا في خضم ثورة الذكاء الاصطناعي. يقال لنا أن الذكاء الآلي يتقدم بمعدل مذهل ، بالاعتماد على خوارزميات "التعلم العميق" التي تستخدم كميات هائلة من البيانات لتدريب البرامج المعقدة المعروفة باسم "الشبكات العصبية".
يمكن لبرامج اليوم التعرف على الوجوه وتسجيل الكلام. لدينا برامج للكشف عن الاحتيال المالي الدقيق ، للعثور على صفحات الويب ذات الصلة استجابة للطلبات الغامضة ، ولوضع الطريق الأمثل في أي مكان تقريبًا ، تهزم هذه البرامج الأساتذة في لعبة الشطرنج والذهاب وترجمة بين مئات اللغات. علاوة على ذلك ، فإن السيارات غير المأهولة ، والتشخيص التلقائي للسرطان ، وروبوتات تنظيف المنزل ، وحتى الاكتشافات العلمية التلقائية ، يتم الوعد بها قريبًا وفي كل مكان.
قال مؤسس فيسبوك مارك زوكربيرج
مؤخرًا أنه على مدى السنوات الخمس إلى العشر القادمة ، ستطور الشركة الذكاء الاصطناعي "لتتجاوز مستوى الشخص في جميع الحواس الأساسية: الرؤية والسمع واللغة والفهم العام".
يتوقع شاين ليج ، زميل Google DeepMind ، أن "الذكاء الاصطناعي سيتجاوز المستوى البشري في منتصف عشرينيات القرن العشرين".
كشخص يعمل في مجال الذكاء الاصطناعي لعدة عقود ، شاهدت فشل العديد من هذه التنبؤات. وأنا متأكد من أن أحدث التوقعات لن تتحقق أيضًا. لا تزال مشكلة إنشاء الذكاء البشري في الآلات محل تقدير كبير. تفتقر أنظمة الذكاء الاصطناعي اليوم إلى حد كبير في جوهر الذكاء البشري:
فهم المواقف التي نمر بها ، والقدرة على فهم معناها. سأل عالم الرياضيات والفيلسوف جيان كارلو روتا السؤال الشهير: "أتساءل عما إذا كان الذكاء الاصطناعي قادرًا على التغلب على حاجز التفاهم". بالنسبة لي ، لا تزال هذه هي القضية الأكثر أهمية.
يتم التأكيد على نقص الفهم البشري في الآلات من خلال المشاكل التي ظهرت مؤخرًا في أسس الذكاء الاصطناعي الحديث. على الرغم من أن البرامج الحديثة أكثر إثارة للإعجاب من الأنظمة قبل 20-30 عامًا ، إلا أن عددًا من الدراسات تظهر أن أنظمة التعلم العميق تثبت انعدام الأمن بطرق غير إنسانية تمامًا.
سأعطي بعض الأمثلة.
"يحتاج الرجل العاري الرأس إلى قبعة" [يحتاج الرجل العاري الرأس إلى قبعة] - يتعرف برنامج التعرف على الكلام على الهاتف على هذه العبارة على أنها "الرجل الذي يحتاج إلى رأس الدب يحتاج إلى قبعة" بتوجيه من الدب. عبارة "أضع الخنزير في القلم" [أضع الخنزير في القلم] تترجم ترجمة Google إلى الفرنسية على أنها "أضع الخنزير في القلم" [Je mets le cochon dans le stylo].
يتم
خداع البرامج التي "تقرأ" المستندات وتجيب عن الأسئلة المتعلقة بها
بسهولة إذا تمت إضافة أجزاء نصية قصيرة وغير ذات صلة إلى المستند.
وبالمثل ، تفشل البرامج التي تتعرف على الوجوه والأشياء (انتصار التعلم العميق المشهور) إذا قمت بتغيير بيانات الإدخال قليلاً مع أنواع معينة من الإضاءة وتصفية الصور والتغييرات الأخرى التي لا تؤثر على الأقل على كفاءة التعرف البشري على الأشياء .
أظهرت إحدى الدراسات الحديثة أن إضافة كمية صغيرة من "الضجيج" لصورة الوجه يتعارض بشكل خطير مع برامج التعرف على الوجوه الحديثة.
تُظهر دراسة أخرى ، تُدعى "الفيل في غرفة" بشكل فكاهي ، أن صورة صغيرة لجسم غريب ، مثل فيل ، في زاوية صورة غرفة المعيشة بطريقة غريبة تجعل أنظمة الرؤية الآلية في التعلم العميق تصنف الأشياء الأخرى بشكل غير صحيح.
علاوة على ذلك ، يتم فقدان
البرامج التي تعلمت لعب لعبة فيديو أو لعبة لوحية بارعة على مستوى "خارق" تمامًا مع أدنى تغيير في الظروف (تغيير الخلفية على الشاشة أو تغيير موضع "المنصة" الافتراضية لهزيمة "الكرة").
هذه مجرد أمثلة قليلة توضح عدم موثوقية أفضل برامج الذكاء الاصطناعي إذا كان الموقف مختلفًا قليلاً عن تلك التي تدربوا عليها. تتراوح الأخطاء في هذه الأنظمة من السخيفة وغير الضارة إلى الكارثة المحتملة. على سبيل المثال ، تخيل نظامًا لأمن المطارات لن يسمح لك بالصعود على متن رحلة طيران بسبب الخلط بين وجهك ووجه مجرم ، أو مركبة غير مأهولة لم تلاحظ ، بسبب ظروف الإضاءة غير المعتادة ، أنك ستغادر عند تقاطع.
والأكثر إثارة للقلق هي المظاهرات الأخيرة حول نقاط ضعف الذكاء الاصطناعي لما يسمى الأمثلة "المعادية". في هذه الحالة ، يمكن للمتسلل الخبيث إجراء تغييرات معينة على الصور أو الصوت أو النص غير المرئي أو غير ذي أهمية للبشر ، ولكن يمكن أن يؤدي إلى أخطاء منظمة العفو الدولية كارثية محتملة.
تظهر إمكانية حدوث مثل هذه الهجمات في جميع مجالات الذكاء الاصطناعي تقريبًا ، بما في ذلك رؤية الكمبيوتر ومعالجة الصور الطبية والتعرف على الكلام ومعالجته. أظهرت العديد من الدراسات السهولة التي يمكن بها للمتسللين خداع أنظمة التعرف على الوجوه أو الأشياء ذات
التغييرات الضئيلة في الصورة.
الملصقات غير المرئية على لافتة توقف الطريق تجبر نظام رؤية الماكينة في مركبة بدون طيار على أخذها من أجل "السير على الطريق" ،
وتعديل إشارة الصوت التي تبدو وكأنها موسيقى خلفية لشخص يخبر نظام Siri أو Alexa بتنفيذ أمر معين سراً.
توضح نقاط الضعف المحتملة هذه سبب تقدم الذكاء الاصطناعي الحالي على حاجز الفهم. يعرف أي شخص يعمل مع أنظمة الذكاء الاصطناعي أنه خلف واجهة تشبه مهارات الرؤية البشرية والكلام واللعب ،
لا تفهم هذه البرامج - بأي طريقة بشرية - بيانات الإدخال التي يتلقونها للمعالجة والنتائج التي تنتجها. إن عدم وجود مثل هذا الفهم يجعل هذه البرامج عرضة لأخطاء غير متوقعة وهجمات غير مرئية.
ما هو المطلوب للتغلب على هذا الحاجز حتى تتمكن الآلات من فهم المواقف التي تواجهها بشكل أفضل ، بدلاً من الاعتماد على الأجزاء الصغيرة؟ للعثور على الإجابة ، تحتاج إلى الرجوع إلى دراسة المعرفة البشرية.
يعتمد فهمنا الخاص للمواقف التي نواجهها على "مفاهيم الفطرة السليمة" الواسعة والبديهية حول كيفية عمل العالم وأهدافه ودوافعه وسلوكه المحتمل للكائنات الحية الأخرى ، خاصةً الأشخاص الآخرين. بالإضافة إلى ذلك ، يعتمد فهمنا للعالم على قدراتنا الأساسية
لتعميم ما نعرفه ، لتشكيل مفاهيم مجردة ورسم المقارنات - باختصار ، تكييف مفاهيمنا بمرونة مع المواقف الجديدة. على مدى عقود ، جرب الباحثون تعليم الذكاء الاصطناعي البديهي والقدرات البشرية المستدامة على التعميم ، ولكن لم يتم إحراز تقدم كبير في هذه المسألة الصعبة للغاية.
يتم نشر برامج الذكاء الاصطناعي التي تفتقر إلى الفطرة السليمة والجوانب الرئيسية الأخرى للفهم البشري بشكل متزايد في التطبيقات الواقعية. بينما يقلق بعض الناس بشأن "الذكاء الفائق" للذكاء الاصطناعي ، فإن الجانب الأكثر خطورة في الذكاء الاصطناعي هو أننا نثق كثيرًا ونمنح قدرًا كبيرًا من الاستقلالية لمثل هذه الأنظمة دون أن ندرك تمامًا حدودها. كما لاحظ الباحث بيدرو دومينغوس في كتابه ، "الخوارزمية الرئيسية":
"يخشى الناس من أن تصبح أجهزة الكمبيوتر ذكية جدًا وتسيطر على العالم ، لكن المشكلة الحقيقية هي أنها غبية جدًا وقد استوعبتها بالفعل .
"وضع سباق تسويق الذكاء الاصطناعي ضغوطًا هائلة على الباحثين لإنشاء أنظمة تعمل "بشكل جيد إلى حد معقول" في المهام الضيقة. ولكن في نهاية المطاف ، يتطلب هدف تطوير ذكاء اصطناعي
موثوق به دراسة أعمق لقدراتنا الرائعة وفهمًا جديدًا للآليات المعرفية التي نستخدمها نحن أنفسنا لفهم العالم من حولنا بشكل موثوق. من المرجح أن يتخطى التغلب على العائق أمام فهم الذكاء الاصطناعي خطوة إلى الوراء - من الشبكات ومجموعات البيانات الكبيرة إلى جذور الصناعة كعلم متعدد التخصصات يدرس المشكلة العلمية الأكثر تعقيدًا: طبيعة الذكاء.