السيارات ذاتية الحكم على المصدر المفتوح

(2019 مقالة فوربس)


براد تيمبلتون مع نسخة مبكرة من ستانفورد روبوكار.

نبذة عن الكاتب: براد تمبلتون هو مهندس برمجيات ، مبشر للسيارات الآلية منذ عام 2007 ، عمل على Google في سنواته الأولى. مؤسس ClariNet ، الرئيس الفخري لمؤسسة الحدود الإلكترونية ومدير معهد الاستبصار ، ومؤسس الكلية في جامعة Singularity .

من الصعب اتباع قواعد التطوير المفتوح أو اختراعات الهواة عند قيامك بإنشاء روبوت يزن 1.3 طن وإرساله لركوب الشوارع على طول المشاة. ومع ذلك ، فإن المبدعين الهواة مهمون جدًا لأي تقنية متطورة. كيفية حل التناقض؟

في الآونة الأخيرة ، كانت هناك عدة إعلانات مثيرة للاهتمام في مجال تطوير المصادر المفتوحة.

• قام Cruise بفتح الكود المصدري لـ Worldview ، وهو متخيل روبوت . هذه مجموعة من الأدوات التي تجعل من السهل إنشاء تمثيلات رسومية لأجهزة الاستشعار ، والمناطق الحسية ، وغيرها من البيانات لفهم ما يراه وما يفعله جهازك.
• كما أصدر Uber مجموعة أدوات AVS لتصور مماثل.
• بايدو منذ بعض الوقت صدر مشروع أبولو ، والذي يتضمن مجموعة كاملة من الأدوات وجهاز محاكاة.

كما تم إصدار حزم مفتوحة المصدر من UDacity و EB Robinos و Autoware و Nvidia و comma.ai. وعلى الرغم من أننا لسنا على مستوى حيث يمكنك تنزيل مجموعة من الأدوات وإنشاء سيارة الهواة ، إلا أن هذه المرة ستأتي.

لديّ تاريخ طويل من العمل باستخدام أدوات مفتوحة المصدر ، وقد أصدرت العديد من حزم البرامج مفتوحة المصدر بموجب تراخيص مجانية. بصفتي رئيس مجلس إدارة مؤسسة الحدود الإلكترونية ، كثيراً ما دافعت عن حقوق مثل هذه البرامج.

ستساعد هذه الأدوات المطورين على العمل بشكل أسرع كفريق واحد لإنشاء أفضل السيارات المستقلة. هذا ينطبق بشكل خاص على الأدوات المستخدمة لإنشاء برامج للآلات الآلية ، حيث يوجد حافز قوي للتعاون في هذا المجال. ستقوم الفرق بدمج مكونات مفتوحة المصدر مفيدة في أجهزتهم ، إذا سمحت التراخيص بذلك. ستتمكن بعض الفرق من إنشاء مركبات بالكامل باستخدام المصدر المفتوح. هناك أمثلة لمشاريع مفتوحة المصدر تتجاوز بكثير مبادرات الأعمال الأكثر تكلفة. علاوة على ذلك ، هناك أسباب وجيهة للقول بأن أدوات المصدر المفتوح يمكن أن تكون أكثر أمانًا ، لأن كل جزء يخضع لتدقيق العالم كله. بطبيعة الحال ، يرى المهاجمون المصدر وهذا يمكن أن يساعدهم في العثور على الثغرات الأمنية ، ولكن هناك الكثير من اللاعبين الجيدين الذين يرون هذا الرمز أيضًا ويعملون على حمايته.

كل هذا متوقع ، ولكن هناك أيضًا مشكلة بالنسبة للشخص الذي يعتبر نجمًا في أساليب تطوير المصادر المفتوحة - المعلم الفردي. الأشخاص الذين يقومون بتحسين الأنظمة يقومون بذلك ببساطة لأنهم يستخدمونها بأنفسهم ويريدون جعلها أفضل ومشاركة نجاحاتها. يتحمل هؤلاء الأشخاص المسؤولية الرئيسية عن معظم الأدوات المفتوحة التي نستخدمها ، على الرغم من أن بعض المشاريع المهمة والكبيرة ، بالطبع ، تم إنشاؤها بواسطة فرق كبيرة بتمويل احترافي.

هل يمكنك أخذ مجموعة من البرامج مفتوحة المصدر وتنزيلها على جهازك وجعلها تقود بنفسك أثناء مشاهدة التلفزيون؟ هل يمكنك أن تجعلها تعمل بدون سائق حتى تتمكن من القدوم واصطحابك؟ هل يمكنك إجراء تغييرات حسب رغبتك أو تنزيل تعديلات أخرى والمضي قدماً بها؟ هذا سؤال أكثر تعقيدًا.

يفعل الناس هذه الأشياء طوال الوقت في مجالات أخرى من البرمجة. ومع ذلك ، فإن الهاتف يختلف كثيرا عن السيارة. يمكن أن يوفر وجود ثغرة أمنية في هاتفك للمهاجمين إمكانية الوصول إلى بياناتك الشخصية ، وحتى معلومات الفوترة ، وهذا أمر خطير. لكن الضعف في السيارة يمكن أن يكلفك أو يصيب الآخرين على الطريق.

شهادة النفس

في الوقت الحاضر ، لدى المنظمين سياسة عدم التدخل. وعلى الرغم من أنها تأتي في وقت مبكر وتضع قواعد للتقنيات التي لا وجود لها بعد ، إلا أنها تركز بشكل أساسي على شروط إصدار الشهادات الذاتية للآلات التي ينتجها اللاعبون الرئيسيون في السوق.

تعني الشهادة الذاتية أن الشركة تختبر الماكينة وتعلن أنها تفي حقًا بالأهداف ومتطلبات السلامة المنصوص عليها في القواعد ، وأن الأطراف الثالثة أو الدولة لا تتحقق من أي من هذا. بدلاً من ذلك ، إذا اتضح أن الشركة ارتكبت خطأً ، أو أنها كذبت بشأن الامتثال للمتطلبات ، فسوف يواجهون التعذيب في المحكمة. من الناحية المثالية ، يجب أن يكون هذا هو العذاب الذي سيحفز الشركات على إجراء الاختبارات بشكل أفضل من أي طرف ثالث أو دولة أخرى.

انها ليست بهذه الصعوبة. الحقيقة هي أنه لا أحد يعرف كيفية إنشاء مركز اختبار مستقل ، لأنه ليس من الواضح ما الذي سيتحقق منه أو كيف سيعمل. ولا حتى الحكومة نفسها لديها أدنى فكرة. بالنسبة للسيارات العادية ، هناك اختبارات مفهومة جيدًا ، على سبيل المثال ، اختبارات التصادم. أيضا ، فإن عدد الجوانب التي يتم فحصها من قبل المنظمات الخارجية يختلف اختلافا كبيرا من بلد إلى آخر. ولكن في معظم الحالات ، يعرف الأشخاص الذين يصنعون السيارات أو المكونات الخاصة بهم الكثير عن اختبارات السلامة والتأكيد أكثر من أي شخص آخر ، ويعد تحفيز المصنعين على أن يكونوا صادقين طريقة فعالة.

في حالة الآلات الآلية ، لا يمكن إجراء هذه الاختبارات إلا من خلال دراسة متعمقة للبرنامج وتشغيله. يجب أن تفهم هذا تمامًا من أجل القيام بذلك. هناك العديد من الاختبارات العالمية التي يمكن إجراؤها بواسطة مختبرات مستقلة ، والتي ستكون مفيدة حقًا. مع مرور الوقت ، ستظهر لهم المزيد من الاختبارات والمزيد من المختبرات ، لكن المطورين سيخلقون أساليب جديدة لا تنسجم مع الاختبارات القديمة. يمكن أن تحدد المعايير والقواعد التقنيات المقبولة عمومًا وذات المدى القصير ، فهي ليست مفيدة جدًا في مجال سريع التغير يتم فيه ابتكار طرق جديدة بشكل منتظم.

قيمة

على الرغم من أن الشهادة الذاتية هي النظام الوحيد الذي يعمل بالنسبة لسيد واحد ، لسوء الحظ ، فإن المبادئ الأساسية في هذا النظام تتطلب أن يكون للموثق وزن كافي لتأكيد مزاعمه. شخص واحد ، كقاعدة عامة ، لا يملك الوسائل لتفادي عذاب عدم وجود شهادة مناسبة. يمكن لمجموعات من الناس تجنب مثل هذه الحالات ، لكنها صعبة حتى بالنسبة لهم. ستكون الاختبارات أيضًا باهظة الثمن إذا كانت معتمدة من قبل جهة خارجية. كل هذا يعني أن هذه ممارسة غير متكررة يمكن تنفيذها بعقلانية فقط للبرامج التي تدير آلاف السيارات.

حتى إذا كانت هناك حزمة برامج معتمدة كآمنة ، فماذا لو قمت بإجراء تغييرات عليها ذات الصلة بأجزاء مهمة من التعليمات البرمجية التي تؤثر على الأمان؟ يمكنك قيادة مثل هذه السيارة على الطريق مع العديد من العقبات في جميع أنحاء؟ هذا لا يزال سؤال صعب.

حلول

والحل المحتمل هو شراء التأمين. لسوء الحظ ، هذا أيضا لديه الصعوبات. على الأرجح ، ستكون المخاطر أعلى من تلك التي يغطيها التأمين الحديث النموذجي. أيضًا ، لا تملك شركات التأمين طرقًا لتحديد مدى جودة مبرمجك ومدى سلامة تعديلاتك.

يجب أن تكون قادرًا على إجراء التعديلات الخاصة بك والقيادة على الطريق في وضع القيادة الآمنة مع شخص واحد على الأقل ، وربما اثنين من المختبرين ، الذين يراقبون البرنامج الجديد ومستعدون للسيطرة في حالة حدوث أي مشاكل. هذه هي الطريقة التي يتم بها اختبار السيارات اليوم ؛ لذلك كان مع الطيار الآلي تسلا. يعمل هذا ، ولكن فقط للمطورين الجادين الذين يرغبون في استثمار الكثير من الوقت والموارد ، ولا يعمل مع الهواة الذين يريدون فقط إجراء تغييرات على برنامج سياراتهم.

قد يكون هناك موقف حيث يمكن للمبرمج ، بعد فحص صغير للقيادة الآمنة ، إرسال تعديلاته إلى مؤسسة أكبر يمكنها دمج هذه التعديلات في اختباراته. يمكنهم اختبار المئات من التعديلات (disjoint) من مطورين مختلفين في نفس الوقت. سيتمكن هؤلاء المبرمجون من مشاركة تكلفة هذا الاختبار وليس فقط معًا للوصول بكودهم إلى المستوى الذي يمكن من خلاله إصدار الشهادات. ومع ذلك ، فإنه لا يزال باهظ الثمن.

"منتور"

من الممكن أيضًا إنشاء نوع من برنامج "معلم". يمكن أن يكون برنامجًا معتمدًا بسيطًا ، وهو برنامج تشغيل آمن وآمن. في الواقع ، يمكن أن يؤخذ هذا البرنامج من صميم نظام معترف به للغاية وموثوق بها يحتوي على جميع شهادات الأمان. سيعمل جهازك على نظامه المعدل الخاص به ، ولكن في نفس الوقت ، سيقوم "الموجه" بمراقبة أعماله باستمرار. إذا كان نظامك يفعل شيئًا لا يحبه الموجه ، فسيتولى السيطرة على نفسه ويقود السيارة إلى مكان آمن أو المنزل.

سوف معلمه محرك بعناية. هذا يعني أنه باستخدام هذه التقنية ، لا يمكنك إنشاء أي شيء أكثر عدوانية منه. إذا أخبر المرشد أنك بحاجة إلى التوقف ، وذكر البرنامج أنك بحاجة إلى التوقف ، فسيتم إيقاف تشغيل البرنامج. قد يكون للإدارة البشرية أولوية أعلى من المرشد. إن الوظائف التي تتطلب أذونات أكثر مما يمكن أن يقدمه الموجّه ليست مجدية للتطوير والاختبار على الطرق بواسطة أساتذة مفردين ، رغم أنه لا يزال بإمكانهم العمل عليها في أجهزة المحاكاة.

في الواقع ، المحاكاة هي خلاصة المهندسين الهواة ، خاصة بالنظر إلى أن المحاكاة تتحسن وأفضل. إنها موجودة للعثور بسرعة على المشكلات والحلول غير الناجحة في تصحيحات جديدة ، وكذلك للتأكد من أنه قبل القيادة على الطريق ، تدربت السيارة على عدد الكيلومترات الافتراضية من عدة أميال.

على الأرجح ، يجب أن يعتمد الموجه على إصدار معتمد من نفس مجموعة البرامج مفتوحة المصدر التي يتم تعديلها بواسطة مهندس هواة. وفي الواقع ، إذا اكتشف المبرمج أن الإجراء الذي رفض الموجه القيام به آمن بالفعل ، فسيكون قادرًا على إرسال رسالة خطأ (وحتى تصحيح) ، وفي النهاية (على الرغم من أنه ليس على الفور) ، يمكن تحسين المدرب المزيد من السلوكيات في البرامج قيد الاختبار.

الأمن هو مصدر قلق خاص. قد يحتوي البرنامج المعدل على ثغرات أمنية تسمح للمهاجم بالسيطرة على معلمه. نحتاج إلى أن يعمل المعلم بشكل فعال ، ولكن هناك مستوى آخر من الجودة يتمثل في قدرة المعلم على التعرف على برنامج ضار يحاول خداعه. قد تكون هناك مشكلة في أي نقطة ضعف لأي مرشد قد يؤدي إلى السماح له بإجراء غير آمن.

الحاجة إلى الحرفيين

نحتاج إلى أولئك الذين يطلق عليهم الحرفيون في عالم السيارات ، أو كما نطلق عليهم في عالم الكمبيوتر ، فإن المتسللين (يتم استخدام كلمة "hacker" بمعنى مجرِّم الكمبيوتر بشكل رئيسي خارج مجتمع مطوري البرمجيات. نفس المعنى مثل "المعلم الحرفي" ، والخبير في جرائم الكمبيوتر أو القرصنة هو نوع آخر من المتسللين). بدأت جميع شركات السيارات الكبيرة رحلتهم كحرف يدوية. لدى العديد من الولايات قوانين تنص على استثناءات خاصة لقواعد سلامة المركبات المعتادة للمركبات الفريدة التي أنشأها الحرفيون ، شريطة أن تمتثل لقواعد سلامة النقل الأساسية. وهو يعمل ، خاصة وأن هذه المركبات لها سائق دائمًا ، وكقاعدة عامة ، هذا هو خالقها. في عالم البرمجيات ، ساهم المتسللون (بالمعنى غير الجنائي) في حصة ضخمة من الابتكار.

نريد أيضًا دعم فكرة شركة السيارات الصغيرة التي يمكنها توزيع أو بيع أنظمة معدلة للآلات الآلية مع موجه متكامل للعملاء المهتمين. على عكس العملاء في المجالات الأخرى ، فإن هؤلاء يعرضون الآخرين للخطر وليس فقط أنفسهم ، ولكن الابتكار يتطلب أيضًا أعمالًا صغيرة.

معلم مثل الذي تم وصفه غير موجود حتى الآن. ولكن يجب أن يكون ذلك في خططنا ، لأن عالم المركبات بدون طيار بدون ابتكارات من الحرفيين والمتسللين سيكون أقل تطوراً وأماناً من عالم تستطيع فيه الشركات الكبيرة فقط المساهمة.

---

اقرأ المزيد من المقالات المفيدة:

• ماكينزي: إعادة النظر في هندسة البرمجيات والالكترونيات في السيارات
• حرب OS أخرى هي بالفعل تحت غطاء محرك السيارة
• رمز البرنامج في السيارة
• في السيارة الحديثة ، هناك سطور أكثر من ...