"نعتقد أنه يجب ألا تصبح Google جزءًا من العمل العسكري. لذلك ، نطلب من الشركة إلغاء مشروع مافين ، وكذلك نشر وتطبيق سياسة تنص بوضوح على أنه لن تقوم Google أو مقاولوها ببناء التكنولوجيا العسكرية على الإطلاق "، يبدأ نص الرسالة الجماعية إلى صاحب العمل ، والتي يتم الآن توقيعها بشكل كبير من قبل موظفي Google. وقد تم التوقيع على الوثيقة بالفعل من قبل
أكثر من 3100 شخص ،
وفقًا لصحيفة نيويورك تايمز . حصل المحررون على
النص (pdf) .
كما أصبح معروفًا قبل شهر ،
وقع عملاق البحث
عقدًا مع وزارة الدفاع الأمريكية . كجزء
من مشروع مافين ، تم التخطيط
بحلول نهاية عام 2017 "لإدخال خوارزميات الكمبيوتر المتقدمة في الأنظمة الأساسية الحكومية للتعرف على الأشياء في عدد كبير من الصور المتحركة أو الثابتة". في الواقع ، هذا هو نظام الرؤية الآلية للطائرات بدون طيار العسكرية.
يوصف مشروع Maven في الرسالة بإيجاز على أنه "محرك AI قابل للتخصيص يستخدم بيانات صور الحركة واسعة النطاق التي تجمعها المركبات الجوية الأمريكية بدون طيار للكشف عن المركبات والأشياء الأخرى ، وتتبع تحركاتها ونقل نتائج التعرف إلى وزارة الدفاع".
بين موظفي Google العاديين ،
استمرت مناقشة المشروع لمدة شهر على الأقل . تقول الرسالة أنهم حاولوا في البداية مناقشة المشكلة داخل الشركة. تم مخاطبة الموظفين من قبل رئيس مجلس إدارة Google Diane Greene (Diane Greene). وأكدت أن تقنية Google لن "تتحكم في الطائرات بدون طيار" و "لن تستخدم لإطلاق الأسلحة". وكأن هذه الحقائق كافية لطمأنة الجميع. لكن لا. في الواقع ، يمكن استخدام التكنولوجيا لعدد كبير من التطبيقات العسكرية الأخرى ، بما في ذلك الطائرات بدون طيار القتالية التي تحمل أسلحة قاتلة على متنها. ولا أحد يضمن أن يقرر مشغل الطائرات بدون طيار استخدام هذا السلاح بعد تلقي البيانات من Google. لا يرغب المبرمجون المدنيون العاديون والمتخصصون في الرؤية الآلية والذكاء الاصطناعي في تحمل هذه المسؤولية.
في خريف عام 2017 ، في قمة حول الذكاء الاصطناعي وأنظمة الأمن العالمي ،
أعرب إريك شميدت
عن قلقه من أن أنظمة الرؤية الآلية المتقدمة والذكاء الاصطناعي قد "يساء استخدامها من قبل الجيش لقتل الناس". ووفقا له ، هناك بعض القلق في صناعة التكنولوجيا ، لأنه بشكل عام ، لا تعمل شركات تكنولوجيا المعلومات على الإطلاق على تطوير أنظمة رؤية الماكينة. لا يقترح العديد من العلماء والباحثين من جامعات وأقسام الذكاء الاصطناعي أنه يمكن استخدام تطويرهم بهذه الطريقة.
يعتقد البنتاغون خلاف ذلك. تم إطلاق مشروع مافين في أبريل 2017 ، وفي العام الماضي استثمرت وزارة الدفاع ما مجموعه 7.4 مليار دولار في المجالات المتعلقة بالذكاء الاصطناعي ، حسبما
كتبت صحيفة وول ستريت جورنال . الآن يتم تنسيق جميع الأعمال المتعلقة بشراء المعدات والبرمجيات ، وكذلك تنفيذ أنظمة الذكاء الاصطناعي ، في إطار مشروع مافن. وتتمثل المهمة الأساسية في التعرف على الأشياء والمعالجة التحليلية لعدد كبير من إطارات الفيديو التي تم تصويرها بواسطة طائرات استطلاع. بناءً على هذه المعلومات ، يمكن اتخاذ قرارات لتدمير الأهداف.
وقالت الرسالة "ستلحق هذه الخطة الضرر بالعلامة التجارية وقدرة Google على المنافسة في سوق العمل". - وسط مخاوف متزايدة من وجود ذكاء اصطناعي متحيز ومسلح ، تكافح Google بالفعل للحفاظ على ثقة الجمهور. من خلال التوقيع على هذا العقد ، ستنضم Google إلى صفوف الشركات مثل Palantir و Raytheon و General Dynamics. الحجة القائلة بأن شركات أخرى ، مثل Microsoft و Amazon ، تشارك أيضًا في المشروع ، لا تقلل من المخاطر على Google. "إن التاريخ الفريد لـ Google وشعارها"
لا تكن شريرًا "والتأثير المباشر على حياة المليارات من الناس يضعونه خارج الصورة".
يعتقد الموظفون أنه من
المستحيل نقل المسؤولية الأخلاقية إلى الأشخاص غير المصرح لهم باستخدام التقنيات التي تم إنشاؤها . توضح القيم المعلنة من Google أن كل مستخدم يثق بالشركة. لا يمكنك أبدا المخاطرة به. يعرض هذا العقد للخطر سمعة Google ويتعارض مباشرةً مع القيم الأساسية. وقالت الرسالة "إن إنشاء هذه التكنولوجيا لمساعدة الحكومة الأمريكية في المخابرات العسكرية - والوفيات المحتملة - أمر غير مقبول".
وهكذا ، يسأل الآلاف من الموظفين الذين وقعوا الرسالة الإدارة:
- قم بإلغاء المشروع على الفور.
- تصميم ونشر وتطبيق سياسة واضحة تنص على أنه لن تقوم Google أو مقاولوها بتطوير تقنية للحرب على الإطلاق.
ردًا على الشكاوى العامة ،
ألغت Google
اشتراك البنتاغون في استخدام "البرامج المجانية المتاحة لأي مستخدم Google Cloud". تستخدم التكنولوجيا "لتحديد الصور المرشحة التي يجب أن يدرسها شخص ما ، وهي مصممة لإنقاذ الأرواح البشرية وإنقاذ الناس من القيام بعمل شاق للغاية."
وفقًا للمعلومات المتاحة ، ستطالب Google و Amazon و Microsoft في المستقبل القريب بعقد بمليارات الدولارات لتوفير الخدمات السحابية لوزارة الدفاع الأمريكية.
