قامت آي بي إم بتكييف شبكة عصبية تلافيفية لتعمل على شريحة عصبية

وفقًا لشركة IBM ، تلبي دقة TrueNorth أفضل أنظمة التعرف على الصور والتعرف على الصوت اليوم ، ولكنها تستخدم طاقة أقل وأسرع. فريق البحث في الشركة واثق من أن الجمع بين الشبكات التلافيفية والدوائر الدقيقة العصبية سيتيح لنا إنشاء سيارات ذكية وهواتف ذكية أكثر تقدمًا تتعرف بشكل صحيح على الأوامر الصوتية للشخص ، حتى لو كان يتحدث بفم كامل. دعونا نحاول معرفة مزايا وعيوب TrueNorth ، وأين وجد التطبيق.

يحتوي دماغ الإنسان على حوالي 86 مليار خلية عصبية - خلايا تتصل بآلاف الخلايا العصبية الأخرى من خلال عمليات المشابك العصبية. يتلقى العصبون إشارات من العديد من الآخرين ، وعندما يصل التحفيز إلى عتبة معينة ، فإنه "ينشط" عن طريق إرسال إشارة خاصة به إلى الخلايا العصبية المحيطة. يتعلم الدماغ ، على وجه الخصوص ، عن طريق تعديل الروابط القوية. عندما يتكرر تسلسل الإجراءات ، على سبيل المثال ، من خلال الممارسة ، تصبح المشابك المصاحبة المصاحبة أقوى ، ويتناسب الدرس أو المهارة المكتسبة مع الشبكة.

في أربعينيات القرن الماضي ، بدأ العلماء في نمذجة الخلايا العصبية رياضيًا ، وفي الخمسينيات ، أنشأوا شبكات من الخلايا العصبية وأجهزة الكمبيوتر. الخلايا العصبية والمشابك العصبية أبسط بكثير من الدماغ ، ولكنها تعمل على نفس المبادئ. ترتبط العديد من الوحدات البسيطة - الخلايا العصبية - بالآخرين عبر "نقاط الاشتباك العصبي" مع قيمها العددية اعتمادًا على قيم الوحدات.

الشبكة العصبية التلافيفية (CNN) هي نوع خاص من الشبكات التي اكتسبت شعبية على مدى السنوات القليلة الماضية. تستخرج CNNs ميزات مهمة من الحوافز - عادة الصور. خذ ، على سبيل المثال ، صورة لكلب. يمكن تمثيله كطبقة من الخلايا العصبية ، حيث يمثل تنشيط خلية عصبية بكسل واحد في الصورة. في الطبقة التالية ، سيتلقى كل عصبون مدخلات من مجموعة من الطبقة الأولى وينشط إذا اكتشف نمطًا معينًا في هذه المجموعة ، يعمل كمرشح.

في الطبقات اللاحقة ، ستبحث الخلايا العصبية عن الأنماط في الأنماط ، وما إلى ذلك. داخل طبقة واحدة ، يمكن أن تكون المرشحات حساسة لهياكل معينة. أولاً إلى حدود الأشكال ، ثم إلى الكفوف ، ثم إلى الكلاب ، حتى تتمكن الشبكة من تحديد الفرق بين الكلب والمحمصة.

الآن ، هذه الحسابات مكلفة. بالنظر إلى وجود مليارات من الخلايا العصبية وتريليونات المشابك في الدماغ البشري ، فإن تقليد كل منها غير ممكن حتى الآن. حتى محاكاة جزء صغير من الدماغ سيتطلب ملايين الحسابات لكل عنصر إدخال ، الأمر الذي يتطلب قوة معالجة هائلة. يمكن أن تحتوي أكبر شبكات CNN الحديثة على ملايين الخلايا العصبية والمليارات من المشابك العصبية ، ولكن ليس أكثر.

إن هندسة الحوسبة الكلاسيكية للمعالجات المركزية ، المصممة لمعالجة تعليمات واحدة في كل مرة ، ليست مناسبة للمهام التي تفرضها CNN. لذلك ، تحول العلماء إلى الحوسبة المتوازية ، والتي يمكنها معالجة العديد في وقت واحد. تستخدم الشبكات العصبية الحديثة معالجات الرسومات ، والتي عادة ما تحسب رسومات ألعاب الفيديو و CAD. نظرًا لبنية التشابه في العمليات الحسابية وتشابهها ، تعد بطاقات الفيديو مناسبة للتعلم العميق.

ولكن مع ذلك ، لا تتعامل الأجهزة مع التعلم العميق بنفس فعالية الدماغ ، والتي يمكنها قيادة السيارة وفي نفس الوقت التحدث عن مستقبل المركبات المستقلة ، مع استهلاك طاقة أقل من المصباح الكهربائي.

في 1980s ، صاغ المهندس كارفر ميد مصطلح "المعالجات العصبية" لوصف رقائق الكمبيوتر التي تعمل بطريقة مثل الدماغ. وضع عمله الأساس لهذه المنطقة. على الرغم من أن مصطلح "العصبية" يطبق الآن على مجموعة واسعة من الحلول ، إلا أنها جميعها تحاول تكرار آلية تشغيل الشبكات العصبية على مستوى الأجهزة ، وتجنب الاختناقات التي تواجه المعالجات التقليدية.

بالنظر إلى الحاجة إلى التعلم الآلي السريع والفعال ، يعمل مكتب المشاريع المتقدمة التابع لوزارة الدفاع الأمريكية (المعروف اختصارًا باسم DARPA) على تمويل مختبر IBM HRL Laboratories منذ عام 2008 لتطوير آلات الأعصاب التي يمكن تحجيمها بسهولة.

صحيح شمال

في عام 2014 ، قدمت شركة IBM رقاقة TrueNorth الخاصة بها على غلاف مجلة Science Magazine. منذ ذلك الحين ، تقوم الشركة بتطوير أنظمة تستند إلى TrueNorth بدعم مالي من وزارة الطاقة الأمريكية والقوات الجوية والجيش. تحتوي إحدى هذه الرقائق على مليون "عصبون" ، يتم تمثيل كل منها بمجموعة من الترانزستورات الرقمية ، و 256 مليون "مشابك" - توصيلات سلكية بين الرقائق.

تصبح البنى العصبية أكثر كفاءة من الرقائق التقليدية بسبب وظيفتين. أولاً ، تتواصل مثل هذه الشريحة ، مثل الدماغ ، من خلال "ومضات" - وهي حزم معلومات أحادية البعد تُرسل من عصبون واحد إلى الخلايا العصبية الهابطة. الإشارات بسيطة (سواء كان هناك وميض أم لا) ويتم نقلها من حين لآخر فقط عندما يرسل العصبون حزمة. ثانيًا ، تمامًا كما هو الحال في الدماغ ، توجد المعالجة والذاكرة في الخلايا العصبية والمشابك. على جهاز الكمبيوتر التقليدي ، تقوم وحدة معالجة البيانات باستخراج المعلومات باستمرار من مناطق الذاكرة الفردية ، وتنفيذ العمليات ، ثم إرجاع المعلومات الجديدة إلى الذاكرة. هذا يؤدي إلى العديد من الأنشطة البطيئة والمستهلكة للطاقة.

نظام TrueNorth مرن للغاية ، لأنه يمكن برمجته لتنفيذ شبكات ذات أحجام وأشكال مختلفة وقياسها عن طريق "كسر" عدة شرائح. استخدم فريق IBM في عمله العلمي شريحة من الأشكال العصبية لتحديد الأشخاص والدراجات والسيارات في مقطع فيديو تم تصويره في الشارع. أظهرت تجربة مقارنة أن برنامج TrueNorth الذي يعمل على معالج دقيق تقليدي يستخدم طاقة أكثر بـ 176 ألف مرة لهذه المهمة.

جزء أساسي من مشروع IBM كان ليس فقط إنشاء شريحة ، ولكن أيضًا برنامج. أنشأت الشركة جهاز محاكاة ولغة برمجة جديدة ومكتبة من الخوارزميات والتطبيقات. ثم قدمت الشركة هذه الأدوات إلى أكثر من 160 باحثًا في المختبرات الأكاديمية والوطنية والشركات. تم الانتهاء من تصميم TrueNorth في عام 2011 ، وحدثت ثورة الشبكة العصبية التلافيفية في عام 2012 كجزء من تحدي ImageNet . لذلك بدأ بعض الناس يتساءلون عما إذا كانت رقائق TrueNorth يمكنها التعامل مع هذه الشبكات.

تستخدم شبكة CNN طريقة الانتشار العكسي. في كل مرة ترتكب فيها الشبكة خطأ ، يتم حساب الفرق بين افتراضها والإجابة الصحيحة. تأخذ خوارزمية انتشار الخطأ في الاعتبار كل خلية عصبية في الطبقة النهائية وتحسب مقدار التغيير في ناتج هذا العصبون سيقلل من الخطأ الكلي. ثم يعود إلى الخلايا العصبية السابقة ويحسب مقدار التغير في قوة كل مشابك واردة سيقلل من الخطأ الكلي.

من الضروري معرفة ما إذا كان يجب زيادة أو تقليل قوة المشبك ، لذلك تقوم الخوارزمية بتعديل كل وزن قليلاً في الاتجاه الصحيح. بعد ذلك ، تقوم الخوارزمية بحساب خطأ جديد باستخدام الأوزان الجديدة وتكرار العملية بأكملها. بعد العديد من هذه الخطوات ، ينخفض ​​الخطأ في عملية تسمى نزول التدرج.

تم اعتبار TrueNorth في البداية غير متوافق مع خوارزمية خطأ الانتشار الخلفي ، حيث أن أصل التدرج يتطلب تعديلات صغيرة في الوزن ورؤية للتحسينات الصغيرة. يزيد TrueNorth من كفاءته باستخدام ثلاث قيم وزن مختلفة فقط: -1 و 0 و 1 ، ويكون الناتج من العصبون 0 أو 1. لا توجد تدرجات ، فقط خطوات منفصلة.

كان أحد الإنجازات الرئيسية للفريق سلسلة من الأساليب لأداء خوارزمية الانتشار العكسي مع الشبكات العصبية النبضية. قام الباحثون بحل هذه المشكلة من خلال تدريب النموذج البرمجي للرقاقة المبرمجة لاستخدام تقريب الأجهزة المتوافق مع نزول التدرج.

كان التطور الرئيسي الآخر هو رسم خرائط CNN لاتصالات متعددة بالخلايا العصبية على رقاقة ، والتي تضمنت 256 اتصالًا فقط لكل خلية عصبية. وقد تحقق ذلك من خلال تعيين أزواج معينة من الخلايا العصبية التي تعمل في وقت واحد ، والتي يتم دمجها في خلية عصبية واحدة من خلال المدخلات والمخرجات.

على الرغم من الأداء العالي نسبيًا لـ TrueNorth ، فقد تم إنشاؤه دون مراعاة ميزات الشبكات العصبية العميقة و CNN ، لذلك فإن لها عيوبًا مقارنة بالأنظمة الأخرى. على سبيل المثال ، لكي تعمل شبكة مكونة من 30 ألف خلية عصبية ، يلزم وجود 8 شرائح (8 مليون خلية عصبية). بالإضافة إلى ذلك ، TrueNorth هي شريحة رقمية بالكامل عندما يكون لدى البعض مكونات تمثيلية. عملهم لا يمكن التنبؤ به ، لكنه لا يزال أكثر كفاءة. وعلى الرغم من أن كل شريحة TrueNorth مقسمة إلى 4096 "نواة" تعمل بالتوازي ، إلا أن 256 خلية عصبية في كل قلب يتم تحديثها بالتتابع فقط وواحد في كل مرة.

يمكن أن تؤدي المعالجة المتتابعة للخلايا العصبية في قلب TrueNorth إلى اختناق ، ولكنها توفر أيضًا انتظامًا. وهذا يعني أنه يمكن محاكاة سلوك الشريحة بدقة عالية على أجهزة الكمبيوتر المكتبية. في الوقت نفسه ، الرقاقة عالمية - يمكنها دعم العديد من أنواع الشبكات المختلفة ، والهدف الحالي لفريق من المبدعين الرقائق تحت إشراف كبير الباحثين لشركة IBM في الحوسبة الشبيهة بالدماغ ، دارمندرا مودها ، هو نشر عدة شبكات مختلفة تعمل معًا - لتحقيق التركيب.

الخطط المستقبلية

بالإضافة إلى تحقيق التركيب ، يلتزم فريق Modha باستكشاف طرق التدريس المختلفة. يلاحظ العلماء أيضًا أنه يمكن تطبيق الطرق الموضحة في عملهم على رقائق العصبية غير TrueNorth. علاوة على ذلك ، بالإضافة إلى طرق التدريس الجديدة ، يفكر الفريق في إنجازات أكثر جذرية. وفقًا لتقرير عام 2015 الصادر عن وزارة الطاقة الأمريكية بشأن الحوسبة العصبية ، يتم استهلاك حوالي 5-15 ٪ من الطاقة في العالم حاليًا في شكل من أشكال معالجة البيانات ونقلها. في الوقت نفسه ، تريد الإدارة زيادة السرعة والكفاءة والتسامح مع الخطأ في الشبكات. دفع هذا التقرير فريق IBM إلى التفكير في تطوير مواد ذات خصائص فيزيائية جديدة.

الهدف العالمي هو استبدال مراكز البيانات العملاقة بشرائح في الهواتف الذكية والمنازل والسيارات التي يمكنها "التفكير" بأنفسهم: إجراء محادثات ، وإجراء اكتشافات علمية وطبية ، أو قيادة السيارات ، أو الروبوتات أو الأطراف الاصطناعية. من الناحية المثالية ، يمكن لهذه الرقائق أن تحقق نجاحًا أكبر ، على سبيل المثال ، في حل مشكلة الجوع في العالم.

العديد من مختبرات الأبحاث تستخدم بالفعل بنشاط TrueNorth. في أغسطس 2016 ، عرضت سامسونج نظامًا يستخدم دفق فيديو لإنشاء خريطة بيئة ثلاثية الأبعاد ثلاثية الأبعاد بسرعة 2000 إطار في الثانية ، وتستهلك ثلث واط. استخدمت الشركة هذا النظام للتحكم في التلفزيون بإيماءات اليد.

يحتوي مختبر لورانس ليفرمور الوطني على لوحة TrueNorth مكونة من 16 شريحة تستخدم لتعزيز الأمن السيبراني والأمن النووي الأمريكي. أعلن مختبر أبحاث القوات الجوية ، الذي يستخدم TrueNorth لتوفير الملاحة المستقلة للمركبات الجوية بدون طيار ، مؤخرًا عن خطط لتجربة مجموعة من 64 رقاقة.