🙎 👙 😼 بعض الخوارزميات تحت غطاء المخ 🔯 👌🏽 ☝🏾

منذ بعض الوقت أردت دراسة المواد الحديثة في علم الأعصاب من وجهة نظر المبرمج. أي ، لاستخراج الخوارزميات الأساسية منها ، بعد مسحها من التفاصيل الكيميائية / البيولوجية غير الضرورية.

لذلك ، إذا كان شخص ما يحب الشبكات العصبية الاصطناعية ويريد البحث عن الإلهام في الطبيعة ، فقد تظهر هذه المقالة. بالطبع ، لم يكن من الممكن تغطية كل شيء في مقال واحد - هناك الكثير من البيانات.

أولا ، وصفا موجزا لعملية الخلايا العصبية الحيوية ، بحيث يتم فهم المزيد. من يعرف الأساسيات بالفعل - لا تتردد في التخطي.

الخلايا العصبية البيولوجية: سمك السلور ، التشعبات ، المشابك ، السنبلة ، EPSP ، إمكانية الغشاء

: ( ), , . , , . . — . . . .

, , . , . “ ” ,“” “U”. , . . U.

, . , U . — . . , , . , , . “+” EPSP (). “-” IPSP ().

. EPSP- IPSP- , , , . , .

, , , . , . , . , , . . , EPSP , .

. , . “ ” . , . , , (. ).

— . — . EPSP — “”. , , , . EPSP ( ) , , .. , .

STDP

من المفترض أن أساس الذاكرة طويلة المدى هو كيفية توزيع الكفاءة على المشابك العصبية. تضعف بعض نقاط الاشتباك العصبي ، وبعضها يتم تقويته. هذا يسمى ليونة. ولكن بأي خوارزمية تقرر أي نقاط الاشتباك العصبي وكيف ستغير الأوزان؟ المبدأ الأكثر شهرة في الشبكات العصبية الحية هو اللدونة المعتمدة على توقيت سبايك .

يلاحظ من الحشرات إلى الإنسان ويتم صياغته على النحو التالي:

إذا كان ارتفاع الإدخال في هذا المشبك يميل إلى أن يأتي قبل أن يولد العصبون نفسه الارتفاع ، فسيتم تضخيم المشبك.
إذا كان ارتفاع الإدخال في هذا المشبك يميل إلى أن يأتي مباشرة بعد توليد السنبلة بواسطة الخلايا العصبية نفسها ، فعندئذ يتم إضعاف المشبك.

تلك المدخلات التي ساهمت في الارتفاع تم جعلها ذات أولوية أكبر في المستقبل ، والتي لم يتم المساهمة بها - أقل. تستمر العملية حتى يكون هناك مجموعة فرعية معينة من الأوزان الأصلية المتبقية ، وسيتم تخفيض الباقي إلى صفر. سنأخذ في الاعتبار حقيقة أن العصبون يولد طفرة عندما يتم تنشيط العديد من مدخلاته على الفور في فترة زمنية قصيرة . من هذا يمكن افتراض أن المدخلات غير الصفرية المتبقية لها ارتباطات في الوقت المناسب.

_{اعتمادًا على زيادة / نقصان الوزن المشبك على ارتفاع العسل (قبل) ومخرج (ما بعد) ارتفاع}

هذه الظاهرة معروفة جدًا ومؤكدة في العديد من التجارب ، ولكن تجدر الإشارة إلى أنه من خلال اتباع بروتوكولات تجريبية مختلفة ، لا يزال بإمكانك تحقيق تشويه / انتهاك لهذا القانون ، وليس كسر المتطلبات الرسمية لمسامير ما قبل ما بعد [0].

عودة سبايك الظهر

الخلايا العصبية الهرمية (وربما معظم نوع مشهور من العصبونات القشرية) لديه الآلاف من نقاط الاشتباك العصبي، التي تنتشر فيها شجرة لها شجيري (في الواقع، كان لديه اثنين من شجرة شجيري). إذا حددنا العديد من نقاط الاشتباك العصبي - بالقرب من سمك السلور ، بعيدًا ، وبعيدًا عنه تمامًا - ورأينا نوع مخططات STDP التي يحصلون عليها ، فستكون المخططات مختلفة.

بالنسبة للمشابك القريبة من سمك السلور ، سيبدو الجدول بشكل كلاسيكي - كتنوع في موضوع تدريب الحبة. أي كما في الصورة أعلاه. كلما ابتعد عن سمك السلور ، كان حجم هذا التدريب أصغر. وإذا كنت تأخذ المشابك البعيدة ، يمكنك أن ترى أشياء غريبة للغاية. على سبيل المثال ، إذا كان ارتفاع الإدخال (الذي جاء إلى المشبك) يسبق الإخراج ، فإن التجربة لم تلاحظ تضخيمًا ، ولكن توهين هذا المشبك. التدريب ضد Antihebbovskoe ، كارل! ومع ذلك ، كان من الممكن إعادته إلى قناة هيب إذا تم إنشاء التصاقات التغصنية على التشعبات البعيدة. بشكل عام ، مع تدريب المشابك الأقرب إلى سمك السلور ، كل شيء واضح تمامًا ، ولكن في المناطق البعيدة يبدو كما لو أن هناك خوارزمية تعلم مختلفة في ~~الفوضى~~ [1] .

دعونا نرى من أين تأتي كل أرجل هذا. لذا ، لتكرار STDP ، من الضروري توليد سنبلة في سمك السلور. بعد ذلك ، يجب أن تعرف المشابك عنه بسرعة . للقيام بذلك ، من المستحسن أن ينتشر الارتفاع لهم من المحور المحوري. الخبر السار هو أن هذا يحدث بالفعل. يرسل العصبون ارتفاعًا ليس فقط للخلايا العصبية الأخرى ، ولكن أيضًا إلى التشعبات. الأخبار "السيئة" هي أنه مع انتشار الظهر يتلاشى هذا الارتفاع الكبير. سريع جدا للوصول إلى التشعبات البعيدة. الآن من الواضح لماذا يختلف تدريب المشابك القريبة والبعيدة. يبقى لمعرفة ما يحدث في المشابك البعيدة.

من المهم أن نتذكر هنا أن التشعبات ليست موصلات سلبية للاضطرابات. هم أنفسهم يعرفون كيف يولدون المسامير عندما "يرونها ضرورية". إذا ولدت لسبب ما ارتفاعا في التغصنات ، وفي الوقت نفسه جاءت طفرة متحللة من سمك السلور إلى هذه المنطقة ، فعندما تشكلت مع ارتفاع التغصني ، (ربما) ستحصل على ~~ركلة ،~~ كما كانت ، ويمكن أن تنتشر أكثر في هذه الشجرة الفرعية. على الأقل هناك مثل هذه الفرضية. هناك فرضية أخرى هي أنه ربما يتم تدريب المشابك على التشعبات البعيدة بشكل عام دون استخدام الصوار الجسدي الذي ينتشر للخلف. المزيد عن هذا أدناه.

تأثيرات مثيرة للاهتمام في التشعبات - المسامير التغصنية كافية لللدونة

إذن ، ما الذي تحتاجه حتى يبدأ المشبك في زيادة الوزن؟ من الضروري أن يتم تشغيل الآلات الكيميائية المقابلة في هذا المكان من الخلايا العصبية. لهذا ، في المقابل ، من الضروري أن يتم تحويل الإمكانات الموجودة على الغشاء في هذا المكان بسبب بعض الاضطرابات الكبيرة بما فيه الكفاية . كيف يمكن إنشاؤها؟ متوسط EPSP المعتاد صغير جدًا لذلك. لكن قد يكون مجموع EPSP والانتشار الخلفي للصوار الجسدي مناسبًا بالفعل. لبعض الوقت كان يعتقد أن هذه هي الطريقة الرئيسية للتسبب في اللدونة.

ثم ، في التجارب ، اتضح أنه كان من الممكن قمع التصاقات جسدية بشكل مصطنع في الخلايا العصبية ولا يزال تسجيل زيادة في الأوزان في نقاط الاشتباك العصبي استجابة لتحفيزهم (وليس أي). اتضح أن اللدونة تحدث عندما يكون تحفيز المشابك قويًا بما يكفي لظهور الصخور التغصنية في هذا المكان. إنها سخط قوي بما يكفي لإحداث اللدونة في هذا المكان. [2] نعم ، نعم ، بدون مشاركة بقية الخلايا العصبية. أي أن "العنصر الأدنى" في معالجة المعلومات لا يمكن اعتباره حتى عصبونًا ، ولكن يمكن اعتباره فرعًا شجيريًا منفصلًا.

آثار مثيرة للاهتمام في التشعبات - التكتل

في الخلايا العصبية الحصينية ، وجد أن LTP (زيادة الوزن على المدى الطويل) لأحد المشابك يقلل من عتبة حدوث LTP في المشابك المجاورة. ثم أجريت دراسة للخلايا العصبية في القشرة الحسية للماوس ، حيث عالجت الخلايا العصبية البيانات من الشعيرات. وقد وجد أن اللدونة المشبكية تميل إلى التكتل.

تم أخذ عصبون محدد ، وتم اختيار 15 ٪ من المشابك العصبية ، التي كانت الأكثر تعرضًا لللدونة. لم يكن توزيعها عن طريق الخلايا العصبية عرضيًا: تبين أن جزءًا كبيرًا من الجيران - 50 من أصل 161. ثم تم أخذ عصبون من القشرة الحسية للماوس ، والتي تم قطع الشارب منها (أي أن العصبون عانى من نقص في المعلومات). لم يكن تأثير التجميع موجودًا في مثل هذا العصبون. لكنه كان أكثر حساسية على الصعيد العالمي لإشارات الإدخال [3] .

تأثيرات مثيرة للاهتمام في التشعبات - كل شيء يتغير من إعادة ترتيب المصطلحات

لذا ، دعوا EPSPs يأتون إلى التغصن لدينا ، كما في الصورة أعلاه. لا يعتمد الاضطراب الذي تسببه في الصوما على حجم هذه EPSPs فحسب ، بل يعتمد أيضًا على:

1) بعدها عن السوما
2) بعدها عن بعضها البعض.

دعنا نفكر في الترتيب. إذا جاء EPSP من المشبك إلى التغصن ، فسوف ينتشر إلى سمك السلور ويتحلل على طول الطريق. أي أنه كلما كان الأمر كذلك ، كلما تلاشى أكثر. وإذا تعطل المشبك المثبط المنشط ، فإن EPSP سيموت على الفور. وبالتالي ، إذا كان لدينا EPSPs بعيدان بعض الشيء عن بعضهما البعض ، فسوف يجلبان اضطرابين صغيرين إلى soma - ثم إذا كنت محظوظًا.

ولكن إذا كانوا بجانب بعضهم البعض ، فيمكن أن يولد التغصنات ارتفاعًا كبيرًا في هذا المكان. هذا هو الاضطراب الذي يكون فيه السعة أكبر من مجرد مجموع EPSPs. من المرجح أن تصل السنبلة الشجيرية إلى سمك السلور ، وستكون المساهمة أكبر. [4] .

ميزات الارتباط تزامن

(التزامن يشفر العلاقة ، ربط الميزة)

من الفقرات السابقة ، يتبع أن التوقيت النسبي للمسامير مهم لعمليات اللدونة في المشابك. وفي هذا الضوء لا يمكن للمرء تجاوز ظاهرة التزامن الزمني للخلايا العصبية. هذه الظاهرة موجودة في كل مكان ، وعلى ما يبدو ، أساسية للغاية ، لأنه تأكل على جميع مستويات الدماغ. فكر في مثال محدد.

يتم زرع الأقطاب الكهربائية في القشرة البصرية ، ثم تظهر له العديد من المحفزات البصرية. في السجلات من الأقطاب الكهربائية ، يُلاحظ أن بعض مجموعات الخلايا العصبية تشارك في نشاط التذبذب المتزامن في المرحلة. يمكن أن تكون هذه الخلايا العصبية في أماكن مختلفة. تميل الخلايا العصبية إلى المزامنة إذا تم تنشيطها بواسطة ملامح في الصورة ، والتي إما مستمرة أو تتحرك بنفس السرعة وفي اتجاه واحد (مبدأ المصير المشترك). بالنسبة للقشرة البصرية ، يرتبط احتمال التزامن بمدى استيفاء محفزات المدخلات لمعيار الجشطالت .

_{لا يتم النظر إلى جميع النقاط الخضراء هنا بشكل منفصل ، ولكن ككل}

تقترح فرضية العمل أن القشرة تستخدم تزامن التفريغ في الخلايا العصبية لترميز العلاقة "الكاملة" حول أجزاء الإشارة تلك التي استجابت لها هذه الخلايا العصبية. على سبيل المثال علاوة على ذلك ، ستتم معالجة إجاباتهم كوحدة واحدة بواسطة الشبكات العصبية عالية المستوى ، لأن هذه المسامير بالتحديد هي التي ستصل إلى هناك في نفس الوقت ، مما يعني أنني سألخص قبل أن تتلاشى.

تزامن النشاط في القشرة على مسافات كبيرة هو شرط أساسي للإشارة التي تسببت في هذا النشاط (على سبيل المثال ، كلمة يجب رؤيتها) للوصول إلى منطقة الإدراك الواعي. إشارة مماثلة ، يتم معالجتها دون وعي ، ستسبب فقط التزامن المحلي [5] .

كيف تتم مزامنة تجمعات الخلايا العصبية هو موضوع التحقيق [6] .

اللدونة غير المشبكية

بالإضافة إلى أوزان المشبك ، قد تخضع الخصائص الأخرى للخلايا العصبية أيضًا للتغييرات أثناء التدريب. قد تتغير استثارة عامة (قراءة ، عتبة جيل سبايك). إذا تم تعزيز العديد من الأوزان ، فمن المنطقي أن يخفض العصبون من استثارتها. وإذا كان على العكس - انخفاض مستوى التغيير في المقاييس ، فمن المنطقي أن تزداد.

مثال آخر - يمكن للمحاور تغيير الوقت الذي سترتفع فيه إلى المستلمين. لا يزال - إذا قمت بتحفيز العصبون على تردد منخفض لفترة طويلة ، فإنه يقلل من استثارة هذا تأثير طويل المدى.

إعادة

في الحصين ، هناك عصبونات تستجيب لمكان معين في الفضاء. Nazyvaeyutsya خلايا مكان . أي ، إذا كان الجرذ في مكان واحد من المتاهة ، فإن خلية واحدة من المكان تتفاعل مع الحد الأقصى ، إذا في مكان آخر - آخر. عندما يكون الفأر نائمًا أو مستريحًا ، في الحصين تلك تسلسلات خلايا المكان التي تتوافق مع المسافات المقطوعة فعليًا قبل أن تبدأ هذه المسارات في اللعب بوتيرة متسارعة. بالنسبة للخلايا المتبقية ، لم يتم ملاحظة هذا ، أي أن هذه التسلسلات ليست عشوائية.

في الصورة: يتبع الجرذ مسارًا مستقيمًا ، ويتم تنشيط القفص "الأزرق" للمكان أولاً ، ثم "أحمر" ، ثم "أخضر". ثم تتلقى تعزيزات ، ويبدأ التشغيل المتسارع لهذا التسلسل بالترتيب العكسي "أزرق أحمر أخضر".
بالإضافة إلى ذلك ، يمكن أن يلعب الحصين أماكن مستقبلية قبل أن يزوره الفئران بالفعل (مرحلة ما قبل الطهي).

ليس أقل إثارة للاهتمام - تؤثر عملية الإعادة في الحلم أيضًا على القشرة الدماغية. أي في القشرة وفي الحصين على حد سواء يتم نسخه مرتبطًا بنفس التجربة التي حدثت خلال اليقظة السابقة [7] . هناك فرضية مفادها أن الحصين هو عبارة عن وحدة لحفظ سريع ، والقشرة مخصصة للتعلم العميق البطيء. ربما يتذكر الحصين أحداث الحلقة بالترتيب الذي يتم اتباعها به ، ثم "يفقدها" إلى القشرة مرارًا وتكرارًا بوتيرة متسارعة بحيث تسحب الأنماط المخفية من هذه التسلسلات. ثم من الواضح لماذا يفقد مريض يعاني من الحصين البعيد القدرة على إنشاء ذكريات جديدة طويلة المدى ، لكنه لا يفقد تلك التي تم إجراؤها قبل العملية.

LTP-L (في وقت متأخر من مرحلة LTP )

لا يعتمد طول عمر التغييرات في أوزان المشبك على التحفيز الأولي الذي تسبب فيها فحسب ، بل يعتمد أيضًا على الأحداث التي تحدث قبل وبعد . تظهر التجارب أن الذاكرة قصيرة المدى للمنبه يمكن دمجها في ذاكرة أطول إذا واجه الحيوان حدثًا قويًا داخل فترة زمنية معينة حول هذا المثير. يتم تسجيل هذا على مستوى الخلايا العصبية الفردية. دع بعض بروتوكول التحفيز ينجح في التسبب في تحسين المشبك قصير المدى. يمكن إجراؤه على المدى الطويل إذا كان المنبه القوي (الكزاز) يحفز بعض المسارات الأخرى المتقاربة على نفس العصبون (داخل النافذة الزمنية الصحيحة ، بالطبع).

تثبيط جانبي

(تثبيط جانبي ، تثبيط محيط ، قمع محيط)

هذا المبدأ البسيط معروف للعلماء من أوقات الكهف. ربما رأيت أوهامًا مثل هذا:

في فجر علم الأعصاب ، كان يعتقد أن العصبون كان يبحث عن محفز في مجاله الاستقبالي ، وإذا تم العثور على المثير المطلوب هناك ، فإن الخلايا العصبية تولد بشكل مكثف. إذا لم يتم العثور عليه تمامًا ، ولكن يبدو - فإنه يولد أيضًا طفرات ، ولكن ليس بشكل مكثف. ثم اتضح أن نشاط الخلايا العصبية يمكن تثبيطه من خلال أنشطة من خارج مجاله الاستقبالي .

بالإضافة إلى شبكة الإثارة (وهي أيضًا الشبكة الرئيسية) ، هناك شبكة أخرى في الدماغ - شبكة من المثبطين المثبطين. توفر الخلايا العصبية "الرئيسية" إثارة في الشبكة ، وكقاعدة ، تمنعها الخلايا العصبية. لدى الأطباء الداخليين منطقة عمل محلية. يوجد عدد أكبر من الخلايا العصبية من الخلايا العصبية ، لكن الخلايا العصبية أكثر تنوعًا. على وجه التحديد ، يفترض أن الوهم البصري المذكور مأخوذ بسبب تفاعل الخلايا العصبية المثيرة مع الخلايا المثبطة. منطق العملية هو: كلما زاد تنشيط العصبون ، زاد تثبيطه (بمساعدة الخلايا العصبية) النشاط في الحي. تتنافس الخلايا العصبية المثيرة مع بعضها البعض من أجل الحصول على أكبر مساهمة في الإشارة للطبقة التالية من الخلايا العصبية. إذا تم تنشيطك للغاية ، فسوف تبطئ الجيران بشكل كبير. إذا تم تنشيط الجيران بشكل ضعيف ، فسوف يبطئك قليلاً.ونتيجة لذلك ، فإن جميع العناصر غير الخطية في بيانات الإدخال "تبرز" أكثر ، وستعمل الطبقة التالية مع هذا بالفعل.

توضيح واضح للغاية للمبدأ

- . , , .

كشف خطأ التنبؤ [8]

تتعلم الخلايا العصبية للدوبامين ربط نوع من "المفاتيح" في إشارة الإدخال للحصول على مكافأة. يستخدمون الخوارزمية التالية:

(1) في حالة حدوث مكافأة غير متوقعة ، فإن الخلايا العصبية تستجيب عن طريق زيادة وتيرة المسامير ( لدينا خطأ إيجابي ).
(2) بعد التدريب ، يتفاعلون بالفعل مع "الحدث الرئيسي" ، وليس على الجائزة نفسها. على سبيل المثال على سلف المكافأة يصدرون زيادة في التردد. وبالنسبة للمكافأة ، إذا جاءت في الموعد المحدد ، فلا يوجد رد فعل ( ليس لدينا خطأ ).
(3) إذا تنبأ عصبون متدرب بمكافأة ، ولكنه لم يحدث ، فإنه يستجيب من خلال تقليل تكرار المسامير ( لدينا خطأ سلبي )

يُعتقد أنه ليس هناك تدريب جمعي فحسب ، بل تأسيس علاقة "سبب-تأثير". هذا ، على سبيل المثال ، ترتبط السحابات الرعدية بالمطر ، لأنه غالبًا ما يحدث - ترى الغيوم ، ثم ترى المطر. يحدث الشيء نفسه مع مظلة: ترى مظلات في الناس ، ثم ترى المطر. ولكن إذا بدأ المطر على الأقل بدون مظلات ، فمن الواضح بالفعل أن المظلات ليست سبب المطر.

مكافأة لأولئك الذين يقرؤون: حدوث منعكس مشروط على عصبون معين

, - . : , ( ) , . , . .

, — . , , . “ ”. . , , -. . ( ) :

1) 100 000 ( )
2) ( - inferior olive)

( , ), — . , , , :

, (), (). — , — (ISI) (CS) (US) , .

, , . , . . , , - .[9].
, (supervised learning), , (unsupervised learning), — (reinforcement).

الخلاصة

للوهلة الأولى ، قد تبدو نفس STDP خوارزمية تعلم كاملة لشبكات الخلايا العصبية السنبلة. ولكن في الواقع لا يوجد حاليًا نماذج فعّالة للتعلم الاصطناعي. أي أنه يمكنهم القيام بشيء - على سبيل المثال ، إعطاء 95٪ على معيار MNIST - ولكن المهام الأكثر تافهة عليهم ليست جيدة جدًا.

حدث المزيد من التقدم في السنوات الأخيرة في الشبكات حيث تكون المسامير غائبة كطبقة. تعتمد خوارزميات التدريب هناك على نزول التدرج فوق سطح الخطأ ، حيث يكون الخطأ دالة في أوزان المشبك. يتم تحقيق العمل مع الجانب الزمني من خلال التغذية المرتدة في الطوبولوجيا. وقد تم إدخال الاهتمام والتعزيز بنجاح في هذه الشبكات. على هذه الخلفية ، لا تزال نماذج السنبلة تبدو "فقيرة".

أي استنتاج هذا؟ من الصعب القول بالتأكيد. ربما لا تزال الاختراقات في شبكات السنبلة في انتظارنا: فليس من داعٍ أن يتألف الدماغ من خلايا عصبية عالية. وربما لا تتمتع نماذج الارتفاع الحالية بقدرة معالجة أجهزتنا "لإظهار نفسها". أخيرًا ، ربما تكون المسامير ميزة منخفضة المستوى للحديد الحيوي ، وعلى رأسها ينفذ الدماغ نفس نزول التدرج عن طريق الخطأ في شكل ما. ومع ذلك ، لم يتم تضمين هذا في فرضية العمل الحالية لعلم الأحياء العصبية بسبب عدم وجود أسباب.

بعض الخوارزميات تحت غطاء المخ