ديميس حابس - الفكر العظيم الذي خلق الفكر العظيم

"نحن بحاجة إلى تحسين كبير في سلوك الإنسان أو تحسين كبير في التكنولوجيا ، والعالم لا يبدو أنه يتصرف وفقًا للمبدأ الأول".

بالنسبة إلى المدير التنفيذي لشركة Demis Hassabis التي يبلغ حجمها نصف مليار ، يبدأ يوم العمل بأمور دنيوية. لا يهز الملفوف في الساعة 5 صباحًا في صحيفة وول ستريت جورنال ، ولا يوجد تمرين مكثف يليه الإفطار. بدلاً من ذلك ، يصل إلى مكتبه بجوار Kings Cross في لندن في وقت مقبول ، ويقضي اليوم في الاجتماعات ، ثم يعود إلى المنزل لتناول العشاء العائلي مع زوجته وطفليه في الساعة 19:30.

هناك ، يمكنه الاسترخاء ووضع الأطفال على السرير في الساعة 10 مساءً ، وبدء ما يسمونه "يوم العمل الثاني". ثم يصبح كل شيء أقل دنيوية.

يقول: "لا أنام حتى الرابعة صباحًا". "في بعض الأحيان حتى 4.30 ، وهذا يتوقف على كيف تسير الأمور."

إذا كان النصف الأول من يوم العمل مخصصًا لممارسة الأعمال وإدارة 700 موظف - 400 منهم أطباء للعلوم ، في محاولة للحفاظ على موقعه كشركة عالمية رائدة في مجال الذكاء الاصطناعي ، ثم في النصف الثاني من يوم العمل يذكر نفسه لماذا يدير هذه الشركة بشكل أساسي . نحن نتحدث عن علوم الكمبيوتر والرياضيات وكيفية مواكبة العصر. "هذا عندما أقوم ببحثي."

ترجمة - ديانا شيريمييفا.

تم دعم الترجمة بواسطة شركة EDISON Software ، وهي شركة أمنية محترفة ، وتقوم أيضًا بتطوير أنظمة التحقق الطبي الإلكترونية .


على الرغم من أنه يعترف بأنه مذنب في "الأسبوعين" ترتبط هذه الدراسة إلى حد كبير بتحليل مباريات الشطرنج. إن شركة Hassabis ، DeepMind ، التي حصلت عليها Google في عام 2014 مقابل 400 مليون جنيه إسترليني ، هي النظير البريطاني لشركة Elon Musk ، على أي حال فيما يتعلق بالطموح. إنه لا يهدف إلى الزيادة بل إلى التحول. مهمته: "فهم الذكاء الاصطناعي ، ثم استخدمه لحل كل شيء آخر."

خلال لقائنا ، الحسبة البالغ من العمر 42 عامًا مدروس للغاية. بعد بضعة أيام من مقابلتنا ، سيبذل DeepMind شيئًا غريبًا في مغامرة مربحة. سيقومون بنشر مقال علمي يصف جزءًا رئيسيًا من ملكيتهم الفكرية - وخطوة مهمة في تحقيق هذا الهدف المذهل.

لن يكون من المبالغة القول إن هذا المقال قد ترك الكلمة الأخيرة في القصة المدهشة في كل وقت بوجود الذكاء الاصطناعي. هذا برنامج تم تطويره بواسطة شركته المسماة AlphaGo ، والذي تم تحويله بعد ذلك إلى برنامج آخر يسمى AlphaZero. هذا البرنامج ليس فقط الحل لأحد أكبر التحديات في مجال الذكاء الاصطناعى - هزيمة شخص ما في لعبة الركوب الإستراتيجية Go - يستخدم هذا النهج العام الذي ، بعد إعادة التفكير ، يمكن أن يصبح أفضل برنامج شطرنج في العالم.

يمكن للمرء أن يجادل (وهو ما يفعله الفلاسفة) ما إذا كان هذا البرنامج "لديه بالفعل ذكاء". لكن بالنسبة للحسابيين ، كان هذا تتويجا لرحلة قادته إلى كامبريدج وكلية لندن الجامعية ؛ في تلك الرحلة ، أصبح بفضله مدير شطرنج يبلغ من العمر 13 عامًا ، وتم بيع مطور برامج بملايين الدولارات حتى عندما كان حسابي نفسه مراهقًا. وبدأت هذه الرحلة في فينتشلي ، في شمال لندن ، عندما فكر الحبابيون الصغار في أسرار العقل البشري.


حسابي ، البالغ من العمر 7 سنوات ، في منزله في فينتشلي ، مع إحدى جوائزه للفوز بلعبة شطرنج.

ومع ذلك ، أمضى ديميس حسابيس "يوم العمل الثاني" متأخراً في تحليل مباريات الشطرنج ليس بسبب AlphaZero. لقد فعل هذا بسبب بعض أصدقائه القدامى في المدينة. خلال لقائنا في لندن ، تُقام المباراة النهائية لبطولة العالم للشطرنج ، والتي فاز فيها البطل النرويجي الحالي ماجنوس كارلسن بعد 12 مباراة مكثفة.

هذا يعني أنه في خضم سيرك متنقل من المدربين والمعلقين والعديد من الجدات ، كان الحسابيون يختبرون شبابه. يقول: "كان مهرجان شطرنج".

"كنت أمزح مع جوديث بولغار [مديرة مشاهير مشهورة] الآن ، حقًا. أنا لم أرها منذ 30 عامًا ". كان هو وبولجر في نفس العمر تقريبًا ، وعندما كانا في الثانية عشرة من العمر ، كانا منافسين قويين. "كانت رقم 1 عندما كنت في المرتبة 2." عندما يقول "رقم 2" ، فإنه يعني في العالم - بولجار من المجر. كانوا الأفضل في فئتهم العمرية.

للأسف ، كانت هذه ذروة مسيرته في الشطرنج. بشكل غير متوقع للجميع ، استقال الشطرنج. لم يصل أبدًا إلى مستوى أحد كبار الناظرين وشاهد بولجار تصبح أفضل لاعبة في التاريخ. الشطرنج ، قرر ، لم يكن له. "أحب ما يفعله هؤلاء الناس. يقول: "هناك نوع من النزاهة المهنية في تكريس عقولنا ووعينا لذلك". "عرفت منذ البداية أنني كنت أفضل بكثير كعميل".

بالنسبة للطفل السابق المعجزة ، والشخص الذي لديه عقل مخيف للغاية وجدول عمل خارق عن العمل ، لا يزعج الحسبة حتى أن يكونوا أدنى من الناحية الاجتماعية. على الرغم من أن قوته ونظاراته القصيرة تجعله يبدو مثل Pinfold اللطيف من سلسلة Dangerous Mouse ، إلا أنه ليس لديه أي علامات غريبة ، ولا يخفي عينيه على الأرض عندما يتحدث إليك. ليس من الطبيعي بالنسبة للمبرمج فقط ، لسوء الحظ ، يبدو طبيعيًا جدًا بالنسبة لشخص عادي.

لهذا السبب ، استقال من لعبة الشطرنج. "هناك الكثير من الأشياء المثيرة في العالم التي تقضيها طوال حياتك في هاجس" ، كما يقول. هكذا شعرت عندما كنت صغيراً. أحببت الفيزياء والفن والكثير من الأشياء. لتصبح ماغنوس كارلسن ، يجب أن تكون مهووس بجدية. أنا مجنونة ، لكن في الحال - إذا لم يكن الأمر عبارة عن تباين جذري. "

في البداية ، وبسبب حياته ، يبدو الحسبة من أكثر عشاق الموسيقى شهرة. ينتقل من الانضباط إلى الانضباط ، من العمل إلى الجامعة ، من الجامعة إلى العمل ، دون توقف عند أي شيء - على الأقل حتى الآن. ولكن ربما يكون الأمر الأكثر إثارة للدهشة هو (وسوف ترى قريبًا أن هذا ليس بيانًا ممتعًا) ، والذي تم التخطيط له.

الطريقة الأكثر منطقية لبدء قصة حياته المهنية هي من - أنا لا أمزح - الوقت الذي كان فيه ديميس في الرابعة من عمره. في ذلك الوقت أصبح مهتمًا بلوحة رقعة الشطرنج. بالنسبة لي ، بدأ كل شيء بالشطرنج. الشطرنج هو تحسن في صنع القرار. حتى 12 أو 13 عامًا ، كنت أعتبر نفسي لاعب شطرنج محترف. رغم أنه كان طفلاً. أنت تدرس بجد وتتحدث مع المدربين وتحلل ألعابك الخاصة وتفكر في كيفية تحسين مهاراتك.

"لقد جعلني أفكر في عملية التفكير: ما هو الذكاء ، كيف يخرج ذهني بهذه الأفكار؟" وهكذا ترك مهنته في الشطرنج.

أو على الأقل ترك لعبة الشطرنج الاحترافية. ديفيد سيلفر ، زميل مبرمج الكمبيوتر وعالم الكمبيوتر ، التقى به أولاً بعد بضع سنوات عندما كانا في الخامسة عشرة من العمر. يقول سيلفر: "شاركت في مسابقة الشطرنج للشباب في سوفولك". كان ديميس طفلاً عائداً من لندن وكان بحاجة إلى مصروف الجيب. سيفوز بالبطولة المحلية ، ويحصل على جائزة تبلغ 50 جنيهًا إسترلينيًا - هكذا سيكسب مال جيبه في نهاية هذا الأسبوع. " اليوم ، يعمل Silver كمبرمج في DeepMind ، حيث يقود مشروع AlphaZero.

ذهب معظم هذه الجائزة إلى ما أصبح سريعًا هواية الحسبة الجديدة. وقال "لقد اشتريت أول حاسوب لي عندما كنت في الثامنة من عمري بالمال الذي تلقيته من الفوز ببطولة الشطرنج". "لم يفهم والداي شيئًا في أجهزة الكمبيوتر ، فهم لا يزالون لا يفهمون. لكنهم لم يقلوا أي شيء ، لقد كان أموالي. لقد بدأت البرمجة. أدركت أن الكمبيوتر هو جهاز مذهل تقريبًا سحريًا لتمكين عقلك. "

ربما تعتقد ما الدور الذي لعبه والديه في كل هذا؟ ماذا كان تعليمه في المنزل؟ من الذي جعله يدرس؟ ومتى كان لديه انهيار مراهق لا مفر منه؟

في سن 16 ، عمل على النسخة الأولية من الذكاء الاصطناعي. "كنت أعلم أنه سيكون أعظم مغامرة يمكنك المشاركة فيها

ولكن الحقيقة هي أن والديه لم يشاركوا على الإطلاق. كان والده ، القبرصي اليوناني ، بائع ألعاب ، وكانت والدته ، وهي سنغافورية صينية ، تعمل لدى جون لويس. يصفهم بأنهم أشخاص "بوهيميين" إلى حد ما ويقول أنهم يشجعونه دائمًا هو وأخوه وأخته على متابعة مصالحهم. وهذا يعني بالنسبة لأخيه وأخته الموسيقى والإبداع الأدبي ؛ بالنسبة له ، كان يعني شيئًا لم يفهموه. "لقد فقد والداي فكرة ما الذي فعلته بحق الجحيم عندما كان عمري 14 أو 15 عامًا."

حدث الشيء نفسه عندما ابتعد عنهم. كان هناك انقطاع بين اجتياز الامتحانات النهائية والدخول إلى الجامعة. تم قبوله في كامبريدج ، لكنهم قالوا إنهم لن يسمحوا له بالتعلم منهم حتى يكبر. لذلك ، شارك في مسابقة برمجة مع شركة اللعبة Bullfrog وحصل على المركز الثاني.


يدير حسابي في الثالثة والعشرين من عمره شركته الثانية لتطوير الألعاب ، 1999

"لقد دعوني إلى العمل الصيفي." في تلك اللحظة ، علموا - مثل كامبريدج - أنه قاصر. "قالوا:" لا يمكنك العمل هنا. توظيفك بطريقة غير مشروعة. " سألت: "هل يمكنني العمل على أي حال؟ »لقد دفعت لي 200 جنيه في الأسبوع في مظاريف ورقية بنية. لقد دفعت مقابل الحصول على غرفة في جمعية الشبان المسيحيين (* من جمعية الشبان المسيحيين الإنجليزية - "جمعية الشبان المسيحيين") - وهي منظمة تطوعية للشباب. ) نقدا ".

هنا كسب أكثر بكثير مما كان يمكن أن يكسب في وظيفة الصيف. شارك في تطوير Theme Park ، واحدة من أنجح ألعاب التسعينات ، بتوزيع يبلغ 15 مليون نسخة. على وجه الخصوص ، كان يعمل على الذكاء الاصطناعي الأولي ، مما يعني أن الذكاء الاصطناعي كان رد فعل على كيفية لعب الناس لهذه اللعبة. كان ديميس يبلغ من العمر 16 عامًا ، وبدأ في رؤية مستقبله. "عندما رأيت مدى نجاح هذا المشروع ، أدركت أنه سيكون أعظم مغامرة يمكنك المشاركة فيها." منذ ذلك الحين ، "كانت خطة منسقة إلى حد ما. كان لدي دائمًا شركة في ذهني مثل DeepMind. "

كاعب شطرنج يفكر في 15 خطوة إلى الأمام ، أراد أن يرتب القطع ، ويقوم بعمل مختلف المناورات الأكاديمية والمهنية ، حتى يتمكن من الإضراب.

الرقم الأول الذي وضعه هو جامعة كامبريدج ، حيث أكملت درجة البكالوريوس في علوم الكمبيوتر مهارات البرمجة العملية بمهارات نظرية أكثر. لقد كان أقرب إلى الرياضيات من علوم الكمبيوتر. أنا أحب كل شيء. لقد أعطاني قاعدة جيدة. " على الرغم من أنه لا يتفق مع نهجهم في الذكاء الاصطناعي. كل شيء يدور حول المنطق. كان من الواضح لي أن هذا هو الطريق إلى العدم. لا يمكنك أبدًا برمجة ما يكفي من المعرفة لكي تصبح ذكيًا فجأة. لا نعرف ما يكفي عن المعرفة الموجودة في أدمغتنا لتقديمها كمجموعة من القواعد المعينة. "

الخطوة الثانية بعد كامبريدج هي العودة إلى إنشاء ألعاب الكمبيوتر ، وهذه المرة تحت قيادته. الهدف ، مع ذلك ، لم يكن البرمجة ، ولكن العمل. كنت بحاجة لمعرفة كيفية إدارة شركة وفرق.

بعد إصدار مباراتين - يمكن أن يتذكر المشجعون Black & White and Republic: Revolution - لقد تعلم كل شيء يريده وأغلق استوديو لعبته. ولكن: "لم يكن هناك وقت لإنشاء DeepMind. كنت بحاجة إلى مصدر للأفكار يتجاوز علم الكمبيوتر. ثم دافعت عن رسالة الدكتوراه في علم الأعصاب الإدراكي. على وجه الخصوص ، في مجالات البيولوجيا العصبية ، لم يكن لدينا فكرة بسيطة عن كيفية التكيف مع الذكاء الاصطناعي. أراد أن يعرف كيف يعمل الدماغ من أجل إعادة إنتاجه على جهاز كمبيوتر.

وأخيرا ، في عام 2010 ، حان الوقت.

DeepMind ، التي أسسها Hassabis مع الأصدقاء مصطفى سليمان وشين ليج ، لا تزال تعمل كشركة منفصلة. منذ أن اشترتها Google - أكبر عملية استحواذ في أوروبا - يقع DeepMind في المقر البريطاني في Kings Cross.

المكتب هو الحلم المطلق ، فهناك كل ما يمكنك أن تراه مع عملاق التكنولوجيا. هذا هو المكان الذي نادراً ما تبتعد فيه عن طاولة البينج بونج على بعد خطوات قليلة ، وإذا حدث ذلك ، فمن الأرجح أنك بجوار العصير. في المنضدة الأمامية ، يهزّ موظفو الاستقبال الذين يرتدون ثياباً متقنة ويثقبون الهواء ، قائلين إن هذه مجرد وظيفة مؤقتة يحتاجون إليها قبل أن يبدأ تطور مهنتهم في الرقص. تم تزيين النوافذ بأسلوب قديم مع شخصيات لعبة فيديو منقطة.

الشيء الوحيد الذي يضفي قليلاً على هذا المظهر الأنيق هو الموظفين أنفسهم ، الذين يمشون معك وهم يرتدون قمصانًا ، ويحملون دائمًا أجهزة الكمبيوتر المحمولة ، ينضحون هذه الرائحة ، التي لا تُعرف على نحو واضح ، وهي مألوفة منذ الطفولة ، إذا أمضيت طفولتك في Games Workshop. يبدو الأمر كما لو أن دورة علوم الكمبيوتر بجامعة كامبريدج انتقلت فجأة إلى مقهى محب للورك في دالستون. التي ، بالطبع ، ليست بعيدة عن الحقيقة.

لكن يمكنك إزالة جميع الجدران الزجاجية والفولاذية والخشبية ، ولا يزال لديك شيء آخر متبقٍ. هناك العديد من لوحات Go كما توجد طاولات تنس الطاولة ، وتحظى اللوحات المملوءة بالمعادلات في القاعات باهتمام أكبر من كرة الطاولة الموجودة أمامهم. عندما أقوم بجولة ، أذهب إلى مكتب تورينج ومكتب فون نيومان وقاعة مؤتمرات رامانوجان. "لقد كان تقدمًا كبيرًا بالنسبة للنساء" ، كما يقول أحد الموظفين بينما نسير عبر مكتبين: ماري شيلي وسومرفيل.

يوجد في كل مكان شعور بالإثارة الذهنية الضخمة. الشعور بالغليان ، كما لو أن أي شيء يمكن أن يكون وراء الأبواب. لسبب ما ، ليس من المستغرب أنه بمجرد دخولك إلى غرفة Gauss ، تكتشف أن مدير المدرسة والسيد الدولي يشاهدان مباريات التعادل في بطولة العالم للشطرنج باستخدام تحليل AlphaZero. يقول ماثيو سادلر ، غراند ماستر المذكور آنفا ، "إنه يلعب فقط ألعاب الذواقة" ، حيث يوصي AlphaZero بالخطوة التي تخطاها ماغنوس كارلسن.

ثم أغلق هذا الباب وأتساءل ما هو التالي.

لكي تفهم سبب كون ألعاب AlphaZero خاصة جدًا ، ولماذا تشعر سادلر بالحماس الشديد ، فأنت بحاجة إلى الرجوع إلى 21 عامًا. في عام 1997 ، فاز الكمبيوتر Deep Blue على غاري كاسباروف ، بطل العالم في الشطرنج ، في واحدة من أشهر المباريات على الإطلاق. تم الإعلان عن هذا الحدث باعتباره المعركة النهائية للإنسان ضد الآلة.

ومع ذلك ، في الواقع ، كانت هناك لعبة أخرى لم تستطع أجهزة الكمبيوتر التغلب عليها: Go ، وهي لعبة لوح في الشرق الأقصى ، حيث يوجد عدد أكبر بكثير من مواقع اللعبة أكثر من الذرات في الكون.

Go هي لعبة لا تستجيب للحساب الخام. يتطلب الحدس والتقييم الغريزي للموقف والجمال. على عكس لعبة الشطرنج ، حيث يمكن للهاتف المحمول بحلول عام 2016 أن يلعب لعبة جديرة بالثقة حتى مع أحد كبار المسؤولين ، لم تكن هناك برامج مماثلة لمستوى لعبة Go. في تلك اللحظة ، ظن الكثيرون أن Go سيكون لها تفوق بشري لمدة 20 عامًا أخرى. الفكر الحبيبي خلاف ذلك.

اشترت Google DeepMind لأنها أرادت تحسين الذكاء الاصطناعي بشكل عام ، لتطوير برامج يمكن أن تكون جيدة ليس فقط في شيء واحد فقط - على سبيل المثال ، في لعبة الشطرنج ، ولكن في العديد من المجالات. في النهاية ، يمكن استخدام هذه الذكاء العام لحل المشكلات العلمية والتجارية.

في الواقع ، قام DeepMind بالفعل ببعض هذه الأشياء - يتم استخدام برنامجه للتوصية بالشراء على Google Play وقلل من استهلاك الطاقة في غرف خادم Google. قبل أسبوعين ، فاز DeepMind بمسابقة للتنبؤ بكيفية طي البروتينات ، وهي مهارة مقصور على فئة معينة والتي تعد في الواقع مهمة لجميع العمليات في الجسم. ولكن هناك طريقة جيدة لإثبات أن الذكاء الاصطناعي يعمل للعالم بأسره هو القيام بذلك بنفس الطريقة التي يعمل بها الناس ، بما في ذلك الحبابيين ، لإثبات وجود ذكاء من خلال اللعبة.

كان أسلوب DeepMind في Go مختلفًا تمامًا عن البرامج التي تم استخدامها مسبقًا. في حين أن ديب بلو تطلب من فريق من المبرمجين والجدة تعليمه حيل الشطرنج ونقل المعرفة الإنسانية المتراكمة على مدى آلاف السنين ، لم يتطلب AlphaZero حرفيًا أي شيء. بدأ هذا البرنامج حياة المولود الجديد في عالم جو. كل ما كان يعرفه هو ما يريد الفوز به ، وكان كل ما لديه هو مجلس ومعرفة بالقواعد.


مع ستيفن هوكينج ، 2017

ثم ، عندما كان طفلاً يتخذ خطواته الأولى ، خلال عشرات الآلاف من الألعاب التي لعبت ضده ، جرب وعزز فهمه. بسبب نقص الكلمات تعلم الحدس. بالتدريج ، أتقن مهارات سادة الناس بشكل مستقل ، واكتسب أيضًا العديد من مهاراته. ثم استخدم هذه المهارات لتدمير دعامة الذكاء البشري. تم قياس طفولة AlphaZero بالساعات ، وبعدها تمكن من هزيمة أفضل شخص في العالم.

ومع ذلك ، هذا لم يكن كافيا. بعد أن أصبح برنامج حسابي بطل الكمبيوتر بلا منازع لـ Go ، ذهب إلى المؤتمر للحديث عن إنجازاته. اقترب منه موراي كامبل ، الذي كان ضمن فريق ديب بلو الذي هزم كاسباروف. سأل موراي: "ماذا سيفعل إذا جربناه على لعبة الشطرنج؟ ". بالنسبة للبرنامج العادي ، سيكون السؤال بلا معنى - يعرف Deep Blue كيف يلعب شطرنج grandmaster ، لكن مطالبتهم بلعب Go ستكون سخيفة مثل طلب الحمام. للقيام بذلك ، ستحتاج إلى البدء من جديد وتطوير نظام جديد من البداية. بالنسبة إلى AlphaZero ، هذا يعني ببساطة مرحلة جديدة في مهدها.

وهكذا ، ولدت AlphaZero من جديد في عالم الأسود والأبيض. هذه المرة على متن الطائرة لم تكن رقائق Go المسطحة ، ولكن كانت الملكات والملوك والفيلة والملكات الشطرنج. وقال حابسيس: "بإمكان AlphaZero أن يبدأ اللعب في الصباح بطريقة عشوائية تمامًا ، وبعد ذلك سيكون للشاي مستوى غير إنساني". "بحلول العشاء ، ستكون هذه أقوى منظمة موجودة على الإطلاق". عندما نظر إلى الألعاب ، أدرك أنه لم يكن أفضل لاعب في العالم ؛ لم يكن فقط أفضل جهاز كمبيوتر ؛ اكتشف أيضًا طريقة جديدة للعب.

قال حابس: "إنها مثل لعبة الشطرنج من كوكب آخر". "يمكنك أن تقدر هذا الجمال. يضحى AlphaZero بالقطع ، ويكشف عن خطوط جديدة للهجوم. " سمح أحد غراند ماستر لتحليل ألعابه ، ومقارنة هذا الإجراء مع البحث عن أجهزة الكمبيوتر المحمولة القديمة من عبقرية الشطرنج طي النسيان من الماضي.

في المستقبل ، سيكون الذكاء الاصطناعي قادرًا على التفكير كعالم وخلق اكتشافات على مستوى جائزة نوبل.

بسبب لعبة فووسبالل والطموح العالي ، يبدو كل شيء مبررًا كما لو كان DeepMind محاكاة ساخرة لوادي السيليكون. الآن فقط ، إذا كان الأمر كذلك ، فسيكونون وادي السيليكون في الوقت الحالي. حسابي مبرمج. Valhalla -, Facebook, Microsoft , : .

. DeepMind Google, ; .

« , . », — . — . . « . . , . .

Google , YouTube. , DeepMind . , ; . « , Google, », — .

. . — , . , , , , . — , , Go, . , , , . , .

, , . , , , .

AlphaZero. , , , . « , , — . , — , — , , , . « , AlphaZero , . , , . AlphaZero».

, , . , , , « ».

, , . . , , , , . DeepMind — NHS.

. 2017 , , , DeepMind . , Google, , .

, DeepMind («» — , , -). — , , .

, - , . , , , , , .

, , , « ». , . , , , , .

« , , », — . « , , , , . , , ».

, , . , , . 13 . , , .

, , , . , , , , -, - .

, , , . « . “ ”. , , — , — , - ».

.