هل يمكنك الوثوق بالنصيحة الطبية للروبوتات؟ الأطباء ليسوا متأكدين بعد.

تقدم Babylon Health ، التي تقدر قيمتها بحوالي 2 مليار دولار ، خدمة chatbot التي تقدم المشورة الطبية بناءً على الأعراض الموضحة. وقد استخدم 1.7 مليون مرة. ومع ذلك ، يشعر الخبراء بالقلق من أنه لا يعمل تمامًا كما وعد في الإعلان.

واجه Hamish Fraser بابل للصحة لأول مرة في عام 2017 ، عندما ساعد هو وزميل له في مقالة في Wired في التحقق من دقة تشخيص العديد من أنظمة الذكاء الاصطناعي المرتكزة على الأعراض المصممة لتقديم المشورة لأي شخص لديه هاتف ذكي. من بين المنافسين الذين يعانون من إدراك الأمراض الشائعة ، بما في ذلك الربو والقوباء المنطقية ، كان مدقق أعراض بابل الصحي هو الأسوأ. وخلص فريزر ، الذي عمل بعد ذلك مفتشًا للمعلوماتية الصحية في جامعة ليدز في إنجلترا ، إلى أن الشركات تحتاج إلى تحسين خدماتها بشكل خطير حتى لا تترك السوق.

"في تلك اللحظة لم يكن لدي أي تحيز لأي منهم ، ولم أكن أعلم أي شيء ، لذلك لم يكن لدي أي غرض للوصول حتى مع شخص ما ، واعتقدت: Nda ، هذه ليست نتيجة جيدة للغاية ، - يقول فريزر ، الذي يعمل الآن في جامعة براون. "اعتقدت أنهم سوف يختفون". ولكن كيف كنت مخطئا ".

منذ إصدار هذه المادة ، تغير الكثير. منذ بداية عام 2018 ، نمت شركة Babylon Health ومقرها لندن من 300 موظف إلى ما يقرب من 1500 موظف ، وتقدر قيمة الشركة بنحو 2 مليار دولار ، وتزعم "توفير خدمات طبية بأسعار معقولة وبأسعار معقولة لكل شخص على هذا الكوكب." في إنجلترا ، تُجري Babylon Health خامس أكبر ممارسة طبية تحت إشراف نظام وطني للرعاية الصحية ، تموله بشكل رئيسي الحكومة ، التي تسمح للمرضى الذين يعيشون بالقرب من لندن وبرمنغهام بالتحدث مع الأطباء عبر الفيديو أو الذهاب إلى العيادة حسب الحاجة. تدعي الشركة أنها عالجت أكثر من 700000 استشارة للمرضى الرقميين مع الأطباء ، وتخطط لتوفير خدمات مماثلة في مدن بريطانية أخرى في المستقبل.

تعد شركة Babylon Health بتوفير المال على الخدمات الطبية الباهظة الثمن بشكل متزايد ، باستخدام الذكاء الاصطناعي لتصفية المرضى ، بحيث يتم توفير الوقت والموارد فقط للأشخاص الذين يحتاجون بالفعل إلى مساعدة طبية. وتقول شركة Babylon Health في إنجلترا وخارجها ، إن برنامج فحص الأعراض قد استخدم أكثر من 1.7 مليون مرة في أماكن مثل إنجلترا والاتحاد الأوروبي وكندا وجنوب شرق آسيا والمملكة العربية السعودية. قريباً ، تخطط بابل للصحة للتوسع أكثر ، ودخول الولايات المتحدة والصين.

يقول ديفيد فون ، الذي يحاضر حول استخدام الذكاء الاصطناعى في الرعاية الصحية بجامعة مانشستر في إنجلترا ، إن التوسع السريع يمكن أن يكون مشكلة لأن "هذه التكنولوجيا - وليس فقط برامج اختبار الأعراض ، ولكن أيضًا التدخلات الرقمية الأخرى - يمكن الترويج لها بسرعة وتغييرها". وعملت مع فريزر على اختبار هذه النظم لمقال. يقول فون ، "على الرغم من ذلك ، يمكن أن تحدث فرقًا كبيرًا" ، وبابل على وجه الخصوص ، تعد بابل هيلث "مثالًا على شركة تمكنت من تحقيقها بسرعة كبيرة".

يثير هذا التطور السريع للأحداث أسئلة معينة من الخبراء الذين يزعمون أن شركة Babylon Health سارعت لاقتحام السوق دون وجود أدلة كافية على صحة منتجاتها. حتى الآن ، لم تكن هناك عمليات تقييم خبيرة لخدماتهم ، مع مجموعات اختبار ومراقبة عشوائية - طرق تعتبر المعيار الذهبي في العلوم الطبية - والتي من شأنها أن تظهر مدى تعامل الذكاء الاصطناعي مع المرضى الحقيقيين في ظروف حقيقية. ومع ذلك ، فإن برنامج اختبار الأعراض الخاص بابل هيلث يؤثر بالفعل على الآلاف من الناس كل يوم - حيث يحصل على موافقة من الجهات التنظيمية الحكومية في البلدان التي يقدم فيها الخدمات.



وقالت مارجريت مكارتني ، طبيبة عامة من غلاسكو ، اسكتلندا ، والناقد في بابل هيلث: "لقد تمكنوا من الحصول على موافقة من نظام الرعاية الصحية الوطني دون حتى اختبار المنتج على مرضى حقيقيين ، دون الخضوع لاختبارات الطرف الثالث - وهذا لا يمنع المنظمين". "يبدو الأمر مذهلاً بالنسبة لي."

تدعي Babylon Health بأنها تفي بمتطلبات نظام الرعاية الصحية الوطني ، وفي جميع البلدان التي تعمل فيها الخدمة ، تلبي جميع المتطلبات التنظيمية. تدعي الشركة أيضًا أنها توظف باحثين جامعيين لتنظيم تجارب معشاة ذات شواهد. وقال كيث غرايمز ، مدير الابتكار السريري في بابل هيلث "لقد اتخذنا خطوات مهمة نحو اختبار سلامة هذه التقنية وفعاليتها". "ليس فقط في شكل تجارب سريرية."

استدعاء الطبيب Chatbot

يبدو مدقق أعراض Babylon Health وكأنه دردشة دردشة يقوم المستخدمون بالدردشة معها من خلال تطبيق أو موقع ويب. عندما يقوم المستخدم بإدخال الأعراض الرئيسية له في شكل جملة أو عبارة قصيرة ، يسأل مدقق الأعراض أسئلة متعلقة بالوجود المحتمل للأعراض المرتبطة. ونتيجة لذلك ، فإن برنامج فحص الأعراض يحدد الأسباب المحتملة ويوصي باتخاذ المزيد من الإجراءات - احتياطي للتشاور على الفيديو مع أخصائي علاج أو زيارة إلى المستشفى.



تُعرف التكنولوجيا التي يقوم عليها برنامج اختبار الأعراض باسم الرسم البياني للمعرفة وتعمل مثل الموسوعة الرقمية للطب ، حيث يتم تمييز العلاقة بين مختلف الأمراض والأعراض والظروف. يتم تمثيل العلاقة بملايين النقاط المرجعية من مئات المصادر الطبية ، ويتم تحديثها باستمرار. يمكن لبرنامج فحص الأعراض أيضًا إدارة سجلات السجلات الطبية - بما في ذلك البيانات التي يتم جمعها أثناء عمل المستخدمين مع البرنامج - لتحديد الارتباطات المحتملة بين أمراض مختلف المستخدمين.

يمكن تعديل الرسم البياني للمعرفة عن طريق إضافة البيانات للمساعدة في تقييم احتمال الإصابة بأمراض مختلفة في بعض السكان والمناطق الجغرافية.

يقول سوراب جوهري ، عالم بارز في بابل هيلث ، إن بابل هيلث "تخلق نموذجًا للطب لا ينطبق فقط في المملكة المتحدة والولايات المتحدة الأمريكية ، ولكن على الصعيد العالمي". يقول إن النموذج يجب أن يكون قابلاً للتخصيص "ليعكس الخصائص المحلية للمرض - حتى إذا اشتكى المريض من القيء والحمى والإسهال في لندن ، فمن المحتمل أن يكون مصابًا بالملاريا أقل مما لو كان يعيش في رواندا".

تستخدم العديد من الشركات الطبية الأخرى تكنولوجيا التعلم الآلي ، وهي شائعة في مجال الذكاء الاصطناعي ، وخيارها ، مثل التعليم العميق ، لتدريب البرامج لتحليل بيانات المريض لتحديد الأعراض وإجراء التشخيصات. من خلال فحص كميات هائلة من البيانات الطبية الأولية ، يمكن لهذه الأنظمة أحيانًا تدريب البرامج للعثور على مثل هذه الأنماط والعلاقات المخفية بين النقاط المرجعية في البيانات التي يفقدها الأشخاص ومعرفتنا الطبية في بعض الأحيان. إن طريقة بابل للصحة ليست بهذه الطريقة - حيث تعكس تقديرات الذكاء الاصطناعى الخاصة بها بشكل مباشر المعرفة الطبية الحالية وفهم الإنسان للعلاقة بين الأعراض وأسبابها ، وليس الاعتماد على وعود ، ولكن في بعض الأحيان أداء الجهاز غير مفهوم .

حتى الآن ، تستخدم Babylon Health تعلمًا عميقًا لتفسير رسائل الدردشة للمرضى باستخدام chatbot. يستخدم الذكاء الاصطناعى أيضًا التعلم العميق لتسريع عملية البحث عن البيانات المطلوبة في عمود المعرفة ، حيث تحتاج إلى التحقق من جميع المجموعات المحتملة من الأعراض والأمراض وعوامل الخطر المناسبة للحالة الخاصة. ولكن بشكل عام ، يعمل Babylon Health AI بشكل أساسي من خلال المعرفة الطبية التي تراكمت لدى الأشخاص ، وليس الثقة في الجهاز للعمل على بناء علاقات منطقية.



قد تكون هناك مزايا لهذا النهج. من عيوب الآلة والتعلم العميق أنها تتطلب كميات هائلة من بيانات التدريب ذات الصلة وقدرة معالجة لتعلم الأنماط. وفقًا للبلد ونظام الرعاية الصحية ، ليس من السهل دائمًا الوصول إلى جميع البيانات الطبية ذات الصلة اللازمة لتعلم برامج الكمبيوتر. عيب آخر لهذا النهج هو التعتيم. غالبًا لا تسمح تقنيات التعلم الآلي للخبراء البشر بفهم كيفية توصيل البرنامج للنقاط المرجعية المختلفة في البيانات.

نهج بابل للصحة مع الشفافية أفضل. يقول جوهري إن الشركة تستخدم نماذج تسمح للأطباء والمبرمجين المتفرغين "بالنظير تحت الغطاء" وفهم كيف توصل برنامج اختبار الأعراض إلى أي استنتاج.

النتائج في شك

على الرغم من كل الفوائد ، لم تثبت بابل الصحة بعد أنها نموذج بسلوك مسؤول. حاولت الشركة إغلاق النقاد عن طريق التقاضي ، وتم توبيخهم من قبل المنظمين البريطانيين بسبب الإعلانات "المضللة". في مقابلة مع Wired UK و Forbes ، وصف موظفو الشركة السابقون موقفًا تتعارض فيه ثقافة الشركات مع الحاجة إلى اختبار صارم لسلامة وفعالية الذكاء الاصطناعي في الرعاية الصحية. كتب Forbes: "تُظهر المقابلات مع الموظفين الحاليين والسابقين في شركة Babylon Health والأطباء المستقلين القلق على نطاق واسع من أن الشركة كانت سريعة في طرح البرامج التي لم يتم اختبارها بشكل كامل ، ثم بالغت في فعاليتها" (تعرب الشركة عن احتجاجها النشط على هذه التصريحات).

انخرطت شركة Babylon Health أيضًا في المناقشات العامة ، وأدلت بتصريحات وصفها بعض النقاد فيما بعد بأنها مضللة. في 27 يونيو 2018 ، لفتت انتباه الشركة إلى وسائل الإعلام ، قائلةً خلال بث مباشر في الكلية الملكية للطب في لندن إن الذكاء الاصطناعي لديها قادر على تشخيص الأمراض الشائعة ليس أسوأ من المعالجين البشريين. استند هذا البيان إلى دراسة شركة تقارن الذكاء الاصطناعي بالتشخيصات التي أجراها سبعة أطباء. أيضًا في الدراسة ، تم اختبار برنامج اختبار الأعراض على أجزاء من الأسئلة من اختبار أجري للحصول على GP في بريطانيا ، وامتحان عضوية الكلية الملكية للممارسين العامين ، وسجلات تاريخية من دراسة مستقلة لعام 2015 لتقييم العديد من برامج التحقق من الأعراض.

ومع ذلك ، سرعان ما بدأ العلماء والمنظمات الطبية في إبداء القلق. أصدرت الكلية الملكية للأطباء العامين والرابطة البريطانية للأطباء والكلية الملكية للأطباء بيانات تتحدى مزاعم بابل للصحة ، بينما نظمت الكلية الملكية للأطباء عرضًا تقديميًا للشركة وساعدت في إجراء الدراسة. بادئ ذي بدء ، في هذه الدراسة ، تم اختبار الذكاء الاصطناعي فقط على جزء من أسئلة الامتحان ، ولم يتم اختبار البرنامج على أشخاص حقيقيين في بيئة سريرية.

كان لدى فريزر وفون ، الباحثون الذين ساعدوا Wired UK في اختبار برنامج فحص الأعراض في عام 2017 ، أسئلة لهذه الدراسة لأنها تضمنت عددًا صغيرًا من الأطباء ولم يتم فحصها من قبل خبراء مستقلين. قرر الزوجان دراسة هذه الدراسة عن قرب. في تقرير نشرته مجلة The Lancet في عام 2018 ، خلصوا إلى أن دراسة Babylon Health لا تقدم دليلًا قاطعًا على أن برنامج فحص الأعراض لديهم "قادر على القيام بعمل أفضل من الأطباء في أي موقف واقعي ، ومن المرجح أنه سيكون الأمر أسوأ بكثير. "

هذه النتائج تؤثر بشكل مباشر على المرضى الحقيقيين. يقول إنريكو كويرا ، مدير مركز المعلوماتية الطبية بجامعة ماكويرا في سيدني ، أستراليا: "إذا نصحك برنامج فحص الأعراض بالبقاء في المنزل وعدم الذهاب إلى الطبيب ، فإن هذا القرار له عواقب في الحالات التي يتم فيها تأخير المساعدة الضرورية أو عدم تقديمها". ، ومؤلف كتاب 2018 نشر في مجلة لانسيت.

حتى قبل موجة من الانتقادات ، بدأت بابل هيلث مفاوضات مبدئية مع جامعة ستانفورد لإجراء أبحاث تجريبية إضافية ، كما يقول ميغان ماهوني ، الباحث الطبي في ستانفورد ، مؤلف مشارك في 2018 بابل هيلث.

يقول ماهوني: "على ما يبدو ، يمكن أن يكون لمنظمة العفو الدولية إمكانات معينة" ، موضحا أنه "تقع على عاتقنا مسؤولية حقيقية للوصول إلى مستوى جديد من الصرامة في تقييم هذه الإمكانات ، لأن الذكاء الاصطناعي يمكن أن يكون مفيدًا حقًا لدعم واستكمال الخدمات الطبية" .

وصف ماهوني بابل للصحة لعام 2018 بأنها "ممتازة للبحث الداخلي". على الرغم من تفاؤلها ، فقد حذرت من أنها لن تجرؤ أبدًا على دمج هذا الذكاء الاصطناعي في الخدمات الصحية أو الممارسات الطبية الحقيقية ، بناءً على نتائج هذه الدراسة فقط.

عندما سألت مجلة Undark عن الخلافات حول هذا العمل ، ردت Babylon Health ببيان ذكر ، في جملة أمور ، "بعض وسائل الإعلام ربما أساءت تفسير تصريحاتنا ، لكننا ما زلنا مع النتائج الأولية والأدلة العلمية". وذُكر أيضًا أن عمل 2018 "تمهيدي" ، وقارن الذكاء الاصطناعى للشركة بـ "عينة صغيرة من الأطباء". كما أشارت Babylon Health إلى خاتمة الدراسة: "ستكون هناك حاجة إلى مزيد من البحث باستخدام مجموعات أكبر من الأشخاص الحقيقيين لمقارنة فعالية هذه الأنظمة مع الأطباء البشر".

الحسابات: طب القرن الحادي والعشرين

حتى بابل للصحة تعترف بأن الأبحاث الأولية لا تفي بالمعايير الذهبية للبحث الطبي. ومع ذلك ، فإن هذا لم يمنع الشركة - أو المنظمين - من منح المرضى إمكانية الوصول إلى برنامج اختبار الأعراض.

يقول إسحاق كوهان ، الباحث في علوم الطب الحيوي في كلية الطب بجامعة هارفارد ، إن هذا النهج مماثل للتجارب البشرية لعقار جديد دون إجراء اختبارات صارمة. ويضيف أن الحسابات "يمكن اعتبارها دواءً في القرن الحادي والعشرين - لذلك دعونا نتعامل معهم بنفس المسؤولية".

إذا قامت شركة Babylon Health بتنظيم اختبارات تحكم عشوائية ، فوفقًا لما ذكرته شركة Fraser ، فسوف تفعل الكثير لتأسيس الثقة في توسعها في الأسواق الأمريكية والآسيوية. تعتزم الشركة إرسال بروتوكول اختبار إلى مجلة مع مراجعة النظراء الأولية للمقالات في الأشهر المقبلة ، يقول جوهري ، مضيفًا: "سنجري هذه الاختبارات في بريطانيا ، ونحن نناقش هذه المشكلة أيضًا مع شركاء في الصين والولايات المتحدة الأمريكية".

توصي اللوائح الحالية الصادرة عن إدارة الغذاء والدواء الأمريكية بالتساهل في برامج فحص الأعراض المستندة إلى الذكاء الاصطناعي لأن المخاطر المرتبطة بها أقل من الخدمات الصحية الأخرى. يقول فريزر: "قررت الإدارة إصدار برامج اختبار الأعراض - وخدمات مماثلة - من الإشراف إلى تشجيع الابتكار". "ومع ذلك ، يبدو أن لديهم الفرصة لتنظيم هذا المجال أكثر من ذلك بكثير إذا رغبوا في ذلك."

حتى الآن ، لا يزال بعض الخبراء المستقلين قلقًا بشأن الإصدار الحالي لبرنامج فحص أعراض بابل للصحة. في أوائل سبتمبر ، مستشار مستقل للنظام الصحي الوطني البريطاني ، وغالبا ما ينتقد بابل الصحة على تويتر تحت اسم مستعار الدكتور أظهر مورفي وجود تحيز جنسي محتمل في برنامج فحص أعراض بابل للصحة.

امرأة تدخن تبلغ من العمر 59 عامًا اشتكت من ألم مفاجئ في الصدر ودوار ، وشخص برنامج اختبار الأعراض الاكتئاب أو نوبة الهلع كتشخيص محتمل. بالنسبة للمريض نفسه ، الذي أشار ملفه الشخصي إلى جنس الذكور ، أشار برنامج الأعراض بالإضافة إلى ذلك إلى وجود مشاكل خطيرة في القلب أو التوصية بزيارة المستشفى أو استدعاء سيارة إسعاف.

بدلاً من الجدال مع هذه الادعاءات ، كما كان من قبل ، اختارت Babylon Health نغمة تصالحية للإجابة على تويتر . في منشور لاحق للمدونة ، أقرت Babylon Health بالتحيز في الرعاية الصحية ، بينما دعت إلى فعالية برنامج فحص الأعراض.

هذا لم يقنع د. يريد مورفي من الشركة أن تعمل على حل المشاكل المحتملة في الذكاء الاصطناعي: "إن الأخطر من بين جميع الأطباء هو شخص لا يرى أخطائهم أو لا يتعلم منها".