تفي عالم يتطور فيه الذكاء الصناعي بصورة متسارعة لا تهدأ أو تتوقف، بدأت تظهر تطبيقات غريبة لهذه التقنية الثورية، قد تغيِّر وجه العالم كما نعرفه بالفعل.
في شهر أبريل/نيسان 2019، نشرت جامعة نوتنغهام دراسة في مجلة PloSOne عن نموذج جديد للذكاء الصناعي يستخدم التعلم الآلي للتنبؤ بمخاطر الوفاة المبكرة، باستخدام بيانات صحية (عن العمر ونمط الحياة) للبريطانيين في المرحلة العمرية من 40 إلى 69 عاماً.
وجاءت هذه الدراسة بعد عدة أشهر من الدراسة المشتركة بين جامعة كاليفورنيا سان فرانسيسكو، ستانفورد، وجوجل، والتي ذكرت نتائج التنقيب عن بيانات السجلات الصحية الرقمية اعتماداً على التعلّم الآلي لتقييم احتمالية وفاة المريض في المستشفى.
وكان الهدف المشترك لكلتا الدراستين هو تقييم كيف يمكن لهذه المعلومات مساعدة الأطباء على تحديد المرضى الذين قد يستفيدون بشكل أفضل من التدخل.
الذكاء الصناعي في مجال الرعاية الصحية
كما تبحث إدارة الغذاء والدواء في كيفية استخدام الذكاء الصناعي في الرعاية الصحية، ونشرت دعوة في وقت سابق من هذا الشهر، أبريل/نيسان، لوضع إطار تنظيمي للذكاء الصناعي في الرعاية الصحية.
ومع تقدم المحادثات الجارية بشأن الذكاء الصناعي والطب، أصبح من الواضح ضرورة وجود رؤية محددة لدور الذكاء الصناعي في تحديد وتوقع احتمالية الوفاة، حسب مجلة Wired الأمريكية.
لكن المشكلة في انحياز الذكاء الصناعي
هناك عدد من الأسباب لذلك.
في البداية، أشار الباحثون والعلماء إلى بعض الشكوك حول التحيز الذي عرف طريقه إلى الذكاء الصناعي، كما يقول إيريك توبول، الطبيب ومؤلف كتاب الطب العميق: الذكاء الصناعي في الرعاية الصحية (Deep Medicine: Artificial Intelligence in Healthcare).
بمعنى آخر، صعوبة التحيز في التعلم الآلي نابعة من "المدخلات العصبية" المُضمّنة في الخوارزمية، والتي قد تنطوي على تحيزات بشرية.
وبالرغم من حديث العلماء عن تلك المشكلة، ظلت كما هي.
مثال على ذلك: أصبح مشروع الذكاء الصناعي الجديد الذي أطلقه معهد ستانفورد منذ بضع أسابيع خاضعاً للتدقيق بسبب افتقاره للتنوع العرقي.
التحيز غير الواعي مشكلة أخرى
وهناك مشكلة التحيز غير الواعي أو الضمني في الرعاية الصحية، والذي خضع لدراسة مكثفة، سواء من جانب الأطباء أو تجاه المرضى.
هناك اختلافات، على سبيل المثال، في كيفية علاج مرضى المجموعات العرقية المختلفة الذين يعانون من الألم، إلا أن ذلك قد يختلف أيضاً بناء على جنس الطبيب وقدراته الإدراكية.
وجدت إحدى الدراسات أن هذه التحيزات أقل احتمالاً في الأطباء أصحاب البشرة السمراء والإناث. (كما وُجد أن التطبيقات الصحية على الهواتف الذكية والتقنيات القابلة للارتداء "مثل الساعات" عرضة للتحيزات).
الانحياز لذوي البشرة البيضاء
في عام 2017، واجهت دراسة أثر تلك التحيزات، ووجدت أن الأطباء قد يفضلون المرضى بيض البشرة، إلى أن ذلك لا يؤثر على قراراتهم الطبية.
ولكن هناك الكثير من الدراسات الأخرى التي توصلت إلى عكس ذلك.
حتى على مستوى الحي، وهو المستوى الذي أُجريت عليه دراسة نوتنغهام، هناك تحيزات؛ على سبيل المثال، قد تكون النتائج الصحية لبعض الأمراض أسوأ للمرضى أصحاب البشرة السمراء إذا كانوا يعيشون في مجتمعات تمارس تحيزاً طائفياً ضدهم.
ولا يمكن كذلك تجاهل التحيز بناء على الجنس؛ حيث تُعالج النساء بطريقة أقل عدوانية بعد الإصابة بنوبة قلبية (متلازمة الشريان التاجي الحادة)، على سبيل المثال.
التحيُّز حتى في الموت
وعندما يتعلق الأمر بالموت والرعاية في مرحلة الاحتضار، تصبح تلك التحيزات مثيرة للقلق بشكل متزايد، حيث إنها قد تؤكد على تلك الاختلافات الموجودة.
وجدت دراسة، أُجريت عام 2014، تزايد احتمال اتخاذ أصحاب القرار لقرار نزع أجهزة التنفس الصناعي إذا كان المريض غير أبيض البشرة.
وقامت دراسة لفهم التكهنات والتفضيلات لنتائج ومخاطر العلاجات بفحص البيانات لأكثر من 9,000 مريض في خمسة مستشفيات، وجدت أن المرضى من أصحاب البشرة السوداء يتلقون تدخلاً أقل من الطاقم الطبي فيما يتعلق برعاية مرحلة الاحتضار، وعلى الرغم من إعراب المرضى أصحاب البشرة السوداء عن رغبتهم في مناقشة الإنعاش القلبي الرئوي مع أطبائهم، فإن احتمالات إجرائهم لمثل تلك المحادثات أقل احتمالية – إحصائياً.
وتوصلت دراسات أخرى إلى نتائج مشابهة فيما يتعلق بحصول المرضى من أصحاب البشرة السمراء على معلومات أقل بشأن الرعاية في مرحلة الاحتضار.
هل وقت الموت له علاقة بالعِرق؟
هذه التوجهات ليست متسقة حتى الآن. إحدى الدراسات عام 2017، والتي حللت بيانات استطلاع للرأي، لم تجد فوارق واضحة في رعاية مرحلة الاحتضار مرتبطة بالعرق.
وكما أشار أحد أطباء الرعاية التلطيفية، وجدت العديد من الدراسات الأخرى بعض المجموعات العرقية تفضل رعاية أكثر شراسة تجاه مرحلة الاحتضار، وقد يعود ذلك إلى مقاومة التحيز المنهجي لنظام الرعاية الصحية.
وبالرغم من إمكانية اختلاف تلك التفضيلات بين المجموعات العرقية المختلفة، يظل التحيز قائماً عندما لا يقدم الطبيب – بغير وعي – كل الخيارات أو يضع افتراضات بشأن الخيارات التي قد يفضلها مريض معين بناء على انتمائه العرقية.
ومع ذلك، وفي بعض الحالات، قد يكون الاستخدام "الحذر" للذكاء الصناعي مفيداً في تقييم مرحلة الاحتضار، من بين مكونات أخرى، للحد من تأثير التحيز.
في العام الماضي، استخدم باحثون صينيون الذكاء الصناعي لتقييم الوفاة الدماغية.
وباستخدام الخوارزميات، كانت الآلة أكثر قدرة، بشكل ملحوظ، على التقاط الأنشطة الدماغية التي غفل عنها الأطباء باستخدام الأساليب القياسية.
وجلبت هذه النتائج إلى الأذهان حالة جاهي مكماث، الفتاة الصغيرة التي دخلت في حالة غيبوبة إثر مضاعفات أثناء التدخل الجراحي لإزالة اللوزتين.
قد يكون التحيز الضمني لعب دوراً في حالتها، ليس فقط في طريقة معاملتها – هي وأسرتها، بل كذلك في المحادثات التي أجريت حول إن كانت على قيد الحياة أم ميتة.
ولكن يحذر توبول من ضرورة التحقق من صحة استخدام الذكاء الصناعي لتقييم الأنشطة الدماغية قبل استخدامه خارج الإطار البحثي.
الحل: تدريب مقدّمي الخدمات الصحية
من الممكن لمقدمي الخدمات الصحية تدريب أنفسهم للتخلص من التحيز الضمني. ويعتبر تدريب التحيز غير الواعي الذي يقدمه معهد ستانفورد أحد تلك الخيارات.
بينما تقدم معاهد أخرى تدريبات تركز على المراجعة الذاتية أو الوعي الذهني.
ولكن الأمر مختلف تماماً عندما تتخيل محاولة التخلص من التحيزات في الخوارزميات وقواعد البيانات التي تدربوا عليها.
بالنظر إلى إلغاء المجلس الاستشاري الأوسع الذي أطلقته جوجل للإشراف على أخلاقيات الذكاء الصناعي، سيكون الخيار الأفضل هو السماح لهيئة تنظيمية أكثر مركزية -مثل استكمال المقترح الذي تقدمت به إدارة الغذاء والدواء- يمكنها خدمة الجامعات، والمعاهد التقنية والمستشفيات.
يعتبر الذكاء الصناعي من الأدوات الواعدة، والتي أثبتت فائدتها الكبيرة في الأغراض التشخيصية.
ولكن التنبؤ بالوفاة، أو حتى تحديد الوفاة الدماغية، منطقة شائكة وذات حساسية خاصة، وقد تتأثر بنفس التحيزات التي تؤثر على التفاعل بين الطبيب والمريض.
وفي يوم من الأيام، سواء كنا جاهزين أم لا، سنواجه قضية عملية وفلسفية، بوجود آلة تشارك في تحديد وفاة الإنسان. يجب أن نتأكد ألا ترث تلك التقنية تحيزاتنا البشرية.