عنصرية بذكاء اصطناعي! الصين تراقب مسلمي الإيغور بتقنيات سرية تفحص الوجوه

كشفت The New York Times الأمريكية أن السلطات الصينية تستخدم تقنيات عالية الجودة والسرية للتعرف على الوجوه لمراقبة مسلمي الإيغور الذين يعانون من اضطهاد كبير في البلاد.

ووجهت للحكومة الصينية إدانة دولية واسعة النطاق لحملتها القمعية شديدة الوطأة ضد أقلية عرقية مسلمة تسكن منطقتها الغربية، التي شملت احتجاز ما يصل إلى مليون منهم في معسكرات اعتقال.

وقالت الصحيفة الأمريكية إن وثائق ومقابلات أجرتها تبين أنَّ السلطات الصينية تستخدم أيضاً نظاماً سرياً هائلاً لتقنية مُتقدّمة للتعرّف على الوجوه لمراقبة أقلية المسلمين الإويغور والتحكّم بهم. ووفقاً للخبراء، يُعتبر هذا هو أول نموذج معروف لاستخدام حكومة الذكاء الاصطناعي عمداً في التمييز العرقي.

عنصرية مؤتمتة

تبحث تقنية التعرُّف على الوجه، التي أُدمجت في نظم شبكات كاميرات المراقبة المتنامية في الصين، فقط عن الإيغور استناداً إلى وجوههم وسمات مظهرهم الخارجي وتحتفظ بتسجيلات عن جميع تحركاتهم لأغراض البحث والمراجعة. تجعل هذه الممارسة الصين رائدة في مجال تطبيق تقنيات الجيل المقبل لمراقبة مواطنيها، مما قد يؤذن ببداية حقبة جديدة من العنصرية المؤتمتة.

وقدَّم 5 أشخاص لديهم معرفة مباشرة بنظم المراقبة الصينية، والذين طلبوا عدم الكشف عن هويتهم خوفاً من انتقام السلطات، تفاصيل للصحيفة الأمريكية عن تلك التقنية واستخدامها لحفظ تسجيلات تخص 11 مليون مسلم من الإيغور في الصين. وقد اطّلعت صحيفة The New York Times أيضاً على قواعد البيانات التي تستخدمها الشرطة ووثائق المشتريات الحكومية والمواد الإعلانية، التي وزَّعتها شركات تقنية الذكاء الاصطناعي المُصنّعة لتلك النظم.

وتحتفظ السلطات الصينية بالفعل بشبكة مراقبة واسعة، من بينها إمكانية تتبّع الحمض النووي للأشخاص في إقليم شينغيانغ شمال غرب الصين، والذي يطلق عليه العديد من الإيغوريين اسم الوطن. لكن نطاق النظم الجديدة، التي لم يُبلَّغ عنها سابقاً، يمتد ليراقب العديد من أركان الأخرى في البلد.

وقال اثنان من الخمسة أشخاص المُطلعين على نظم المراقبة للصحيفة الأمريكية إنَّ الشرطة تستخدم الآن تقنية التعرُّف على الوجه لاستهداف السكان الإيغور في المدن الشرقية الغنية مثل هانغتشو وونتشو وعبر مقاطعة فوجيان الساحلية. وقد أشرفت أجهزة إنفاذ القانون في مدينة سانمنشيا بوسط الصين على طول النهر الأصفر على تشغيل نظام تمكَّن من إجراء 500 ألف فحص خلال شهر واحد في هذا العام الجاري لتحديد ما إذا كان السكان ينتمون إلى أقلية الأيغور أم لا.

الوجه يكشف كل التفاصيل

وتُظهر وثائق تابعة للشرطة الصينية تزايد الطلب على امتلاك مثل هذه القدرات. إذ سعت حوالي 24 إدارة شرطة في 16 مقاطعة ومنطقة مختلفة في جميع أنحاء الصين إلى الحصول على مثل هذه التقنية بدءاً من عام 2018، وذلك وفقاً لوثائق المشتريات التي اطّلعت عليها الصحيفة الأمريكية. على سبيل المثال، سعى مسؤولو إنفاذ القانون في مقاطعة شنشي شمال غرب الصين العام الماضي إلى الحصول على نظام كاميرا ذكي من شأنه "دعم خاصية التعرُّف على الوجه لتحديد ملامح وسمات المواطنين الإيغوريين وغير الإيغوريين".

وعلى الرغم من أنَّ بعض إدارات الشرطة والشركات التقنية قد أطلقت على هذه الممارسة اسم "تحديد الأقليات"، قال ثلاثة من الأشخاص الخمسة المُطّلعين على الأمر إنَّ تلك العبارة ليست سوى تعبير مُلطّف لأداة تسعى حصراً إلى تحديد الإيغوريين. يبدو الإيغوريون غالباً مختلفين عن غالبية سكان الصين المنتمين إلى سلالة الهان المهيمنة، إذ أنَّهم أقرب شبهاً لسكان آسيا الوسطى. ومن ثمَّ، تساهم مثل هذه الاختلافات في تسهيل عملية تمييزهم عن غيرهم من خلال برامج المراقبة.

وفي حين احتكرت الدول الديمقراطية على مدار عقود تقريباً أحدث التقنيات المتطورة. يبدأ حالياً جيل جديد من الشركات الناشئة في العمل على تلبية الاحتياجات الاستبدادية لبكين لتمهيد امتلاك تقنيات ناشئة مثل الذكاء الاصطناعي. وتستطيع أدوات مماثلة أتمتة التحيّزات القائمة على أساس لون البشرة والعرق في أماكن أخرى.

تصنيفات بحسب العرق

وفي هذا الصدد، قالت كلير غارفي، وهي أستاذة مساعدة في مركز الخصوصية والتقنية بجامعة جورج تاون الأمريكية إنَّ "ثمة تطبيقات أكثر خطورة لهذه التقنية والفرص جيدة لتجربتها. فإذا طورت تقنية يمكنها تصنيف الناس حسب العرق، سيستخدمها شخصٍ ما لقمع تلك المجموعة العرقية"، بحسب الصحيفة الأمريكية.

ومن الناحية التقنية، أصبح استخدام الخوارزميات لتصنيف الأشخاص حسب العرق أو الإثنية أمر سهل نسبياً. تعلن شركات مثل I.B.M عن برنامج يمكنه تصنيف الأشخاص إلى مجموعات وفئات كثيرة.

لكن الصين بدأت نهجاً مبتكراً بالسعي لتحديد هوية مجموعة عرقية واحدة لأغراض إنفاذ القانون. وضعت شركة صينية ناشئة تُدعى CloudWalk الخطوط العريضة لنموذج مُختَبَر في تسويق أنظمة المراقبة الخاصة بها. إذ قالت الشركة إنَّ تقنيتها تستطيع التعرّف على "الفئات الخَطِرة من السكان".

وقالت الشركة على موقعها الإلكتروني: "إذا كان شخص ما من أقلية الإيغور يعيش في منطقة مجاورة، وظهر في المنطقة نفسها 6 آخرين من الإيغور في غضون 20 يوماً، يرسل النظام إنذارات على الفور لمسؤولي إنفاذ القانون".

وقال شخصان من المُطّلعين على الأمر إنَّ تلك النظم، من الناحية العملية، لا تزال تشوبها عيوب. إذ غالباً ما تعتمد دقتها على العوامل البيئية مثل الإضاءة ووضعية الكاميرات.

وركَّز النقاش في مجتمع شركات الذكاء الاصطناعي في الولايات المتحدة وأوروبا على التحيّزات اللاشعورية غير المقصودة لأولئك الذين يصمّمون التقنية. أظهرت الاختبارات الأخيرة أنَّ نظم التعرّف على الوجه التي صمَّمتها شركات مثل I.B.M وAmazon كانت أقل دقة في تحديد ملامح وسمات الأشخاص ذوي البشرة الأغمق لوناً.

تُثير جهود الصين قضايا أكثر فجاجة. في حين تستخدم تقنية التعرُّف على الوجه عناصر مثل لون البشرة وشكل الوجه لفرز الصور، فلتصنيفها إلى ملفات مُصوّرة أو مقاطع فيديو، يجب أن يدخل البشر معايير تصنيف الأشخاص وفقاً للتعريفات الاجتماعية للعرق أو الإثنية. وقد تمكَّنت الشرطة الصينية، بمساعدة الشركات الناشئة، من فعل ذلك.

شركات تنتج برامج العنصرية

وقالت جينيفر لينش، مديرة قسم التقاضي في دعوى المراقبة بمؤسسة Electronic Frontier Foundation، "إنَّه شيء يبدو صادماً قادم من الولايات المتحدة الأمريكية، حيث توجد العنصرية على الأرجح في صلب الخوارزميات الذكية المستخدمة لدعم اتخاذ القرار، لكن ليس بصورة علنية مثل هذه. على سبيل المثال، لا يوجد نظام مصمّم لتحديد شخصٍ ما بأنَّه أمريكي من أصل إفريقي".

ومن بين شركات الذكاء الاصطناعي الصينية، التي تنتج وتطور برامج التعرّف على الوجه، شركة Yitu وMegvii وSenseTime وCloudWalk، والتي تُقَّدر قيمة كل واحدة منها بأكثر من مليار دولار. وقدمت شركة أخرى تُدعى Hikvision، التي تبيع كاميرات وبرامج لمعالجة الصور، برنامجاً التعرّف على الأقليات لكنَّها بدأت في وقف عمليات إنتاجه وبيعه تدريجياً في عام 2018، وذلك وفقاً لأحد الأشخاص الخمسة الذين تحدثوا إلى الصحيفة الأمريكية شريطة عدم الكشف عن هويتهم، بحسب الصحيفة الأمريكية.

ارتفعت تقديرات قيمة تلك الشركات في عام 2018 عندما خصّصت وزارة الأمن العام بالصين، وهي أعلى جهاز شرطي في الصين، مليارات الدولارات لصالح تنفيذ خطتين حكوميتين باسم Skynet وSharp Eyes، لحوسبة عمليات المراقبة والمهام الشرطية وجمع المعلومات الاستخباراتية.

وقالت متحدثة باسم شركة SenseTime في بيان إنَّها أجرت مباحثات مع "جهات ذات صلة" لم تكن تدرك أنَّ تقنية شركتها تُستخدم للتعرُّف على الأشخاص. وقالت شركة Megvii في بيان إنَّها تركّز على "الحلول التجارية وليست السياسية"، مضيفة: "نحن معنيون بمصلحة وسلامة المواطنين الأفراد، وليس بمراقبة مجموعات وفئات بعينها". ولم تستجب شركتي CloudWalk وYitu لطلبات الصحيفة من أجل التعليق.

وكذلك، لم ترد وزارة الأمن العام على طلب أُرسل بالفاكس من أجل التعليق على الأمر.

قصور كبير في التقنيات

تُقدّم الشركات الناشئة وعود باستخدام الذكاء الاصطناعي لتحليل لقطات مصورة من كاميرات المراقبة الصينية من خلال بيع منتجات تحمل أسماء مثل Fire Eye وSky Eye وDragonfly Eye. لكن في الواقع، لا تزال تلك التقنية ناشئة لم تنضج بعد والعديد من الكاميرات في الصين ليست قوية بما يكفي للعمل بفعالية مع إدماج تقنية التعرُّف على الوجه بها، بحسب الصحيفة الأمريكية.

ومع ذلك، تساعد تلك التقنية في تطوير بنية الصين من أجل السيطرة الاجتماعية. وأفاد الشخصان إضافة إلى ما كشفته وثائق المشتريات أنَّ الشرطة الصينية، من أجل تأكيد عمل الخوارزميات الذكية للتعرُّف على الوجه بنجاح، جمعت قواعد بيانات تضم صور وجوه الأشخاص الذين لديهم سجلات إجرامية وأمراض عقلية وتاريخ في تعاطي مخدرات، بالإضافة إلى أولئك الذين تقدَّموا بطلب إلى الحكومة بشأن مظالم. وأضاف الشخصان أنَّ قاعدة البيانات الوطنية للمجرمين بوجهٍ عام تضم حوالي 300 ألف صورة وجه، بينما تضم ​​قائمة الأشخاص الذين لديهم تاريخ في تعاطي المخدرات في مدينة ونتشو إجمالي 8 آلاف وجه.

وباستخدام عملية تُسمّى التعلّم الآلي، يُدخل المهندسون بيانات إلى أنظمة الذكاء الاصطناعي لتدريبها على التعرُّف على الأنماط أو السمات. وفي حالة التعرّف على الملامح وتحديد الهوية، يدخلون الآلاف من الصور المُصنّفة لكلٍ من الأشخاص الإيغوريين وغير الإيغوريين. وهذا من شأنه المساعدة في تفعيل مهمة تمييز المجموعة العرقية، بحسب الصحيفة الأمريكية.

مستثمرون كبار يشاركون في التمويل

وحصلت شركات الذكاء الاصطناعي الصينية على تمويل من كبار المستثمرين. فكانت شركتا Fidelity International وQualcomm Ventures جزءاً من الائتلاف التجاري consortium الذي استثمر 620 مليون دولار في شركة SenseTime.  واستثمرت شركة Sequoia Capital  الأمريكية في شركة Yitu. كذلك، تتلقّى شركة Megvii دعماً مالياً من صندوق Sinovation Ventures المملوك للمستثمر الصيني المعروف كاي-فو لي، بحسب الصحيفة الأمريكية.

وقالت متحدثة باسم Sinovation Ventures إنَّ الصندوق باع مؤخراً جزءاً من حصته في Megvii وتخلَّى عن مقعده في مجلس الإدارة. من جهتها، رفضت شركة Fidelity التعليق على الأمر. ولم يستجب أي من شركتي Sequoia وQualcomm على طلبات أُرسلت عبر البريد الإلكتروني للتعليق.

وجادل، أحد داعمي شركات الذكاء الاصطناعي الصينية، بأنَّ الصين تتمتّع بميزة في مجال تطوير تقنيات الذكاء الاصطناعي لأنَّ قادتها أقل اكتراثاً "بالتعقيدات القانونية أو الإجماع الأخلاقي".

وقال العام الماضي: "نحن لسنا متفرجين سلبيين في مستقبل الذكاء الاصطناعي. نحن من نكتب. هذا يعني أنَّ القيم التي تستند إليها رؤيتنا لمستقبل الذكاء الاصطناعي يمكن أن تصبح نبوءات مُتحققة". ورفض لي التعليق على استثمار صندوقه في شركة Megvii أو ممارساتها.

وقال الأشخاص الخمسة المطلعين إنَّ التصنيف العرقي داخل الصناعة التقنية الصينية ليس سراً. لقد أصبح الأمر شائعاً للغاية لدرجة أنَّ أحد الأشخاص شبّهه بتقنية موجات البلوتوث اللاسلكية قصيرة المدى. وحسبما قال شخص آخر، تلقَّى العاملون في شركة Megvii تحذيراً حيال حساسية مناقشة الاستهداف العرقي علناً، بحسب الصحيفة الأمريكية.

موارد ضخمة رصدت للتقنية

كرَّست الصين موارد ضخمة لمراقبة وتتّبع السكان الإيغور بزعم العنف القائم على أساس العرق في إقليم شينغيانغ وهجمات الإيغوريين الإرهابية في أماكن أخرى. احتجزت بكين مئات الآلاف من المسلمين الإويغور وآخرين في شينغيانغ داخل معسكرات "إعادة التثقيف".

يُعزّز البرنامج قدرة بكين على تحديد المواطنين الإيغور والتعرُّف عليهم من بين بقية سكان البلاد. إذ وفقاً لشخصين، تُخزّن قاعدة بيانات وطنية واحدة صور وجوه جميع الإيغوريين، الذين يغادرون شينغيانغ.

وتكشف وثائق المشتريات الحكومية خلال العامين الماضيين أنَّ الطلب قد تنامى على تقنية التعرّف على الوجه. فقد سعى مسؤولو إنفاذ القانون في مدينة يونغتشو بمقاطعة هونان الجنوبية إلى شراء برنامج "لتحديد ما إذا كان شخص ما ينتمي إلى أقلية الإيغور أم لا"، وذلك وفقاً لإحدى الوثائق.

وأعربت الشرطة في منطقتين بمقاطعة قويتشو عن حاجتها للتعرّف على أولئك المنتمين للإيغور. وطلب مسؤول شرطي توفير برنامج للتعرّف على الإيغوريين بدقة تزيد عن 97 % استناداً إلى صور بطاقات الهوية. وفي مدينة شونجكينج ومنطقة التبت، نظَّمت الشرطة مناقصات لشراء برامج مماثلة. ووصفت وثيقة مشتريات خاصة بمقاطعة خبي كيف جرى إخطار الشرطة عندما حجز عدد من الإيغوريين تذاكر على رحلة واحدة في اليوم نفسه، بحسب الصحيفة الأمريكية.

أنواع أخرى من قواعد البيانات

وكشفت دراسة أجرتها السلطات في عام 2018 استخدام أنواع أخرى من قواعد البيانات. قالت الدراسة، التي شارك في كتابتها مسؤول في شرطة شنغهاي، إنَّ نظم التعرُّف على الوجه المُثبّتة بالقرب من المدارس يمكنها فحص الأشخاص المدرجين في قواعد بيانات المشتبه في ارتكابهم جرائم أو إصابتهم بأمراض عقلية.

كذلك، أظهرت إحدى قواعد البيانات التي جرى إنشاؤها من خلال برنامج تابع لشركة Yitu واطّلعت عليها صحيفة The  New YorkTimes كيف استخدمت الشرطة في مدينة سانمنشيا برنامجاً يعمل على كاميرات المراقبة لمحاولة التعرُّف على السكان أكثر من 500 ألف مرة خلال شهر تقريباً بدءاً من منتصف فبراير/شباط، بحسب الصحيفة الأمريكية.

ومن بين نصف مليون صورة بطاقة هوية حاولت الكاميرات تسجيلها استطاع البرنامج تخمين أنَّه شاهد مواطنين ينتمون إلى الإويغور 2834 مرة. وستسمح تلك الصور المخزنة إلى جانب مدخلات البرنامج للشرطة بمضاعفة احتمالات التحقّق.

تمتلك شركة Yitu وخصومها طموحات للتوسّع في الخارج. أوضح جوناثان فرانكل، الباحث في مجال الذكاء الاصطناعي بمعهد ماساتشوستس للتكنولوجيا، أنَّ مثل هذه الدفعة يمكن أن يجعل برامج التصنيف العرقي متاحة بسهولة في أيدي حكومات أخرى.

وقال فرانكل: "لا أعتقد أن ثمة مبالغة في التعامل مع هذا باعتباره تهديداً وجودياً للديمقراطية". مضيفاً: "بمجرد أن تعتمد دولة ما نموذجاً في هذا المناخ الاستبدادي الثقيل الوطأة، فإنَّها تستخدم البيانات لفرض أفكار وقواعد على نحو أكثر عمقاً وجذرية مما كان يمكنها تحقيقه قبل 70 عاماً في الاتحاد السوفيتي. ومن ثمَّ، هذه أزمة مُلّحة نسير إليها نياماً ببطء".