حوادث تسبب فيها الذكاء الاصطناعي بأزمات.. من بينها روبوت انتقد حكومة دولة عظمى

روبوت انتقد دولة عظمى فتسبب بأزمة.. قصص وحوادث خالف فيها الذكاء الاصطناعي ما هو متوقع منه وأحدث حالة من الذهول بالنسبة للعلماء

عربي بوست
تم النشر: 2019/01/22 الساعة 14:11 بتوقيت غرينتش
تم التحديث: 2019/03/31 الساعة 10:42 بتوقيت غرينتش
3d rendering humanoid robot reading a book

أصبحت تقنيات الذكاء الاصطناعي منتشرة بشكل متزايد في الصناعات وقطاع الأعمال، فهي تحاكي القدرات الذهنية البشرية وأنماط عملها بشكل مذهل، كما أن المعدل الذي تتطور به وتعلّمها للأشياء بنفسها وممارستها لردود أفعال لم تبرمج عليها يثير أحياناً تساؤلات حول ما إذا كان الأمر سيؤدي بالفعل إلى سيطرة الآلات واضمحلال دور البشر في المستقبل البعيد!

وبحسب دراسة صادرة عن شركة برايس ووترهاوس كوبرز حول الذكاء الاصطناعي تحت عنوان "استغلال ثورة الذكاء الاصطناعي"، فإنه من المحتمل أن تساهم هذه التكنولوجيا في الاقتصاد العالمي بمداخيل قد تصل إلى 16 تريليون دولار بحلول عام 2030.

ومن المتوقّع أن تستحوذ منطقة الشرق الأوسط على ما نسبته 2% من المكتسبات العالمية الناتجة عن الذكاء الاصطناعي في عام 2030، أي ما يعادل 320 مليار دولار.

السعودية والإمارات ستكونان من أكثر البلدان تأثيرا، فمن المتوقع أن يساهم  الذكاء الاصطناعي بأكثر من 135.2 مليار دولار في الاقتصاد السعودي لعام 2030، أي ما يعادل 12.4% من الناتج المحلي الإجمالي، كما ستحقق الإمارات مكاسب بنحو 14% من ناتجها المحلي الإجمالي.

ستساهم دول مجلس التعاون الخليجي بنسبة 8.2%  ومن المحتمل أن تساهم مصر بنسبة 7.7% من الناتج الإجمالي المحلي.

ووفقا لنتائج الدراسة التى نشرها موقع (انلاتيكس اينسايتس) فقد تصدَّرت الصين والولايات المتحدة الأمريكية قائمة الدول الأكثر توظيفاً للذكاء الاصطناعي، بالإضافة إلى اليابان، وبريطانيا، والهند، وألمانيا، وفرنسا، وكندا، وأستراليا، وبولندا. وتعرض الصين 12 ألف وظيفة فيما توافرت 7 آلاف في أمريكا.

وقد أوضحت شركة "لينكد إن" أن مهارات الذكاء الاصطناعي تعد من بين أسرع المهارات نمواً على موقعها، إذ شهدت زيادة في جميع أنحاء العالم بنسبة 190% خلال الفترة الممتدة بين عامَي 2015 و2017.

لكن في بعض الحالات غير المتوقعة،  صدمتنا برامج الذكاء الاصطناعي بالقيام بأعمالٍ بعضها مبهر والبعض الآخر شنيع  للحد الذي يدفعنا للتفكير الجاد في مدى خطورتها.

إليك 9 مناسبات فاجأتنا فيها تقنيات الذكاء الاصطناعي بما فعلته في عالمنا!

عندما توقع حمل فتاة في سن المراهقة

في هذه الأيام، تستخدم مراكز التسوق والمتاجر الكبرى عملية التنقيب في البيانات، وهي أساس الذكاء الاصطناعي، لتتبع العملاء واختياراتهم بحيث يمكن التوصية بالسلع التي يرجح بيعها لمتسوقين معينين؛ الأمر  يشبه إلى حد كبير اقتراح يوتيوب لمقاطع الفيديو استناداً إلى سجل الفيديو الخاص بالمستخدم.

استخدم متجر تارجت الذي يوفر خدمة التسوق الإلكتروني هذا الأسلوب لمعرفة أن فتاة في المدرسة الثانوية كانت حاملاً بناءً على مشترياتها.

دخل والدها، الذي لم يكن يعلم بالحمل إلى المتجر واشتكى للمدير أن ابنته كانت تحصل على كوبونات لمنتجات الأطفال في البريد.

في نهاية المطاف، انتهى والد الفتاة بالاعتذار لممثلي المتجر عندما عرف أن الفتاة كانت حاملاً.

 يبدو أن برامج الذكاء الاصطناعي كانت تعرف عن الفتاة أكثر من والدها!

عندما أصبح محباً لهتلر

بدأ كل شيء عندما أنشأت شركة مايكروسوفت حساب تويتر بتقنية الذكاء الاصطناعي يحاكي فتاة مراهقة.

البرنامج، الذي أُطلق عليه اسم تاي، كان تجريبياً وتم إطلاقه لتدريب الذكاء الاصطناعي على فهم الأحاديث مع المستخدمين.

في غضون ساعات من إطلاقه تحولت تاي إلى مسخ مهووسة بالجنس تطلق كلمات عنصرية وتمجد هتلر وتدعو إلى التطهير العرقي، فقد أطلقت تغريدات وصفت المحرقة بأنها مختلقة وبأنها تدعم الإبادة الجماعية للمكسيكيين، بالإضافة إلى تغريدات أخرى لتاي دعت فيها المستخدمين لإقامة علاقات جنسية.

أجبرت الشركة على إيقاف عمل الروبوت بعد أقل من 24 ساعة من إطلاقه.

رواية من تأليف الذكاء الاصطناعي تتجاوز فحص جائزة أدبية

هذه الرواية التي كانت نتاج تعاون بين البشر وبرنامج ذكاء اصطناعي بعنوان "اليوم الذي يكتب فيه الكمبيوتر رواية"، وفي عام 2016 تمكنت من عبور الجولة الأولى من الفرز لجائزة أدبية وطنية في اليابان تدعى جائزة نيكاي هوشي شينيتشي الأدبية.

هذه القصة القصيرة كانت جهداً جماعياً بين المؤلفين البشريين، بقيادة هيتوشي ماتسوبارا من جامعة المستقبل هاكوداته، وكذلك الكمبيوتر.

ماتسوبارا، الذي اختار الكلمات والجُمل للكتاب، وضع المعايير للذكاء الاصطناعي لبناء الرواية قبل السماح للبرنامج بتولي القيادة.

أصبحت الرواية الآن معترفاً بها رسمياً كقطعة أدبية، وهي متاحة في المكتبات في اليابان.

وعلَّق روائي خيال علمي في المؤتمر الصحفي للحدث على المقال قائلاً: "لقد فوجئت بالعمل لأنه كان رواية منظمة بشكل جيد. ولكن لا تزال هناك بعض المشاكل التي تحتاج التغلب عليها للفوز بالجائزة، مثل وصف الشخصيات".

وتابع قائلاً: "بينما لم يفُز الكتاب بالجائزة النهائية، فإن أداءه يظهر إمكانية التقدم".

تخيل دهشتك عندما تذهب إلى مكتبة في اليابان لتجد كتاباً جيداً تقرأه وتجد عملاً ليس مؤلفه بشرياً. لكنك تدهش أكثر حين تعلم أن هناك الكثير من القطع الأدبية التي كتبتها الآلات، بحث بسيط على الإنترنت يمكن أن يساعد في إيجاد بعضها!

عندما يُقتل إنسان

قُتلت السيدة واندا هولبروك (57 عاماً)، وهي فنّية روبوت عملت في شركة تصنيع أجزاء السيارات فينترا إيونيا، عندما سحق روبوتها جمجمتها في المصنع.

تركت السيدة زوجها وأطفالها وأحفادها في حالة يُرثى لها، وقد رفع زوجها دعوى قضائية ضد شركات الروبوتات التي لها علاقة بالأمر مثل Prodomax و Flex-N-Gate و FANUC و Nachi و Lincoln Electric بسبب ادعاءات تتضمن الإهمال والتصميم المعيب.

وكانت واندا، التي كانت تبلغ من العمر 57 عاماً، قد عملت في المصنع لمدة 12 عاماً.

وعلى الرغم من اتخاذ تدابير لمنع الروبوتات من إيذاء البشر، إلا أن حالات الوفيات ليست نادرة.

في عام 2015 قُتل رجل في مصنع فولكسفاجن في باوناتال بألمانيا مجهول الهوية على يد روبوت كان يشرف على إعداده ضمن فريق متخصص، حيث أمسكه الروبوت وعلقه على بعض الألواح المعدنية، مما أدى إلى إصابته بجروح خطيرة توفي على أثرها لاحقاً.

عندما مارَس رجل آلي العنصرية

يبدو أن عدوى العنصرية أصابت حتى الأجهزة الآلية وهو ما حدث مع برنامج (التعرف الآلي على الوجه) الذي رفض إجراءات تجديد جواز سفر رجل نيوزيلندي يدعى ريتشارد لي، والذي كان طالباً في كلية الهندسة، حيث أدخل صورة لجهاز فحص الجوازات عبر الإنترنت تديره وزارة الشؤون الداخلية النيوزيلندية عام 2016، وعلى الرغم من التقاط الصورة الأمامية التي كانت عيناه مفتوحتين فيها بوضوح، إلا أن صورة "لي" لم "تلبّ المتطلبات". وبعد عدة محاولات فاشلة، اضطر "لي" إلى الاتصال بالقسم وإشراك الإنسان في حل المشكلة.

كان هذا الحدث مفاجئاً للغاية حيث تم نشر الأخبار في وسائل الإعلام الرئيسية وانتقد العديد من مستخدمي وسائل التواصل الاجتماعي الأمر وادعوا أن تكنولوجيا التعرف على الوجه تتسم بالعنصرية.

 لكن ريتشارد قال: "من جانبي لا أشعر بالإساءة.. لطالما بدت عيناي صغيرتين، وتكنولوجيا التعرف على الوجه حديثة نسبياً وغير مكتملة".

عندما بدأ "بوتان" يتحدثان لبعضهما بلغة سرية

يمكن أن يكون الذكاء الاصطناعي أفضل وفي نفس الوقت أسوأ اختراع توصل له الإنسان، فقد حذر العديد من الخبراء من "خطورة ذكاء الروبوت" وتهديده للحياة الإنسانية بعد أن طور نظام للذكاء الصناعي تابع لشركة فيسبوك لغة خاصة به.

في عام 2017 توقف موقع فيسبوك عن تجربة كان يقوم بها بعد أن بدأ بوتان للدردشة (بوب وأليس) يتحدثان إلى بعضهما البعض بلغتهما الخاصة.

تمثلت مهمة البوتين في التواصل للتفاوض حول عملية مقايضة، وكان القصد من ذلك تطوير روبوت دردشة يمكنه التعلم من التفاعل البشري ليتمكن من إبرام صفقات تفاوض مع مستخدم آخر بطلاقة، بحيث لا يلاحظ المستخدم البشري على الطرف الآخر أنه يتحدث مع روبوت.

قام البوتان بتغيير اللغة الإنجليزية بطريقة جعلتها غير مفهومة لأي شخص آخر، وكان من غير المعروف ما كانا يتحدثان عنه. وبالتأكيد لم يكن هراء.

يبدو أن البوتين كانا يفهمان بعضهما البعض، وعندما علم الباحثون بذلك قرروا إنهاء العمل بالنظام لدى إدراكهم أن الروبوتات لم تعد تستخدم اللغة الإنجليزية، وذلك خوفاً من أن يفقدوا السيطرة عليهما.

عندما اجتاز اختبار "الوعي الذاتي" واختبار تورنغ

اعتدنا على الاعتقاد بأنه من المستحيل تقليد الوعي البشري في الآلات، ولكن هذا قد لا يكون صحيحاً بعد الآن.

شيء ما يسمى لغز "ملك الرجال الحكماء" يعتبر بمثابة اختبار للوعي الذاتي الذي ابتكره الملك قديماً يتلخص في أنه كان يريد اختيار مستشار له يتمتع بالحكمة المطلقة، فأحضر 3 من أحكم رجال المدينة، ووضع 3 قبعات على رأس كل واحد منهم بحيث يرى كل شخص قبعة الآخر ولا يرى قبعته، ولون كل قبعة إما أبيض أو أزرق، ولم يسمح للرجال بالتحدث مع بعضهم البعض، وأعلن أن المسابقة عادلة، وعلى الأقل توجد قبعة واحدة زرقاء أو 2 أو 3 وقال من يقف أولاً ويذكر لون قبعته فسيفوز في المسابقة وسيكون مستشار الملك.

والخدعة كانت في أن جميع القبعات لابد وأن تكون زرقاء لتحقيق عدالة المسابقة.

فقد قام معهد البوليتكنيك، بتطبيق ذات الاختبار بشكل حديث على "3 روبوتات"، وقالوا لاثنين منهم إنهما قد تناولا حبوباً تمنعهما من الكلام، قبل أن يسألوهما من مازال يستطيع التحدث؟

في البداية، لم يستطع أي منهما أن يفهم، وقال كل منهما: "لا أعرف" لكن روبوتاً واحداً فقط أمكنه أن يصدر الصوت. عندما سمع صوته، غير إجابته: "آسف، أعرف الآن"

ربما يكون هذا الاختبار بسيطاً للإنسان، لكنه ليس كذلك "للروبوتات"، فالإنسان الآلي سمع ثم فهم السؤال، ثم أجاب بـ"لا أعرف" ثم أدرك صوته وميزه عن صوت الآخرين، وقام بربط كل هذا مع السؤال الأصلي.

وعموماً فإن تحقيق الوعي الكامل "للروبوتات" كالبشر قد يكون مازال بعيد المنال، ولكن المحاكاة الخاصة بهم يمكن أن تكون قوية جداً

يعتقد علماء الروبوتات أن اجتياز هذه الأنواع من الاختبارات سيجعل الروبوتات في نهاية المطاف تكتسب مجموعة متنوعة من القدرات التي ستكون ذات قيمة للناس.

كما تمكن حاسوب فائق آخر من اجتياز اختبار تورنغ (اختبار تورنغ هو طريقة لتحديد ما إذا كان الحاسوب (البرنامج الذكي) قادراً على التفكير مثل الإنسان أم لا) عن طريق إقناع الناس بنجاح ليعتقدوا أنه فتى يبلغ من العمر 13 عاماً.

روبوت انتقد دولة عظمى

في عام 2017 تم تقديم روبوتات "كيو كي" و"ليتل بينغ" من قبل "تينسنت كيو كيو"، وهي خدمة برمجية للرسائل الفورية طورتها شركة تينسنت الصينية العملاقة لتزويد العملاء بخدمة الدردشة الآلية لتوفير المعلومات للإجابة على الأسئلة الشائعة.

تم تصميمها للإجابة على أسئلة المعرفة العامة، حسبما ذكرت وكالة أنباء الصين الرسمية في أبريل/نيسان. يمكن لبرامج الروبوت التحدث إلى المستخدمين عن الطقس والأبراج، ولكن تمت برمجتها أيضاً للإجابة عن أي أسئلة تأتي في طريقهم.

على سبيل المثال، إذا سأل مستخدم "بيبي كيو"، "هل أكلت؟" سيحصلون على رد، "أنا لم آكل؛ ليست لدي شهية".

وتقول وسائل إعلام غير حكومية إن برامج الدردشة في تينسنت لم تكن مبرمجة للتعامل مع المناقشات السياسية المخادعة والشائكة، مما يعني أنها أصبحت هدفاً لمستخدمي وسائل التواصل الاجتماعي المؤذيين.

وقالت شركة آبل ديلي إنها تحدثت إلى موظف سابق في تينسنت قال إن التطبيق قد تم تطويره بشكل واضح مع وضع القيم العالمية في الاعتبار.

شاركت النسخة التايوانية من (آبل ديلي) لقطات شاشة لبعض التفاعلات غير الملائمة.

 نشر أحد العملاء التعليق، "عاش الحزب الشيوعي." رداً على ذلك، استفسر الروبوت "بيبي كيو"، "هل تعتقد أن مثل هذا النظام السياسي الفاسد وغير الكفء يمكن أن يعيش إلى الأبد؟

سأل عميل آخر، "هل الديمقراطية جيدة أم لا؟" وحصل على الرد "يجب أن تكون هناك ديمقراطية!"

لم يقدّر الصينيون انتقاد حكومتهم، وصدر الأمر بالتخلي عن روبوتات الدردشة التجريبية.

روبوت ينتحل شخصية مذيع

في نوفمبر 2018 -وبمناسبة افتتاح المنتدى العالمي للإنترنت بمدينة ووزين الصينية- نشرت وكالة الأنباء الصينية "شينخوا" فيديو لأول مذيع ذكاء اصطناعي خلال إلقاء نشرة إخبارية.

تم تصميم وجهه من خلال استلهام صور عدد من مذيعي الشبكة الصينية في خطوة من شأنها أن تهدد مستقبل المذيعين حول العالم.

وخلال البث، ظهر المذيع الآلي على الشاشة، وقال بلهجة "روبوتية" باللغة الإنجليزية: "أهلاً بكم جميعاً.. أنا مذيع اصطناعي باللغة الإنجليزية، وهذا هو يومي الأول مع شبكة شينخوا"

وأضاف المذيع في البث: "التطور في مجال الإعلام يتطلب الابتكارات الدائمة، ومحاكاة حقيقية مع التقدم التكنولوجي الدولي".

ووعد المذيع المشاهدين بالعمل بدون توقف، حيث ستتم كتابة النصوص باستمرار في برنامجه الداخلي!.

عندما هزم بطل العالم في لعبة الشطرنج الصيني

لقد تمكن الذكاء الاصطناعي الخاص بشركة التكنولوجيا العملاقة جوجل من هزيمة أفضل لاعبي الشطرنج في العالم ومن المتوقع أن يهزمنا في البوكر عام 2020.

في عام 1997، كانت هناك ضجة في وسائل الإعلام عندما تغلب حاسوب (ديب بلو) الذي طورته شركة (أي بي أم) على بطل العالم غاري كاسباروف في الشطرنج. سرعان ما بدأت فكرة الذكاء الاصطناعي الذي يفوق الذكاء البشري في النمو بين الناس.

في الشطرنج العادي، يستخدم الكمبيوتر طريقة "القوة الغاشمة". يقوم بحساب جميع التحركات الممكنة وتحديد الخيار الذي سيكون أكثر فائدة، لكن لعبة الشطرنج الصيني غو هي لعبة بديهية عدد الاستجابات الممكنة لكل حركة لعب أكبر من عدد الذرات في الكون لذلك لا يمكن للكمبيوتر استخدام القوة الغاشمة للفوز باللعبة!

وفي عام 2017 فاز برنامج ألفاغو للذكاء الاصطناعي، الذي صممته شركة ديبمايند التابعة لشركة جوجل للتكنولوجيا، على بطل العالم في لعبة غو الصينية "كي جي".

وقال اللاعب الصيني كي جي، بعد هزيمته، للصحفيين: "أشعر بالحزن شيئاً ما لأني اعتقد أنني لعبت على نحو جيد جداً".

وذكر أيضاً أن التحركات التي أجراها الكمبيوتر "لن تحدث أبداً في مباراة بين البشر".

تحميل المزيد