لا يقتصر القلق حيال "المخاطر الوجودية" على العلماء العسكريين اليوم، ونتحدث هنا عن المخاطر التي تمثل تهديداً على البشرية جمعاء وليس على الأفراد، إذ تستطيع أحداث مثل الحرب النووية، والشتاء النووي، والأوبئة، وضربات الكويكبات أن تقضي على غالبية أو جميع أبناء الجنس البشري.
وفي مايو/أيار 2023، وقعت مجموعة من الشخصيات المرموقة والعلماء على خطاب مفتوح من جملة واحدة تقول: "إن تخفيف الخطر الوجودي المتمثل في الذكاء الاصطناعي يجب أن يكون أولويةً عالمية، إلى جانب المخاطر الأخرى على المجتمع مثل الجوائح والحرب النووية".
لكن ما مدى احتمالية أن ينتهي العالم بسبب الذكاء الاصطناعي؟
حول مقدار القلق الذي سيكون من المنطقي أن نشعر به من الذكاء الاصطناعي، تقول صحيفة The Economist البريطانية، إنه في العاشر من يوليو/تموز 2023، نشر الخبير الاقتصادي في الاحتياطي الفيدرالي بشيكاغو إزرا كارغر، والعالم السياسي في جامعة بنسلفانيا فيليب تيتلوك، ورقة عمل تحاول تسليط الضوء على هذا السؤال من خلال استطلاع ممنهج لآراء نوعين مختلفين من الخبراء. وتَمثَّل النوع الأول في خبراء "المجال"، أي خبراء الحرب النووية والأسلحة البيولوجية والذكاء الاصطناعي، وحتى خبراء الانقراض نفسه.
أما على الجانب الآخر، فسنجد مجموعة من "خبراء التنبؤات" الذين يقدمون توقعات عامة، ولهم تاريخ موثق من التنبؤات الدقيقة في مختلف المجالات، بدايةً بنتائج الانتخابات ووصولاً إلى اندلاع الحروب.
واعتمد الباحثون على 89 من خبراء التنبؤ، و65 من خبراء المجال، و15 خبيراً في "الأخطار الوجودية" بشكلٍ عام. وحصل جميع الحضور على نوعين مختلفين من الفواجع التي يجب تقييمها، أولهما "الكارثة" التي تم تعريفها بأنها حدث يقتل نحو 10% من البشر في العالم؛ أي ما يعادل نحو 800 مليون إنسان. أما النوع الثاني فهو "الانقراض"، الذي تم تعريفه بأنه حدث يقضي على الجميع، مع احتمالية استثناء نحو 5,000 من الأرواح المحظوظة -أو غير المحظوظة- على الأكثر.
ماذا قال الباحثون حول قدرات الذكاء الاصطناعي المقلقة؟
تقول مجلة الإيكونومست، طلب الباحثون من المجموعتين تقدير احتمالية وقوع كل الأحداث، بدايةً بالأحداث النهائية مثل الانقراض بسبب الذكاء الاصطناعي أو الحرب النووية، ووصولاً إلى الأسئلة الأصغر حول تقدم قدرات الذكاء الاصطناعي المقلقة، وما إذا كانت ستُسهم في وقوع الكارثة مستقبلاً.
ويمكن القول إن أكثر استنتاج صادم في هذه الدراسة جاء من طرف خبراء المجال، الذين يميلون إلى الهيمنة على الحوار العام حول الأخطار الوجودية. حيث يبدو أن خبراء المجال كانوا أكثر تشاؤماً في نظرتهم المستقبلية مقارنة بخبراء التنبؤات. إذ قدّر خبراء المجال احتمالية وقوع الكارثة بنسبة 20% بحلول عام 2100، بينما قدروا نسبة حدوث الانقراض بـ6%. فيما قال خبراء التنبؤات إن احتمالية وقوع تلك الأحداث تساوي 9% و1% على الترتيب.
وقد أخفت هذه الفوارق الواسعة بعض التفاصيل المثيرة للاهتمام، إذ تجلّى الاختلاف بين المجموعتين بوضوح أكبر عند النظر في المخاطر التي يمثلها الذكاء الاصطناعي. حيث توقع خبراء التنبؤات في المتوسط أن هناك فرصةً بنسبة 2.1% لحدوث كارثة بسبب الذكاء الاصطناعي، وفرصة بنسبة 0.38% لحدوث الانقراض بسبب الذكاء الاصطناعي، وذلك بنهاية القرن الجاري.
بينما يرى خبراء الذكاء الاصطناعي على النقيض أن فرص وقوع تلك الأحداث تساوي 12% و3% على الترتيب. أما فيما يتعلق بالجوائح فقد كان خبراء التنبؤات أكثر تشاؤماً من خبراء المجال، وذلك فيما يتعلق بالأخطار التي تمثلها الأمراض طبيعية المنشأ.
"الذكاء الاصطناعي يمثل مصدر القلق الأكبر"
وربما تكون النتيجة الأكثر إثارة للاهتمام هي أن المجموعتين اختلفتا حول حجم الخطر تحديداً، لكنهما اتفقتا في أن الذكاء الاصطناعي يمثل مصدر القلق الأكبر، سواء في حالة الكارثة أو الانقراض.
ويقول خبير التنبؤات المشارك في الدراسة، دان مايلاند، إن أحد أسباب الظهور القوي للذكاء الاصطناعي في النتائج هو أنه يلعب دور "مُضاعِف القوى"، وذلك فيما يتعلّق بالمخاطر الأخرى مثل الأسلحة النووية. ويستطيع الذكاء الاصطناعي (في صورة الروبوتات المسلحة) أن يقتل البشر بشكلٍ مباشر، كما هو حال الحرب النووية أو ضربات الكويكبات.
لكن الذكاء الاصطناعي يستطيع كذلك أن يسن سكين سلاحٍ فتاكٍ آخر إن جاز التعبير. وإذا استخدم البشر الذكاء الاصطناعي لتصميم أسلحة بيولوجية أكثر فاعلية مثلاً فسيكون الذكاء الاصطناعي قد أسهم بشكلٍ جوهري في أي كارثة لاحقة، حتى وإن كانت مساهمته غير مباشرة.
ويشعر خبراء التنبؤات بالتشاؤم حيال الذكاء الاصطناعي، لكنهم غير واثقين بشأن مستقبله نسبياً. حيث عاش العالم مع الأسلحة النووية لنحو 80 عاماً. بينما يُعتبر الذكاء الاصطناعي -بمفهومه الحالي- مجالاً جديداً نسبياً. إذ ظهرت نماذج التعلم الآلي القوية والمتطورة في أوائل العقد الأول من القرن الـ21. ويواصل هذا المجال التطوُّر بسرعة، ما يترك بيانات تاريخية أقل للاعتماد عليها في التنبؤات.
بذل الدكتور تيتلوك تحديداً جهداً كبيراً في العمل على مشكلة التنبؤ بالمستقبل، وكان أول من عرّف واستخدم تسمية "خبراء التنبؤات"، وهم مجموعة من الأشخاص الذين يبدو أن لديهم براعة استثنائية في التنبؤ بالتطورات المستقبلية في مختلف المجالات. ويشترك هؤلاء الأشخاص في بعض السمات مثل التفكير الحسابي الدقيق، والوعي بالتحيزات الإدراكية التي قد تضللهم. وقد لا يتمتع خبراء التنبؤات بخبرات محددة، لكنهم يتمتعون بتاريخ طويل من التفوق على الخبراء في المجالات الفنية، بدايةً بعالم المال ووصولاً إلى الجغرافيا السياسية.
ولا شك أن الاختلافات بين المجموعتين تعكس جزئياً اختلافات نماذجهما المستخدمة في فهم طريقة عمل العالم. إذ لا تعتمد مخاطر الكارثة على مدى قوة أو تطور تقنيةٍ بعينها فحسب، بل يعتمد الأمر على طريقة تفاعل البشر معها أيضاً.
كيف ستستجيب المجتمعات لأخطار الذكاء الاصطناعي؟
مع ذلك، اختلفت وجهات نظر خبراء التنبؤات وخبراء الذكاء الاصطناعي بشدة حول طريقة استجابة المجتمعات المحتملة، وتفاعلها مع الأضرار ضيقة النطاق الناجمة عن الذكاء الاصطناعي. إذ مال خبراء التنبؤات للتفكير في أن هذه الأضرار ستثير تدقيقاً وتنظيماً أكبر لاستباق المشكلات الأكبر لاحقاً. بينما رأى خبراء المجال أن كفة الحوافز التجارية والجيوسياسية قد تكون أرجح من المخاوف بشأن السلامة، حتى بعد وقوع ضررٍ فعلي.
كما اختلفت آراء خبراء التنبؤات عن خبراء المجال فيما يتعلق بقيود الذكاء في حد ذاته. حيث شرحت كريستي موريل، خبيرة التنبؤات المشاركة في الدراسة، الأمر ببساطة قائلة: "ليس من السهل قتل جميع الناس ببساطة". وأوضحت أن فعل ذلك سيحتاج على الأرجح إلى "قدرٍ معين من القدرة على التفاعل مع العالم المادي… وسنحتاج على الأغلب إلى الكثير من التقدم في مجال الروبوتات قبل أن نبلغ تلك المرحلة".
وتكمن المشكلة الجوهرية لهذا النوع من التنبؤات في استحالة امتلاك طريقة لمعرفة الفريق الأقرب إلى الصواب، والأقرب لتحديد مستوى الخطر الحقيقي، بعكس الأحداث المتكررة منخفضة المخاطر (مثل التنبؤ بأسعار الأسهم ونتائج الانتخابات). لكن إذا كان خبراء التنبؤات بارعين للغاية في تنبؤاتهم، وإذا كان خبراء المجال يتمتعون بمعرفة متخصصة كبيرة؛ فربما يظن المرء أن كل مجموعة منهما ستؤثر على قناعات الأخرى على الأقل.
تكوين الصورة الكاملة
حاولت الدراسة التشجيع على هذا النوع من الإقناع المتبادل عبر النقاشات الجماعية، والحوافز النقدية، من أجل تقديم حجج أفضل وما إلى ذلك. ورغم ذلك، تمسّك كل فريق بموقفه على نحو مفاجئ.
وربما يكون من الأسهل تغيير وجهات النظر بتقديم أدلة جديدة. لهذا يأمل كارغر وتيتلوك أن ينجحا في جمع بعض الأدلة. حيث طلبا من المشاركين في الدراسة الحالية الإجابة عن مجموعة مختلفة من الأسئلة حول سلسلةٍ من "مؤشرات الإنذار المبكر"، وهي الأشياء التي قد تُشير إلى أن العالم في طريقه نحو أحد سيناريوهات الكارثة.
إذ من الممكن اعتبار كمية طاقة الحوسبة المستخدمة في تدريبات الذكاء الاصطناعي بمثابة مؤشر على التقدم العام لهذا المجال. وربما يكون مصير معاهدات الحد من انتشار الأسلحة النووية بمثابة عامل مؤثر أيضاً. ومن المحتمل أن نصل لإجابات بعض هذه الأسئلة قصيرة الأجل بحلول عامي 2024 و2030. ويأمل الباحثان أن تساعد تلك الإجابات في منحنا فكرةً عن المجموعة التي يجب أن نتعامل مع تنبؤاتها بجديةٍ أكبر -وعن درجة القلق التي يجب أن نشعر بها بالتبعية.