القصة بدأت من أم تدعى كريستيان نشرت فيديو لابنتها البالغة 10 سنوات وصديقتها في حمام سباحة المنزل، قالت كريستيان، التي تعيش في ضواحي ريو دي جانيرو: "الفيديو بريء تماماً، ليس بالأمر الجلل"، بحسب التقرير الذي نشرته صحيفة نيويورك تايمز الأمريكية.
بعد عدة أيام، شاركت ابنتها خبراً مثيراً: حصد الفيديو آلاف المشاهدات. وبعد فترة، وصل إلى 400,000 مشاهدة، وهو رقم مذهل لفيديو يعرض طفلة برداء سباحة من قطعتين مع صديقتها، فقالت كريستيان: "شاهدت الفيديو مجدداً وأرعبني عدد المشاهدات".
نظام الترشيح الآلي
وجد فريق من الباحثين أن نظام توصيات يوتيوب الآلي، والذي يوجه مليارات المشاهدات على المنصة من خلال اقتراح الفيديو على المستخدمين، بدأ يعرض الفيديو على المستخدمين الذين يشاهدون فيديوهات عن أطفال في مقتبل البلوغ بملابس خفيفة.
يقول الباحثون إن يوتيوب اختار الفيديو من بين سجلاته، حيث تُدرج أفلام عائلية غير مؤذية بغير قصد في بعض الأحيان، وتحيل الخوارزمية المستخدمين إلى تلك الفيديوهات بعد مشاهدتهم محتويات ذات طابع جنسي، والنتيجة مجموعة من الفيديوهات التي يقول الخبراء إنها تمثّل محتوى جنسياً للأطفال.
يقول جوناس كايزر، أحد الباحثين الثلاثة في مركز بيركمان كلاين للإنترنت والمجتمع بجامعة هارفارد والذين وجدوا الفيديو أثناء بحثهم في مدى تأثير يوتيوب في البرازيل: "خوارزمية يوتيوب هي من تجمع تلك القنوات ببعضها البعض، إنه شيء مرعب".
تسببت أنظمة يوتيوب في ترقية فيديو ابنة كريستين بعد أشهر من تنبيه الشركة بأنها تعاني من مشكلة مع المحتوى الجنسي للأطفال. في شهر فبراير/شباط، ذكرت مجلة Wired ومنافذ إخبارية أخرى أن المتوحشين يستخدمون قسم التعليقات في فيديوهات يوتيوب التي تعرض أطفالاً لتوجيه غيرهم من الذين يميلون جنسياً للأطفال.
وخلال هذا الشهر، أعربت يوتيوب عن "قلقها العميق" إزاء تلك المشكلة، وعطّلت التعليقات على العديد من الفيديوهات التي تعرض أطفالاً، ولكن نظام التوصيات ظل كما هو، وجمع عشرات الفيديوهات المماثلة في قائمة جديدة وسهلة المشاهدة والمتابعة، وقدّمها لمجموعة كبيرة من الجمهور.
الخوارزمية تعمل بشكل مستقل
قال كايزر إن يوتيوب لم يخطط قط لخدمة المستخدمين المائلين جنسياً للأطفال، ولكن في النهاية، تَمكّن النظام الآلي للمنصة من ابقائهم يشاهدون التوصيات والاقتراحات والتي وصفها بـ"المثيرة للقلق".
لا يحتاج المستخدمون للبحث عن فيديوهات للأطفال لمشاهدتها، بل ستقودهم المنصة إلى تلك الفيديوهات من خلال مجموعة من التوصيات والاقتراحات.
حيث تقترح المنصة على المستخدم الذي يشاهد فيديوهات جنسية مثيرة فيديوهات أخرى لنساء أصغر سناً بشكل واضح، ثم فيديوهات لنساء يرتدين ملابس أطفال بشكل استفزازي وتحريضي. وفي نهاية الأمر، يُعرض على بعض المستخدمين فيديوهات لفتيات بسن الخامسة أو السادسة بملابس السباحة، أو يرتدين ملابسهن أو يمارسن رياضة الجمباز.
عندما نبهّت نيويورك تايمز يوتيوب أن نظامها يقترح الفيديوهات العائلية للمستخدمين الذين يبدو أن لهم اهتمامات جنسية نحو الأطفال، حذفت المنصة الكثير منها، ولكنها أبقت على العديد، بما في ذلك بعض الفيديوهات التي يبدو أنها حُمّلت عن طريق حسابات مزيفة.
تحرك من جانب يوتيوب
وتغير نظام الترشيحات نفسه فوراً، حيث لم يعد يربط فيديوهات المقاطع العارية معاً. وقال يوتيوب إن ذلك قد يكون ناتجاً عن انحرافات روتينية في الخوارزمية، وليس تغييراً متعمداً لسياسة المنصة.
قالت جنيفر أوكونور، مديرة إنتاج يوتيوب للثقة والسلامة، إن الشركة تلتزم بالقضاء على الاستغلال الجنسي للأطفال على منصتها، وعملت دون توقف منذ فبراير/شباط لتمكين إنفاذ القانون. وقالت: "حماية الأطفال تأتي على قمة أولوياتنا".
ولكن لم تطبّق يوتيوب التغيير الوحيد الذي يرى الباحثون أنه سيمنع حدوث ذلك مجدداً؛ إيقاف نظام الترشيحات على فيديوهات الأطفال، بالرغم من قدرة المنصة على التعرف على تلك الفيديوهات آلياً. وقالت الشركة إن ذلك لأن الترشيحات هي المحرك الأكبر للمشاهدة، وحذف الفيديوهات من المقترحات سيؤلم "ناشرو المحتوى" الذين يعتمدون على تلك المشاهدات. وقالت الشركة إنها ستضع قيود وحدود على الترشيحات للفيديوهات التي ترى إنها تعرض الأطفال للخطر.
داخل جحر الأرنب
وصفت منصة يوتيوب نظام الترشيحات لديها بالذكاء الاصطناعي الذي يتعلم باستمرار أي الترشيحات ستجعل المستخدمين يواصلون المشاهدة. وتقول إن هذه الترشيحات تمثّل 70% من نسبة المشاهدة، ولم تكشف المنصة عن تفاصيل كيفية تحديد النظام لهذه الاختيارات والمقترحات.
وجدت بعض الدراسات ما أسماه الباحثون "تأثير جحر الأرنب"؛ حيث تعرض المنصة للمشاهدين فيديوهات ذات وتيرة متصاعدة تدريجياً، لإبقائهم في وضع المشاهدة لفترات طويلة.
على سبيل المثال، شاهد بعض الفيديوهات عن مستحضرات التجميل، وستحصل على ترشيحات لفيديوهات تجهيز وتجميل كاملة. شاهد مقاطع عن الدراجات وقد يقترح عليك يوتيوب مقاطع لحوادث صادمة لسباقات الدراجات.
أجرى كايزر وزملاؤه الباحثون، ياسودارا كوردوفا وأدريان روتشفليش، اختباراً لتأثير يوتيوب في البرازيل. فتح الخادم مقاطع الفيديو، ثم أهم مقترحات يوتيوب لما تشاهده لاحقاً. وتمكنوا من خلال إجراء تلك التجربة آلاف المرات من تتبع شيء مثل خريطة أنفاق لكيفية توجيه المنصة مستخدميها.
وتابعوا أيضاً توصيات يوتيوب على القنوات، الصفحات التي تستضيف أعمال صنّاع الفيديو. وبالرغم من قول يوتيوب إنه نادراً ما يتم النقر عليها، إلا أنها توفر طريقة للتحكم في أي تشويش إحصائي ناتج عن كيفية اقتراح المنصة لمقاطع الفيديو.
وعندما تابعوا الترشيحات على الفيديوهات ذات الطابع الجنسي، لاحظوا شيئاً ما أزعجهم أثار قلقهم؛ في العديد من الحالات، أصبحت الفيديوهات أكثر غرابة وتطرفاً، وتركّز بشكل أكبر على الشباب. على سبيل المثال، تؤدي مقاطع الفيديو للنساء اللاتي يتناقشن في أمور جنسية في بعض الأحيان إلى اقتراحات لمقاطع فيديو تعرض نساء بملابس داخلية أو يرضعن أطفالهن، مع ذكر أعمارهن في بعض الأحيان حيث تتراوح بين 19 أو 18 أو حتى 16 عاماً.
يعتقد بعض الباحثين أن هناك بعض المحتوى ينطوي إدراجه في بعض الاهتمامات على مخاطر تشجيع تلك الاهتمامات كذلك.
يقول ستيفان بلومنتال، الطبيب النفسي من لندن والذي يعالج أصحاب الاهتمامات والسلوكيات الجنسية المنحرفة: "تتمتع هذه الآلية بقوة لا تُصدق، وتجذب الأشخاص حولها".
ويضيف الطبيب النفسي إن يوتيوب، من خلال عرض فيديوهات الأطفال المرتبطة بمقاطع المحتوى الجنسي العادية فضلاً عن عرض أعداد المشاهدات العالية لتلك الفيديوهات، على وشك إباحة ونشر ثقافة الميل الجنسي للأطفال وتقبّل المجتمع لها.
ويقول ماركوس روجرز، أستاذ علم النفس بجامعة بيردو والذي أجرى بحثاً عن الاستغلال الجنسي للأطفال: "إنهم يطبّعون هذا الأمر".
وتنكر يوتيوب وجود ما يسمى بتأثير جحر الأرنب.
وقالت أوكونور، مديرة الإنتاج: "من غير الواضح لنا إن كان محرك التوصيات يأخذك في اتجاه أو آخر". ثم أضافت: "ولكن عندما يتعلق الأمر بالأطفال، نسعى لاتخاذ موقف أكثر تحفظاً تجاه ما نوصي به".
الأطفال في خطر
يقول الباحثون إن معظم الأشخاص الذين يشاهدون لقطات جنسية يتوقفون عند هذا الحد. ولكن بعض الفيديوهات على يوتيوب تحتوي على روابط لحسابات الشباب والصغار على الوسائط الاجتماعية.
وقال روجرز: "الكثير من الأشخاص الذين يشاركون بنشاط في الدردشة مع الأطفال يتمتعون بمهارة وموهبة فائقة في تجهيز هؤلاء الأطفال لالتقاط صور موحية وجنسية أو الانخراط في نشاط جنسي وتصويرهم".
لا يسمح يوتيوب للأطفال أقل من 13 سنة بامتلاك قناة. وتقول الشركة إنها تطبق تلك السياسة بصرامة.
تقول جيني كولمان، مديرة منظمة Stop It Now المعنية بمكافحة الاستغلال الجنسي للأطفال: "بالنسبة للآباء، لا توجد حلول سهلة. حتى أكثر العائلات حرصاً قد تنجرف إلى أمور ضارة أو إجرامية".
في التقرير الوارد في هذا المقال، عندما وجدت صحيفة نيويورك تايمز معلومات الاتصال الخاصة بوالدي الأطفال في هذا الفيديو، تواصلت مع المنظمات المحلية لمساعدتهم.
وبعدما تواصلت إحدى تلك المنظمات مع كريستيان، أم الطفلة من البرازيل، عرضت مناقشة تجربتها.
كانت تشعر بالغضب، وتكافح لاستيعاب ما حدث. شعرت بالقلق إزاء ما ستقوله لزوجها. وصرّحت باستيائها من ممارسات يوتيوب. وأعربت عن قلقها بشأن كيفية إبقاء ابنتها آمنة وقد عُرضت على جمهور بتعداد مدينة كاملة، وقالت: "الأمر الوحيد الذي يمكنني القيام به هو منعها من نشر أي شيء على يوتيوب".
