حذّر تقرير لصحيفة The Times البريطانية، الإثنين 1 مايو/أيار 2023، من برنامج ذكاء اصطناعي جديد يُستخدم لتحويل صور الأطفال والمشاهير المنشورة على الإنترنت إلى صور جنسية ومسيئة، ويستعين بعض المستخدمين بصور حقيقية لإنشاء صور قد تكون بطبيعتها مسيئة جنسياً للأطفال.
الصحيفة قالت في تقرير إنه على الآباء أن يتوخوا الحذر إزاء نشر صور أطفالهم على الإنترنت، وأوضحت أن برنامج Midjourney، الذي يستخدمه ملايين الأشخاص لإنشاء صور من رسائل نصية أو صور بسيطة، ساهم في إنشاء صور مزيفة لدونالد ترامب والبابا.
كما يُستخدم البرنامج أيضاً لتوليد صور زائفة استفزازية أو صريحة لمشاهير، مثل جينيفر لورانس وكيت أبتون وكيم كارداشيان. وأنشأ أحد الحسابات أكثر من 57 ألف صورة من هذا النوع لأبتون وحدها منذ أكتوبر/تشرين الأول.
فيما ازدادت شعبية برنامج ذكاء اصطناعي Midjourney "في الأسابيع الأخيرة بعد إطلاق الإصدار الجديد، الذي يضفي مزيداً من الواقعية على الصور التي يولّدها. ويسجل المستخدمون في برنامج الذكاء الاصطناعي ويُنشئون الصور على ديسكورد، ثم يحمّلون الصور التي أنشأوها على موقع Midjourney في معرض عام.
يضم مجتمع Midjourney على ديسكورد أكثر من 14 مليون عضو. وهم أكبر مجموعة فردية على الموقع. وتنص إرشادات الشركة على ضرورة أن يكون المحتوى "مناسباً للعائلة". لكنه ينبّه أيضاً إلى أن التكنولوجيا جديدة و"لا تعمل دائماً كما هو متوقع"، ولا تقدم ما يضمن ملاءمتها للمستخدمين.
اقرأ أيضاً
برنامج ذكاء اصطناعي "مُقلق"
الصور التي اكتشفتها صحيفة The Times تنتهك شروط استخدام Midjourney وديسكورد، وقد تكون، في بعض الحالات، غير قانونية في إنجلترا وويلز، اللتين تحظران المحتوى من هذا النوع، والمعروف باسم الصور غير الفوتوغرافية (NPI). والمحتوى الافتراضي للإساءة الجنسية للأطفال لا يعد غير قانوني في الولايات المتحدة.
فيما حاولت Midjourney وقف تدفق المحتوى الجنسي على موقعها الإلكتروني من خلال حظر مجموعة من الكلمات، وحتى رمز الخوخة التعبيري، الذي يرمز للأرداف في اللغة العامية، من الأوامر المدخلة إلى البرنامج.
بينما اعترف ديفيد هولز، المؤسس والرئيس التنفيذي لشركة Midjourney، مؤخراً بأن الشركة تواجه صعوبة بالغة في وضع قواعد لضبط المحتوى "في الوقت الذي تزداد فيه الصور واقعية وقوة مع تطور الأدوات".
رداً على ما توصلت إليه صحيفة The Times، قالت Midjourney إنها ستحظر المستخدمين الذين ينتهكون قواعدها. وأضاف هولز في رسالة بريد إلكتروني: "خلال الأشهر القليلة الماضية، كنا نعمل على مراقب محتوى اصطناعي قابل للتطوير، وبدأنا اختباره مع قاعدة مستخدمين هذا الأسبوع الماضي".
كما قال متحدث باسم برنامج ذكاء اصطناعي ديسكورد: "سياسة ديسكورد لا تتسامح مطلقاً مع الترويج لمواد جنسية غير توافقية ومشاركتها، وذلك يشمل مواد التزييف العميق والاعتداء الجنسي على الأطفال".