طرحت دراسة حديثة أسئلة جديدة حول سلامة نظام توصيات منصّة "يوتيوب"، بعد أن وجدت أنّ خوارزميات المنصّة توصي الأطفال المهتمين بألعاب الفيديو بمئات مقاطع الفيديو حول استخدام الأسلحة النارية، وإطلاق النار في المدارس، وكيفية استخدام الأسلحة، أو فيديوهات ذات محتوى عنيف.
وأنشأ باحثون في موقع "مشروع الشفافية التقنية" (TTP) أربعة حسابات على منصّة "يوتيوب"، اثنان منها لطفلين مزعومين في سنّ التاسعة، وآخران بعمر 14 عامًا، وثبّتا اهتمام كل حساب بألعاب الفيديو من خلال مشاهدة قوائم التشغيل المكوّنة بالكامل من مقاطع فيديو الألعاب.
ثمّ قاموا بعد ذلك بتسجيل مقاطع الفيديو التي أوصت بها خوارزمية "يوتيوب" لحسابات الأطفال الأربعة وتحليلها. ووجدوا أنّ المنصّة "قد دفعت بالمقاطع التي تحتوي على إطلاق النار في المدارس، ومقاطع فيديو للتدريب على الأسلحة التكتيكية، وتعليمات حول تحويل أسلحة عادية إلى أتوماتيكية (آلية) إلى جميع حسابات اللاعبين، ولكن بحجم أكبر بكثير للمستخدمين الذين نقروا على مقاطع الفيديو الموصى بها".
كما وجدت الدراسة أن الخوارزميات المرتبطة بالمنصّة أوصت الصغار أيضًا بفيلم عن القاتل المتسلسل "جيفري دامر" الذي كان يقتل الشباب واليافعين بصرف النظر عن جنسيتهم، وقطّع جثثهم وسلخ جلودهم واحتفظ بهياكلهم العظمية أو أجزاء منها.
خوارزميات غير آمنة
وأوضحت الدراسة أنّ العديد من مقاطع الفيديو انتهكت سياسات المنصّة الخاصّة بشأن الأسلحة النارية والعنف وسلامة الأطفال، وأنّ الدراسة تتعارض مع تأكيدات الموقع بأنّ خوارزمياته آمنة، مشيرة إلى أن الشركة لم تتخذ أي خطوات واضحة لتقييدها بالفئة العمرية.
وقالت كاتي بول، مديرة مشروع الشفافية التقنية، إنّ "ألعاب الفيديو هي واحدة من أكثر الأنشطة شعبية للأطفال، غير أن خوارزميات يوتيوب توجّههم إلى متجر أسلحة بدلًا من اللعب".
في المقابل، دافعت متحدثة باسم "يوتيوب" عن المنصّة، مؤكدة أنّها تحرص على حماية الأطفال من أي محتوى عنيف أو غير مقبول.
بدورها، كتبت الشركة، في بيان عبر البريد الإلكتروني، أنّ المنصّة تقدّم عددًا من الخيارات للمشاهدين الأصغر سنًا، حيث تربط حسابات المستخدمين الذين تقلّ أعمارهم عن 13 عامًا بحساب الوالدين"، مشدّدة على أنّها مصمّمة لإيجاد تجربة أكثر أمانًا للمراهقين.
وسبق أن طُرحت مخاوف مماثلة حول تعرّض الأطفال لمحتوى غير مناسب عبر تطبيق "تيك توك"، بعد أن كشفت التقارير الأولية أن المنصّة كانت تُوصي بمقاطع تحتوي على الكثير من الضرر والعنف، وتُشجّع على العنف المُسلّح واضطرابات الأكل وإيذاء النفس.
وبالفعل، استخدم الجُناة الذين يقفون وراء العديد من عمليات إطلاق النار الجماعية الأخيرة في عدد من الدول، وسائل التواصل الاجتماعي ومنصّات بثّ الفيديو لنقل هجماتهم مباشرة على الهواء.
ودافعت الشركة المالكة لتطبيق "تيك توك" عن سياساتها، مؤكدة أنه يجري حظر المستخدمين الذين تقل أعمارهم عن 13 عامًا، زاعمة أنّها تحرص على منع الفيديوهات التي تُشجّع على السلوكيات الضارّة.
وأوضحت الدراسة أنّ موقع "يوتيوب" أزال بالفعل بعض مقاطع الفيديو التي حدّدها باحثوها، ولكن في حالات أخرى ظلّ المحتوى متاحًا.
وتعتمد العديد من شركات التكنولوجيا الكبرى على الأنظمة الآلية للإبلاغ عن المحتوى الذي ينتهك قواعدها وإزالته، لكن بول قالت إنّ النتائج التي توصّل إليها البحث تُظهر أنّ هناك حاجة إلى استثمارات أكبر في الإشراف على المحتوى.
بدوره، قال جاستن فاغنر، مدير التحقيقات في منظمة "Everytown for Gun Safety"، الرائدة في مجال الدفاع عن السيطرة على الأسلحة، إنّه في غياب التنظيم الفيدرالي، يجب على شركات وسائل التواصل الاجتماعي بذل المزيد من الجهد لفرض قواعدها الخاصة.
وقال فاغنر إنّ التقرير يُظهر الحاجة إلى تشديد القيود العمرية على المحتوى المتعلّق بالأسلحة النارية، مضيفًا أنّ "الأطفال الذين لم يبلغوا من العمر ما يكفي لشراء سلاح، لا ينبغي أن يكونوا قادرين على اللجوء إلى يوتيوب لتعلّم كيفية صنع سلاح ناري، أو تعديله لجعله أكثر فتكًا، أو لارتكاب الفظائع".