من أمثلة المحتوى المخالف لسياساتنا في مجال التطرُّف المصحوب بالعنف المواد التي تنتجها المنظمات الإرهابية الخارجية المصنَّفة كمنظمات إرهابية بواسطة الحكومات. ونحن لا نسمح للمنظمات الإرهابية باستخدام YouTube لأي غرض بما في ذلك تجنيد عناصر جديدة. كما يحظر YouTube بشدة المحتوى الذي يشجِّع على الإرهاب مثل المحتوى الذي يُثني على العمليات الإرهابية أو يحرِّض على العنف. ويُستثنى من ذلك المحتوى الذي يتم عرضه في سياق تعليمي أو وثائقي أو علمي أو فني.

المحتوى الذي تنتجه الجماعات الإرهابية غير المدرجة في قائمة الحكومات للمنظمات الإرهابية الخارجية يخضع عادةً لسياساتنا المتعلقة بنشر محتوى يحضّ على الكراهية أو يشتمل على مشاهد عنيفة بما في ذلك المحتوى الذي لا يُقصد منه في المقام الأول سوى أن يكون صادمًا أو مثيرًا أو يعرض مشاهد عنف غير مبررة. ويتولى المراجعون تقييم المحتوى المبلَّغ عن مخالفته لإرشادات المنتدى وسياساتنا. ونحن نقصُر الأعداد الواردة في هذا القسم على المحتوى الذي تمت إزالته وفقًا لسياستنا في ما يتعلّق بالتطرّف المصحوب بالعنف.

مشاركة علامات التجزئة: تطرّف مصحوب بالعنف

يستخدم YouTube التكنولوجيا لمنع إعادة تحميل نُسخ من محتوى سبق رصد مخالفته للسياسات، وذلك قبل إتاحة المحتوى للجمهور. ولطالما استخدمنا هذه التكنولوجيا على المنصة لمنع نشر صور الاعتداء الجنسي على الأطفال. في العام 2016، أنشأنا قاعدة بيانات لمشاركة علامات التجزئة مع شركائنا في المجال، بما في ذلك علامات التجزئة (أو "الملفات المرجعية الرقمية") التي تتعلّق بالمحتوى الإرهابي، وذلك لمنع انتشار هذا النوع من المحتوى. تتضمّن قاعدة البيانات المشتركة حاليًا أكثر من Undefined parameter - formatNumber علامة تجزئة فريدة تماثل إلى حد كبير العين البشرية.

من خلال مكتبة الوسائط الكبيرة وأنظمة الرصد المبرمَجة في YouTube، أصبحنا من أهم المساهمين في قاعدة البيانات الخاصة بمشاركة علامات التجزئة. وفقًا لمعايير المشاركة التي وضعها "منتدى الإنترنت العالمي لمكافحة الإرهاب"، ساهم YouTube في العام 2023 بأكثر من 45,000 علامة تجزئة فريدة في قاعدة البيانات.

بعد أن تتم تجزئة المحتوى، يمكن للمنصات الأخرى استخدام علامات التجزئة هذه للمساعدة في رصد المحتوى ذي الصلة وتقييمه وفقًا لسياسات المحتوى المتّبعة لديها. ومنذ العام 2017، ازداد عدد الشركات التي تساهم في قاعدة البيانات هذه وتستفيد منها من 4 إلى 13. يتولّى "منتدى الإنترنت العالمي لمكافحة الإرهاب" (GIFCT) الآن إدارة هذه الجهود بشكل رسمي.

منتدى الإنترنت العالمي لمكافحة الإرهاب: تطرّف مصحوب بالعنف

في العام 2017، أسّست شركات YouTube وFacebook وMicrosoft وTwitter "منتدى الإنترنت العالمي لمكافحة الإرهاب" (GIFCT) كمجموعة شركات ملتزمة بإحباط محاولات الإرهابيين بإساءة استخدام المنصات الرقمية الخاصة بالمشتركين. وكانت شركاتنا تشارك أفضل الممارسات المتعلقة بمكافحة الإرهاب لعدة سنوات، إلا أنّ GIFCT وفّر بنية رسمية أكثر من أجل تسريع وتيرة هذا العمل وتعزيزه وتشكيل جبهة موحّدة لمنع نشر المحتوى الإرهابي على الإنترنت. بالتعاون مع مبادرة التكنولوجيا في مواجهة الإرهاب، يستضيف منتدى GIFCT ورش عمل عالمية تشارك فيها شركات تكنولوجيا ومؤسسات غير حكومية وهيئات حكومية دولية.

مع تنوُّع أعضاء الفريق والشركاء في المجال الذين يستخدمون قاعدة البيانات الخاصة بمشاركة علامات التجزئة، ظهرت الحاجة إلى توافق أساسي حول ما قد يشكّل محتوى إرهابيًا أو متطرّفًا بهدف مراجعة علامات تجزئة المحتوى ومشاركتها. كما هو موضّح في تقرير الشفافية السنوي لعام 2021 والصادر عن GIFCT، "يقتصر النطاق الأصلي لقاعدة البيانات الخاصة بمشاركة علامات التجزئة على المحتوى المرتبط بالمؤسسات المدرَجة في قائمة الجزاءات الموحدة لمجلس الأمن التابع للأمم المتحدة".

وقّعت منصة YouTube وبقية الأعضاء المؤسسين لمنتدى GIFCT على دعوة "كرايستشورتش" للقضاء على المحتوى المتطرف المصحوب بالإرهاب والعنف على الإنترنت. واستنادًا إلى دعوة "كرايستشورتش"، وضع منتدى GIFCT بروتوكولاً جديدًا بعنوان بروتوكول الحوادث المتعلقة بالمحتوى (CIP) لكي تستجيب الشركات الأعضاء في GIFCT بفعالية لمحتوى البث المباشر الذي ينشئه الجاني بعد حدث عنيف حقيقي. تم اختبار هذا البروتوكول وإثبات فعاليته، على سبيل المثال بعد هجوم على معبد يهودي في مدينة "هاله" الألمانية (تشرين الأول/أكتوبر 2019)، وحادث إطلاق نار في مدينة غلينديل في ولاية أريزونا الأمريكية (أيار/مايو 2020)، وحادث إطلاق نار آخر في مدينة بوفالو في ولاية نيويورك الأمريكية (حزيران/يونيو 2022)، وحادث آخر في مدينة ممفيس في ولاية تينيسي الأمريكية (أيلول/سبتمبر 2022). منذ وضع بروتوكول CIP، طوّر منتدى GIFCT "إطار عمل الاستجابة للحوادث" لتضمين فئة "حوادث المحتوى" للاستجابة للفيديوهات والصور التي لا يتم بثها مباشرةً من تنفيذ الجاني والتي تعرض الحدث الحقيقي. تم تفعيل هذا الإجراء للمرة الأولى بعد هجوم شهدته مدينة أودايبور في ولاية راجستان الهندية (تموز/يوليو 2022).

تطوّر GIFCT ليصبح مؤسسة مستقلة لها مدير تنفيذي وموظفون مستقلون. يشمل هيكل GIFCT أيضًا لجنة استشارية مستقلة تتألف من ممثلين عن الحكومات وأفراد من جهات غير حكومية، بما في ذلك مجموعات مناصرة ومتخصّصون في حقوق الإنسان وباحثون وخبراء فنيون. وفي إطار عمل الإدارة الجديد للمؤسسة، تحمل منصة YouTube عضوية في مجلس الإدارة التنفيذي لمنتدى GIFCT.

محتوى تعليمي ووثائقي وعلمي وفني: تطرّف مصحوب بالعنف

في حال نشر المستخدمين لمحتوى يتعلق بالإرهاب لأغراض تعليمية أو وثائقية أو علمية أو فنية، ننصحهم بالتحلي باليقظة والوعي التام لتقديم معلومات كافية على النحو الذي يتيح للمستخدمين استيعاب السياق العام، وليس من الصواب نشر محتوى يدعو إلى العنف أو إراقة الدماء ويُقصد منه في المقام الأول أن يكون صادمًا أو مثيرًا أو يعرض مشاهد عنف غير مبررة. وإذا كان الفيديو يتضمّن مشاهد عنف أو صورًا مزعجة بشكل بارز، لابد أن يكون هناك ما يكفي من السياق الإضافي والمعلومات بما يتيح للمشاهدين استيعاب ما يرونه، وذلك من خلال عرض مقدمة أو تعليق صوتي أو نصوص مركبة، بالإضافة إلى توفير عنوان ووصف واضحين. ويساعد تقديم السياق الوثائقي أو التعليمي المشاهدين بل والمراجعين في معرفة سبب ترك محتوى قد يسبب إزعاجًا على YouTube في بعض الأحيان. على سبيل المثال، إذا التقط مواطن صحفي صورًا لمتظاهرين أثناء الاعتداء عليهم، ورفع هذه اللقطات مصحوبة بالمعلومات ذات الصلة (مثل التاريخ، والموقع الجغرافي، والسياق العام وغيرها)، لن تكون هناك مشكلة في نشرها على الأرجح. بيد أن نشر اللقطات نفسها بدون أي معلومات عن السياق أو معلومات تعليمية، يمكن اعتبارها غير مبررة وقد تتم إزالتها من الموقع. ويجب أن تخضع أي لقطات تصور مشاهد عنف أو مثيرة للجدل للقيود المتعلقة بعمر المستخدم أو أن تسبقها شاشة تحذيرية.

المُخبرون الأساسيون: التطرّف المصحوب بالعنف

على مستوى جميع المجالات التي تخضع لسياستنا، نواصل الاستثمار في الشبكة التي تضمّ ما يزيد عن 300 جهة من الشركاء الحكوميين والمنظمات غير الحكومية، ونستفيد من الخبرة القيّمة لهذه الجهات من خلال برنامج المُخبر الأساسي مثلاً، وذلك لتعزيز أنظمة تنفيذ السياسات لدينا. يتلقّى المشاركون في "برنامج المُخبر الأساسي" تدريبًا على تنفيذ إرشادات المنتدى في YouTube، ونحن نولي الأولوية لمراجعة المحتوى الذي يبلّغ عنه المشاركون في هذا البرنامج لأنّ أداءهم في الإبلاغ عن المحتوى يكون في العادة أفضل من أداء مستخدمي YouTube العاديين. ويستفيد المشاركون في "برنامج المُخبر الأساسي" من إمكانية التواصل مباشرةً مع فِرق الثقة والسلامة لحلّ المشاكل بشكل أسرع. يخضع المحتوى الذي يبلّغ عنه المُخبرون الأساسيون للسياسات نفسها السارية على المحتوى الذي يبلّغ عنه أي مستخدم آخر، وتتم مراجعة هذا المحتوى من قِبل فِرقنا المدرَّبة على تحديد ما إذا كان يخالف إرشادات المنتدى ويجب إزالته.