محتوایی که خط‌مشی ما را علیه افراطی‌گری خشونت‌آمیز نقض می‌کند، شامل محتوای تولیدی سازمان‌های تروریستی خارجی است که در فهرست دولت قرار دارند. اجازه نمی‌دهیم سازمان‌های تروریستی از YouTube برای هیچ هدفی استفاده کنند، ازجمله برای عضوگیری. همچنین YouTube محتوایی را که موجب ترویج تروریسم شود به‌شدت منع می‌کند؛ مانند محتوایی که اقدامات تروریستی را تحسین کند یا باعث برانگیختن خشونت شود. محتوایی را که در زمینه‌های آموزش، مستندسازی، علمی یا هنری هم‌رسانی شده است مجاز درنظر می‌گیریم.

محتواهای تولیدشده توسط گروه‌های افراطی خشن که جزو فهرست دولتی سازمان‌های تروریستی خارجی نیستند، اغلب براساس خط‌مشی ما علیه پست کردن محتوای سرشار از نفرت یا خشونت‌آمیز یا گرافیکی مورد بررسی قرار می‌گیرند؛ ازجمله محتواهایی که عمدتاً برای ایجاد شوک، تأثیرات احساسی یا بی‌هدف تولید شده‌اند. بازبین‌ها محتوای پرچم‌گذاری‌شده را براساس همه «دستورالعمل‌های انجمن» و خط‌مشی‌های ما ارزیابی می‌کنند. تعداد موارد این بخش را به محتواهایی محدود می‌کنیم که طبق خط‌مشی ما درباره افراطی‌گری خشونت‌آمیز برداشته می‌شود.

هم‌رسانی درهم‌سازی: افراط‌گرایی خشونت‌آمیز

‫YouTube با به‌کارگیری فناوری، پیش‌از آنکه محتوای ناقض شناخته‌شده دردسترس عموم قرار گیرد، از بارگذاری مجدد آن جلوگیری می‌کند. مدت‌ها است که از این فناوری برای جلوگیری از توزیع تصاویر کودک‌آزاری جنسی در پلاتفرم استفاده می‌کنیم. در سال ۲۰۱۶ با همکاری شرکای این صنعت، یک پایگاه داده هم‌رسانی درهم‌سازی ایجاد کردیم و در این پایگاه، درهم‌سازی‌ها (یا «اثر انگشت‌های دیجیتالی») مربوط به محتوای تروریستی را هم‌رسانی می‌کنیم تا از انتشار آن جلوگیری کنیم. درحال‌حاضر این پایگاه داده هم‌رسانی‌شده حاوی بیش‌از ۴۰۰٬۰۰۰ درهم‌سازی یکتا است که دقت آن تقریباً مشابه مشاهده انسانی است.

کتابخانه رسانه عظیم YouTube و سیستم‌های شناسایی خودکار آن، ما را به یک اهداکننده بزرگ درهم‌سازی در این پایگاه داده هم‌رسانی درهم‌سازی تبدیل می‌کند. طبق معیارهای هم‌رسانی که «تالار گفتمان اینترنتی جهانی برای مقابله با تروریسم» مقرر کرده است، ‫YouTube بیش‌از ۴۵٬۰۰۰ درهم‌سازی یکتا در سال 2023 به پایگاه داده هم‌رسانی درهم‌سازی اهدا کرده است.

پس‌از درهم‌سازی محتوا، پلاتفرم‌های دیگر می‌توانند از این درهم‌سازی‌ها برای کمک به شناسایی محتوای مرتبط در پلاتفرم‌های خود استفاده کنند و آن را براساس خط‌مشی‌های محتوای خود ارزیابی کنند. از سال ۲۰۱۷، تعداد شرکت‌هایی که به این پایگاه داده کمک می‌کنند و از آن بهره می‌برند از ۴ عدد به ۱۳ عدد رشد داشته است. این تلاش سازمان‌یافته را اکنون به‌طور رسمی «تالار گفتمان اینترنتی جهانی برای مقابله با تروریسم» (GIFCT) اداره می‌کند.

تالار گفتمان اینترنتی جهانی برای مقابله با تروریسم: افراط‌گرایی خشونت‌آمیز

در سال ۲۰۱۷، YouTube،‏ Facebook،‏ Microsoft، و Twitter «انجمن اینترنتی جهانی مقابله با تروریسم» (GIFCT) را به‌عنوان گروهی متشکل از چند شرکت تشکیل دادند که به مختل کردن سوءاستفاده تروریستی از پلاتفرم‌های دیجیتالی اعضای این انجمن اختصاص یافته است. اگرچه شرکت‌های ما سال‌ها است روال‌های مطلوب مقابله با تروریسم را به‌اشتراک می‌گذارند، GIFCT ساختار رسمی‌تری برای تسریع و تقویت این کار ارائه می‌کند و جبهه متحدی دربرابر انتشار آنلاین محتوای تروریستی ایجاد می‌کند. در همکاری با طرح «فناوری علیه تروریسم»، GIFCT میزبان کارگاه‌های جهانی با تعامل شرکت‌های فناوری، سازمان‌های غیردولتی و نهادهای دولتی بین‌المللی است.

با وجود اعضای گوناگون و شرکای صنعت که از پایگاه داده هم‌رسانی درهم‌سازی استفاده می‌کنند، برای برآورده کردن اهداف مرور و هم‌رسانی درهم‌سازی‌های محتوا باید اجماعی اساسی برای تعیین اینکه چه چیزی محتوای تروریستی و افراط‌گرایانه را تشکیل می‌دهد وجود داشته باشد. همانطور که در گزارش شفاف‌سازی سالانه GIFCT در سال ۲۰۲۱ ذکر شده است، «حوزه اصلی پایگاه داده هم‌رسانی درهم‌سازی محدود به محتوای مرتبط با سازمان‌های موجود در فهرست تحریم‌های تلفیقی شورای امنیت سازمان ملل متحد می‌شود».

YouTube و دیگر اعضای پایه‌گذار GIFCT به فراخوان کرایست‌چرچ برای حذف محتوای آنلاین افراط‌گرایانه خشونت‌آمیز و تروریستی پیوسته‌اند. GIFCT با تکیه بر «فراخوان کرایست‌چرچ»، پروتکل جدیدی به نام پروتکل مقابله با محتوای مرتبط با حادثه (CIP) طراحی کرده است تا شرکت‌های عضو GIFCT بتوانند پس‌از حمله‌های خشونت‌آمیز واقعی به‌طور مؤثری به محتوای جاری‌سازی زنده ایجادشده توسط فرد مرتکب رویداد خشن پاسخ دهند. این پروتکل آزمایش شده است و تأثیر آن به‌اثبات رسیده است، برای مثال در پی حمله به کنیسه‌ای در هاله در کشور آلمان (اکتبر ۲۰۱۹)؛ تیراندازی در گلندل در ایالت آریزونا در ایالات متحده (مه ۲۰۲۰)؛ تیراندازی در بوفالو در نیویورک در ایالات متحده (ژوئن ۲۰۲۲)؛ و تیراندازی در ممفیس در تنسی در ایالات متحده (سپتامبر ۲۰۲۲). از زمان ایجاد CIP، انجمن GIFCT «چارچوب پاسخ به حادثه» را بیشتر گسترش داده است و این چارچوب شامل یک سطح «مقابله با محتوای مرتبط با حادثه» است تا به تصاویر و ویدیوهای غیر جاری‌سازی زنده که توسط فرد مرتکب تولید شده است و رویداد واقعی را نمایش می‌دهد پاسخ دهد. این چارچوب اولین‌بار پس‌از حمله‌ای در اودی‌پور در راجستان هند (ژوئیه ۲۰۲۲) فعال شد.

GIFCT به‌نحوی تکامل یافته است که سازمانی مستقل با مدیر اجرایی و کارکنان مستقل باشد. ساختار GIFCT شامل کمیته مستقل مشاورین نیز می‌شود که از نمایندگان دولتی و اعضای غیر دولتی شامل گروه‌های حقوقی، متخصصان حقوق بشر، محققان و متخصصان فنی تشکیل شده است. در چارچوب جدید اداره موسسه، YouTube جایگاهی در هیئت مدیره اجرایی GIFCT خواهد داشت.

محتوای آموزشی، مستند، علمی و هنری: افراط‌گرایی خشونت‌آمیز

اگر کاربران برای اهداف آموزشی، مستندسازی، علمی، یا هنری، محتوایی مربوط به تروریسم پست کنند، از آن‌ها می‌خواهیم مراقب باشند اطلاعات کافی ارائه دهند تا بیننده‌ها متوجه موضوع شوند. پست کردن محتوای خشونت‌آمیز یا جنایت‌آمیزی که عمدتاً برای ایجاد شوک یا برانگیختن احساسات یا بدون هدف خاصی ساخته می‌شود، مورد تأیید نیست. اگر ویدیویی به‌ویژه حاوی خشونت گرافیکی یا آزاردهنده باشد باید با اطلاعات و زمینه اضافی متعادل شود تا به درک بیننده‌ها از آنچه می‌بینند کمک کند - برای مثال با اضافه کردن مقدمه، تفسیر صوتی یا هم‌پوشانی‌های نوشتاری و همچنین عنوان و شرحی واضح. ارائهٔ زمینه مستند یا آموزشی به بیننده و بازبین‌های ما کمک می‌کند بدانند چرا گاهی محتوای بالقوه آزاردهنده در YouTube باقی می‌ماند. برای مثال، فیلم شهروند-روزنامه‌نگاری که از صحنه ضرب‌وشتم تظاهرکنندگان فیلم‌برداری می‌کند و آن را با اطلاعات مرتبط (تاریخ، مکان، موضوع، و غیره) بارگذاری می‌کند، احتمالاً مجاز خواهد بود. اما پست کردن همین فیلم بدون اطلاعات زمینه‌ای و آموزشی می‌تواند بی‌هدف در نظر گرفته شود و از سایت برداشته شود. ابقای فیلم‌های بحث‌برانگیز یا حاوی خشونت گرافیکی ممکن است منوط به اعمال محدودیت سنی یا استفاده از صفحه هشدار شود.

پرچم‌زنندگان اولویت: افراط‌گرایی خشونت‌آمیز

در سراسر حوزه‌های خط‌مشی‌مان، به سرمایه‌گذاری روی شبکه‌ای با بیش‌از ۳۰۰ شریک دولتی و سازمان مردم‌نهاد ادامه می‌دهیم. این شبکه تخصص‌های ارزشمندی به سیستم‌های اجرایی ما اضافه می‌کند، ازجمله ازطریق برنامه «پرچم‌زنندگان اولویت» ما. شرکت‌کنندگان در برنامه «پرچم‌زنندگان اولویت» برای اجرای «دستورالعمل‌های انجمن YouTube» آموزش می‌بینند و چون پرچم‌های آن‌ها نرخ کنش بالاتری نسبت به کاربران معمولی دارد، بازبینی آن‌ها را در اولویت قرار می‌دهیم. شرکت‌کنندگان در برنامه «پرچم‌زنندگان اولویت» خط ارتباطی مستقیمی برای برقراری ارتباط با «تیم‌های اعتماد و امنیت» ما دارند تا مشکلات سریع‌تر حل‌وفصل شود محتوایی که «پرچم‌زنندگان اولویت» پرچم‌گذاری می‌کنند و محتوایی که دیگر کاربران پرچم‌گذاری می‌کنند تابع خط‌مشی‌های یکسانی هستند و تیم‌های ما همه این محتوای پرچم‌گذاری‌شده را بررسی می‌کنند؛ این تیم‌ها آموزش دیده‌اند تا تصمیم بگیرند آیا محتوا ناقض «دستورالعمل‌های انجمن» ما است و باید حذف شود یا نه.