К контенту, нарушающему наши правила в отношении экстремизма, относятся материалы, которые создаются иностранными террористическими организациями, запрещенными государством. Мы не разрешаем террористическим организациям использовать YouTube в каких бы то ни было целях, в том числе для вербовки. На YouTube также строго запрещена пропаганда терроризма, одобрение террористических актов и призывы к насилию. Исключения могут быть сделаны лишь для контента, опубликованного в образовательном, научном или художественном контексте либо на правах документальных фильмов.

Контент, создаваемый экстремистскими организациями, не запрещенными государством, как правило попадает под определения наших правил в отношении разжигания ненависти и натуралистичных сцен или жестокости, включая материалы, которые в первую очередь рассчитаны на произведение шокирующего или сенсационного эффекта или отличаются немотивированной экспрессивностью. Наши специалисты проверяют подозрительный контент на соответствие сразу всем принципам сообщества и правилам. В этом разделе Отчета мы публикуем только статистику по видео, удаленным за нарушение правил в отношении экстремизма.

Обмен цифровыми отпечатками: насилие и экстремизм

На YouTube применяется технология, которая предотвращает повторную загрузку ранее удаленного за нарушение правил контента до того, как он станет общедоступным. Мы уже давно используем эту технологию, чтобы не допустить распространение изображений несовершеннолетних в сексуальном контексте. В 2016 году вместе с партнерами по отрасли мы создали базу данных для обмена цифровыми отпечатками террористического контента, чтобы остановить его распространение. Сейчас база данных содержит более 400 000 уникальных цифровых отпечатков, почти неотличимых друг от друга.

Обширный каталог медиаконтента и автоматизированные системы обнаружения нарушений позволяют нам вносить большое количество цифровых отпечатков в базу данных. Согласно критериям, установленным Глобальным интернет-форумом по борьбе с терроризмом, в 2023 году благодаря YouTube в базу данных было добавлено более 45 000 уникальных цифровых отпечатков.

С помощью цифровых отпечатков другие платформы могут выявлять похожий контент и проверять его на соответствие своим правилам. В 2017 году базу данных использовали и пополняли 4 компании. Постепенно их количество увеличилось до 13. Сейчас этой деятельностью официально руководит Глобальный интернет-форум по борьбе с терроризмом (GIFCT).

Глобальный интернет-форум по борьбе с терроризмом: насилие и экстремизм

В 2017 году YouTube, Facebook, Microsoft и Твиттер основали Глобальный интернет-форум по борьбе с терроризмом (GIFCT), чтобы вместе противостоять агрессивным действиям на своих цифровых платформах. Хотя компании уже несколько лет обмениваются опытом по противодействию терроризму, благодаря Глобальному интернет-форуму наша деятельность приобрела более организованный характер, что позволяет нам эффективнее бороться против распространения террористического контента. Совместно с проектом Tech Against Terrorism ("Технологии против терроризма") организация GIFCT проводит семинары по всему миру, в которых участвуют ИТ-компании, негосударственные организации и международные государственные органы.

Поскольку базой данных для обмена цифровыми отпечатками пользовались несколько организаций, необходимо было прийти к единому мнению о том, что считать террористическим и экстремистским контентом. Это позволило бы упорядочить процесс проверки отпечатков и внесения их в базу. В ежегодном Отчете GIFCT о доступности сервисов и данных за 2021 год указано, что первоначально база данных для обмена цифровыми отпечатками была предназначена только для контента, связанного с организациями из сводного санкционного перечня Совета Безопасности ООН.

Представители YouTube и других основателей GIFCT поддержали инициативу, предложенную на саммите "Призыв Крайстчерча", и приняли обязательство бороться с распространением террористического и экстремистского контента в интернете. Опираясь на итоги саммита, специалисты интернет-форума разработали Протокол работы с инцидентами (CIP), чтобы компании – участники GIFCT могли эффективно реагировать на недопустимый контент, который публикуется и транслируется преступниками и связан с произошедшим в действительности актом агрессии. Протокол протестирован и признан эффективным. В частности, он применялся после нападения на синагогу в Галле (Германия, октябрь 2019 г.), а также после случаев стрельбы в Глендейле (США, штат Аризона, май 2020 г.), Буффало (США, штат Нью-Йорк, июнь 2022 г.) и Мемфисе (США, штат Теннесси, сентябрь 2022 г.). После создания протокола (CIP) организация GIFCT добавила в свою систему реагирования категорию инцидентов по контенту. Благодаря этому компании-участники могут обнаруживать видео и изображения происшествий, публикуемые преступниками. Впервые система была задействована после нападения в Удайпуре (Индия, штат Раджастхан, июль 2022 г.).

Сейчас GIFCT – самостоятельная организация со штатом сотрудников и исполнительным директором во главе. В структуре GIFCT также есть Независимый консультативный комитет, который состоит из государственных представителей и негосударственных участников, таких как правозащитники, специалисты по правам человека, исследователи и технические специалисты. В рамках новой структуры управления видеохостинг YouTube является членом Исполнительного операционного совета GIFCT.

Образовательный, документальный, научный и художественный контент: насилие и экстремизм

Если пользователи публикуют контент, связанный с терроризмом, в образовательных, научных или художественных целях либо на правах документальных фильмов, мы рекомендуем им сопровождать такой контент пояснениями, чтобы зрители правильно понимали его контекст и назначение. Нельзя выкладывать материалы, изобилующие сценами насилия, просто ради произведения шокирующего, сенсационного эффекта на публику или вообще без всяких оснований. Если в видео содержатся особенно откровенные и волнующие сцены, оно также должно включать информацию, позволяющую пользователям понять суть того, что они видят, в форме вступлений, комментариев за кадром или текста. Необходимо добавить четко сформулированные название и описание. Содержание документального или образовательного характера представляет интерес для общества и поэтому может оставаться доступным на YouTube несмотря на наличие откровенных кадров. К примеру, мы, скорее всего, не станем удалять видеорепортаж гражданского журналиста о том, как полиция избивает протестующих, снабженный сведениями о месте, времени и социальном контексте события. Однако если такой контент будет размещен без подобных сведений, то мы можем счесть публикацию необоснованной и удалить видео. Кроме того, ролики с чрезмерно откровенными или неоднозначными сценами могут подпадать под возрастные ограничения или требования о показе предупреждения.

Наблюдатели YouTube: насилие и экстремизм

Мы продолжаем развивать нашу сеть, в которую уже входят более 300 государственных учреждений и НПО. Их ценный опыт помогает нам обеспечивать соблюдение правил, в том числе в рамках программы Наблюдателей. Участники программы Наблюдателей проходят обучение по применению правил сообщества YouTube. Поскольку сообщения наблюдателей в целом точнее, чем жалобы обычных пользователей, мы рассматриваем их в приоритетном порядке. Чтобы ускорить устранение проблем, участники программы Наблюдателей могут обращаться к команде безопасности напрямую. При этом сообщения о нарушениях, отправленные как участниками программы, так и обычными пользователями, регулируются одними и теми же правилами и по ним принимают решение одни и те же специалисты Googlе, обученные определять, нарушает ли контент правила сообщества и подлежит ли он удалению.