Согласно закону Германии "О защите прав пользователей в социальных сетях" (NetzDG) "явно противозаконный контент" (видео, комментарий и т. п.), размещенный в социальных сетях, где зарегистрировано более двух миллионов пользователей, должен быть удален в течение 24 часов после подачи жалобы о материале, нарушающем закон NetzDG (далее – жалоба или жалоба на основании закона NetzDG). Если факт нарушения закона неочевиден, владелец социальной сети должен рассмотреть заявку в течение семи дней. В исключительных случаях на это дается больше времени – например, когда необходимо получить объяснения от пользователя, загрузившего контент (то есть от чьего имени видео и комментарии хранятся на YouTube), или дождаться решения аккредитованной саморегулирующей организации. Удалению подлежат материалы, подпадающие под определение хотя бы одного из 22 законов Уголовного кодекса Германии, указанных в NetzDG (статья 1 (3)). Все жалобы на основании закона NetzDG проверяются в рамках описаний уголовных преступлений, приведенных в статье 1 (3). Если контент признается незаконным на основании статьи 1 (3) закона NetzDG, мы ограничиваем к нему доступ в Германии. Если контент явно нарушает правила сообщества YouTube, мы удаляем его для всех стран.

Закон о борьбе с правым экстремизмом и преступлениями на почве ненависти расширил перечень уголовных преступлений, указанных в статье 1 (3) закона NetzDG, с точки зрения контента. Например, нарушение общественного спокойствия угрозами совершения преступления (статья 126 Уголовного кодекса), а также поощрение и одобрение преступлений (статья 140 Уголовного кодекса) теперь включают нанесение опасных телесных повреждений (статья 224 Уголовного кодекса). Помимо этого, 1 февраля 2022 года к уголовным преступлениям, указанным в NetzDG, было добавлено осквернение памяти умерших (статья 189 Уголовного кодекса). Данные расширения и дополнения содержат расплывчатые юридические понятия, которые также необходимо учитывать при проверке контента. Из-за этого возрастает риск принятия неверного решения.

NetzDG также требует, чтобы социальные сети дважды в год создавали и публиковали отчет об обработке связанных с законом жалоб (отчет о прозрачности). Публикуя данный отчет, мы соблюдаем это требование. Мы обновляем данные по периодам с января по июнь и с июля по декабрь каждого года. Отчет по умолчанию, доступный здесь, охватывает последний отчетный период, но пользователи также могут просмотреть данные за предыдущие отчетные периоды. В конце отчета также доступна его текущая версия для скачивания.

Сегодня на YouTube каждую минуту загружается свыше пятисот часов видеоматериалов. Это делает платформу одной из крупнейших коллекций артефактов человеческой культуры, собранных воедино. YouTube – это пространство, где люди со всего мира могут творить и делиться идеями и мнениями. Для безопасности такого огромного сообщества важно, чтобы все участники придерживались его правил. На YouTube запрещено публиковать контент определенных категорий, в том числе спам, материалы сексуального характера и содержащие дискриминационные высказывания, домогательства и призывы к насилию. Если контент не соответствует нашим правилам сообщества, мы удаляем или блокируем его для пользователей во всем мире. Для выявления нарушений на YouTube используются как автоматические алгоритмы, так и сообщения от пользователей. Такой подход позволяет обеспечивать выполнение правил. Подробную информацию можно найти в отчете Контроль за соблюдением правил сообщества YouTube.

Мы уважаем законы Германии и других стран. Когда мы получаем жалобы с требованиями удалить потенциально незаконный контент, мы внимательно их рассматриваем. Если контент нарушает местное законодательство, мы ограничиваем доступ к нему в соответствующей стране. Мы придерживаемся аналогичного подхода в отношении любых других официальных запросов на удаление контента. Как мы подробно рассказываем в этом отчете, определение противозаконности контента в соответствии с местными законами может быть одним из наиболее сложных правовых решений, которые приходится принимать специалистам YouTube по анализу контента.

Мы хотим, чтобы для пользователей со всего мира платформа YouTube оставалась онлайн-сообществом, которое живет активной и увлекательной жизнью. Это возможно только благодаря усилиям команды специалистов из самых разных областей: юристов, экспертов по проверке контента и правилам, разработчиков, менеджеров по продуктам, аналитиков по данным, операциям и опасным тенденциям и многих других. Кроме того, важный вклад в развитие YouTube как полезной платформы для авторов и зрителей вносят ее пользователи, неправительственные и государственные организации, а также наши партнеры по отрасли.

Эти данные включают только жалобы на контент, который считается незаконным по смыслу положений статьи 1 (3) закона NetzDG. Здесь не учитываются жалобы, полученные через каналы, которые явным образом не требуют анализа в соответствии с законом NetzDG.

Термин "жалоба" в этом отчете относится к отдельным объектам. Если рассмотрению в рамках закона NetzDG подлежат несколько объектов, например видео или комментариев, то мы регистрируем отдельную жалобу для каждого из них. Так, получив запрос, в котором перечислены три разных видео, мы регистрируем три жалобы. Таким образом, в этом отчете мы считаем каждую отдельную жалобу на видео или комментарий одним объектом. Соответственно, на диаграммах с количеством объектов ниже, представлены данные о количестве жалоб на эти объекты, которые мы получили за полугодовой отчетный период.

На диаграммах ниже приведены данные о количестве объектов, которые были удалены или заблокированы на основании жалоб со ссылкой на закон NetzDG за отчетный период.

Закон NetzDG разрешает представителям социальной сети связаться с лицом, загрузившим контент, если в материалах содержится фактическое утверждение, ложное с точки зрения заявителя, или нужно подтвердить достоверность других обстоятельств. Это можно сделать только при условии, что в адрес социальной сети направлен подробный и обоснованный запрос, в котором заявитель разъясняет, почему он считает утверждение ложным. Но поскольку большинство запросов со ссылкой на NetzDG не подкрепляются основаниями (даже после того, как специалисты YouTube запрашивают дополнительную информацию), в таких случаях у нас нет достаточных оснований обращаться к лицам, загрузившим контент.

Встречаются ситуации, связанные с уголовным правом, в которых требуется знание местной специфики. В таких случаях мы обращаемся за консультацией к третьим лицам – внешним экспертам или саморегулируемым организациям, которые компетентны в положениях NetzDG.

Мы проверяем весь контент, на который поступают жалобы о наличии нарушений, соответствующих пунктам УК Германии из статьи 1 (3) закона NetzDG.

На диаграммах в этом разделе приведены данные за отчетный период о количестве удаленных или заблокированных объектов, которые подходили под описание уголовных преступлений из закона NetzDG. Сведения сгруппированы по времени рассмотрения жалоб (время с момента получения жалобы до удаления или блокировки контента).

Государственные учреждения, суды и стороны, участвующие в гражданских судебных процессах, часто обращаются в компании из сферы коммуникаций и высоких технологий за сведениями о пользователях. Информация о количестве и типах запросов, которые мы получаем от государственных органов, публикуется в этом отчете.

Мы считаем, что каждый человек имеет право на свободу слова и самоопределение, а также на доступ к информации и равные возможности. Но для того чтобы пребывание на YouTube было безопасным и интересным для всех участников, необходимо поддерживать баланс между этими ценностями и мерами по предотвращению распространения контента, который нарушает правила сообщества и закон. Это непростая задача, особенно для YouTube – глобальной платформы, работающей в странах с самыми разными общественными нормами.

Способы подачи жалоб на контент в соответствии с NetzDG

На YouTube пользователи в Германии, вошедшие в аккаунт, могут жаловаться на недопустимый контент и при этом ссылаться на закон NetzDG. Для отправки жалобы рядом с каждым видео и комментарием всегда доступна кнопка в виде трех точек. Открыв окно для жалобы, заявитель должен установить флажок "Я считаю, что этот контент нарушает Закон о соблюдении правовых норм в социальных сетях". Затем появится небольшая форма для ввода дополнительной информации.

Также можно воспользоваться формой для жалоб на основе закона NetzDG по ссылке в главном меню YouTube или на странице с нашими контактными данными, которая доступна для всех пользователей в Германии. Для этого необязательно входить в аккаунт.

Столкнувшись с разнообразными вариантами нарушений, обычный пользователь может запутаться или даже вовсе отказаться сообщать о неприемлемом контенте. Маловероятно, что неспециалист будет способен указать подходящие статьи УК Германии при подаче жалобы со ссылкой на закон NetzDG. Кроме того, иногда контент нарушает сразу несколько положений законодательства. Например, видео, с помощью которого привлекают новых членов или сторонников преступной или террористической организации (статьи 129, 129a УК Германии), обычно содержит такие символы, как флаги, что может нарушать статьи 86 и 86a УК Германии. Кроме того, сам факт подготовки серьезного насильственного преступления, угрожающего государству, подпадает под статью 89a УК Германии. Эти опасения, о которых уже говорилось в предыдущих отчетах, стали более актуальными в связи с изменениями, основанными на положениях Закона о борьбе с правым экстремизмом и преступлениями на почве ненависти. Например, по смыслу статьи 241 УК Германии угроза также может быть передана "через третьих лиц", если раскрытие информации адресату является частью умысла преступника. Таким образом, деяния, связанные с угрозой совершения преступлений (статья 126 УК Германии) и угрозой человеку (статья 241 УК Германии), описаны недостаточно четко, особенно когда речь идет о контенте, публикуемом в социальных сетях.

Чтобы пользователям было проще сообщать о материалах, которые, по их мнению, нарушают закон NetzDG, мы создали 7 категорий контента, Они представляют 22 уголовных нарушения из NetzDG в нашем процессе подачи жалоб. Такой подход помог сузить значение некоторых типов неприемлемого поведения и сделать их менее абстрактными и более понятными, особенно для неспециалистов. Например, это касается статьи 140 УК Германии, где речь идет о поощрении и одобрении разнообразных серьезных правонарушений, таких как государственная измена, убийство, военные преступления, нанесение опасных телесных повреждений, некоторые преступления, угрожающие обществу, а также ряд серьезных сексуальных преступлений и т. д. Опыт показывает, что пользователям удается более эффективно сообщать о незаконном контенте благодаря нашему удобному и понятному механизму подачи жалоб. Каталог статьи 126 УК Германии, упомянутой в статье 140, в свою очередь, был расширен. Более того, для фиксации факта одобрения преступления по статье 140 УК Германии теперь даже не требуется, чтобы рассматриваемое деяние уже было совершено или, по крайней мере, предпринято в степени, достаточной для наказания. Обычным пользователям нелегко работать с каталогами правонарушений и изучать подробности в типичных случаях, когда угрозы носят лишь перспективный характер. Мы полагаем, что реалистичный подход, который использовался нами до сих пор, позволит и в будущем максимально полно учитывать цели закона NetzDG.

Ниже указаны категории, которые можно выбирать при подаче жалобы. Каждая из них соответствует отдельным уголовным преступлениям, упомянутым в статье 1 (3) закона NetzDG.

Дискриминационные высказывания или политический экстремизм

• § 130 Уголовного кодекса Германии: Разжигание межнациональной розни.
• § 166 Уголовного кодекса Германии: Распространение клеветы о религиях, а также религиозных и идеологических объединениях.

Пропаганда терроризма или нарушение конституции

• § 86 Уголовного кодекса Германии: Распространение пропагандистских материалов антиконституционных организаций.
• § 86 Уголовного кодекса Германии: Использование символов неконституционных организаций.
• Статья 89a Уголовного кодекса Германии. Подготовка серьезного насильственного преступления, угрожающего государству.
• Статья 91 Уголовного кодекса Германии. Руководство к совершению тяжкого насильственного деяния, угрожающего государственной безопасности.
• § 100a Уголовного кодекса Германии: Изменнический подлог.
• Статья 129 Уголовного кодекса Германии. Организация преступных сообществ.
• § 129a Уголовного кодекса Германии: Создание террористических организаций.
• § 129b Уголовного кодекса Германии: Криминальные и террористические организации за рубежом; расширенная конфискация и лишение имущества.
• Статья 140 Уголовного кодекса Германии в связи со статьей 138 (1). Поощрение и одобрение преступных деяний, перечисленных в статье 138 (1).
• § 269 Уголовного кодекса Германии: Подделка доказательств.

Насилие

• § 131 Уголовного кодекса Германии: Распространение изображений насилия.

Вредные или опасные действия

• § 111 Уголовного кодекса Германии: Публичное подстрекательство к преступлению.
• § 126 Уголовного кодекса Германии: Нарушение общественного спокойствия путем угрозы совершения преступления.
• Статья 140 Уголовного кодекса Германии в связи со статьей 126 (1). Поощрение и одобрение преступных деяний, перечисленных в статье 126 (1).
• § 241 Уголовного кодекса Германии: Угроза совершения тяжкого преступления.

Клевета или оскорбление

• § 185 Уголовного кодекса Германии: Оскорбление
• §186 Уголовного кодекса Германии: Клевета
• § 187 Уголовного кодекса Германии: Преднамеренная клевета

Конфиденциальность

• § 201a Уголовного кодекса Германии: Нарушение конфиденциальности путем фотографирования.

Содержание сексуального характера

• Статья 184b Уголовного кодекса Германии. Распространение, приобретение и хранение детской порнографии.
• § 140 Уголовного кодекса Германии в связи с §§ 176–178: Поощрение и одобрение агрессивных действий, перечисленных в §§ 176–178.

Основываясь на нашем многолетнем мировом опыте анализа контента, мы считаем, что правовая цель NetzDG лучше всего поддерживается и достигается этими категориями.

Подробнееarrow_forward

Информирование заявителя и лица, загрузившего контент

Когда нам приходит жалоба со ссылкой на закон NetzDG, поданная описанными выше способами, мы отправляем заявителю по электронной почте сообщение с номером обращения, уведомляя его о том, что запрос получен и будет нами рассмотрен.

После завершения проверки мы отправляем заявителю электронное письмо с нашим решением на основе NetzDG и обоснованием. В письме также сообщается, что при желании можно подать заявление в правоохранительные органы, и приводится ссылка на страницу сайта hilfe-info.de, где размещена справочная информация от Федерального министерства юстиции и защиты прав потребителей Германии. Если мы не предпринимаем действий в отношении видео, на которое была отправлена жалоба, то также указываем в письме ссылку, перейдя по которой заявитель может подать запрос на пересмотр решения.

Если после рассмотрения такой жалобы мы блокируем видео за нарушение статьи УК Германии, указанной в законе NetzDG, то сообщаем лицу, загрузившему контент, о блокировке по электронной почте. В письме указывается ссылка на форму для обжалования нашего решения. Также подобное письмо направляется лицу, загрузившему контент, если мы удаляем видео за несоблюдение правил сообщества.

После удаления или блокировки видео за такие нарушения на его странице показывается публичное уведомление о том, что контент больше не доступен.

Другие способы подачи жалоб

Жалобы на противозаконный контент. Как сказано выше, мы создали специальную веб-форму для жалоб на контент, который предположительно противоречит закону NetzDG. К ней можно перейти по ссылке Жалобы на основе закона NetzDG в главном меню или на странице с контактными данными YouTube. Пользователи в Германии, вошедшие в аккаунт, также могут сообщить о незаконных материалах, установив флажок NetzDG в меню отправки жалобы. При подаче жалобы через форму или меню заявитель должен указать сведения, подтверждающие факт нарушения закона. Эта информация требуется нам для проведения надлежащей проверки и принятия решения о необходимых действиях. Если данных недостаточно, мы можем связаться с заявителем и попросить его предоставить дополнительную информацию.

Поскольку пользователи могут сообщать о нарушении через меню рядом с контентом, мы получаем много сообщений, значительная часть которых недостоверна. Они часто не относятся к теме, необоснованны или не содержат пояснений. Соответственно, по таким жалобам нельзя предпринять никаких действий, особенно если в видео не содержится явных признаков незаконности контента.

Помимо механизмов подачи жалоб, связанных с законом NetzDG, на YouTube действуют и другие контактные формы, введенные ранее: для сообщений о несанкционированном использовании личных данных, товарных знаков и объектов авторского права, а также о других нарушениях. Таким образом, процедура проверки контента существовала на площадке и до появления закона NetzDG. Новая система просто объединяет существующие механизмы – пометки о нарушениях правил сообщества YouTube и жалобы на потенциально незаконный контент.

Жалобы от пользователей. Любой пользователь, вошедший в аккаунт, может сообщить нам о контенте, нарушающем правила сообщества. Для этого рядом с каждым видео и комментарием всегда доступна специальная кнопка. Пользователь может выбрать категорию, чтобы указать причину, по которой он подает жалобу. Если при этом не установить флажок NetzDG, жалоба рассматривается в рамках нарушения правил сообщества. Мы реализовали эту возможность добровольно, а не в соответствии с юридическим обязательством. Мы также создали программу "Наблюдатель YouTube". В ней участвуют организации, которые особенно эффективно выявляют контент, не соответствующий правилам сообщества. В программе есть инструменты и отлаженные процессы для подачи жалоб в отношении нескольких объектов сразу. Жалобы от Наблюдателей YouTube оцениваются только на основании правил сообщества. К Наблюдателям YouTube относятся неправительственные и государственные организации, которые специализируются на отдельных областях правил и с высокой точностью помечают нарушения. Участники вносят большой вклад в нашу систему. Подробная информация об этой программе приведена в отчете Контроль за соблюдением правил сообщества YouTube.

Автоматическое распознавание повторно загруженных материалов. Мы начинаем проверять контент с того момента, как пользователь загружает его на YouTube. В сервисе применяется технология, обнаруживающая повторно загруженные видео, которые мы ранее удалили за нарушение правил сообщества YouTube. Она выявляет такие материалы разными способами, в том числе с помощью хешей – цифровых отпечатков, которые присваиваются изображениям и видео. Для фильтрации контента из некоторых категорий, таких как изображение несовершеннолетних в сексуальном контексте и вербовка террористов, мы обращаемся к общей отраслевой базе хешей. Благодаря этому наши автоматизированные системы лучше выявляют неприемлемый контент при загрузке.

Автоматическая пометка. С июня 2017 года мы начали применять технологию машинного обучения для обнаружения экстремистского контента. Система находит подозрительные материалы и отправляет их на проверку специалистам. Для ее обучения используется база видео, уже удаленных с YouTube за нарушение правил в отношении насильственного экстремизма. Благодаря этой технологии система сама совершенствует алгоритмы действий, анализируя решения человека. Получив положительные результаты, мы начали использовать машинное обучение для борьбы с другими типами нежелательного контента, связанными с безопасностью детей и дискриминационными высказываниями. Однако для успешной работы системе нужны четкие ориентиры. Она не может полностью заменить человека и учитывать все нюансы в каждом отдельном случае. Подробную информацию можно найти в отчете Контроль за соблюдением правил сообщества YouTube.

Рассмотрение жалоб

Жалобы на нарушение правил сообщества YouTube. Правила сообщества YouTube – это четко сформулированные и продуманные принципы, действующие по всему миру. Их текст можно найти здесь. Мы составляли правила постепенно, по мере того как развивался сервис и изменялось поведение его пользователей. Создавая канал YouTube, пользователь соглашается соблюдать их.

Мы проверяем весь контент, в отношении которого поступают жалобы, на соответствие правилам сообщества. Согласно правилам запрещены материалы, которые можно отнести к таким категориям, как нагота и контент сексуального характера, угрозы, опасные действия или причинение вреда, разжигание ненависти, откровенные сцены насилия или неприятные изображения, домогательства или интернет-травля и создание угрозы для детей.

Чтобы обеспечить соблюдение правил сообщества YouTube, мы создаем подробные инструкции по интерпретации нарушений и поддерживаем актуальность этих вспомогательных материалов. Например, согласно правилам запрещен контент, продвигающий терроризм. Если возникает новая террористическая организация, мы уточняем внутренние руководства, чтобы наши специалисты своевременно удаляли контент, в котором ее деятельность поддерживается. Мы не всегда раскрываем подробности таких уточнений, чтобы не давать злоумышленникам возможности обходить наши ограничения.

При проверке контента наши специалисты учитывают окружающий контекст (заголовок видео, его описание, теги, субтитры), а также другие материалы на канале. Эта информация часто помогает определить, с какой целью видео было загружено. Кроме того, мы просим заявителей указывать в форме временные метки, на которых в ролике показываются кадры с нарушениями. Благодаря этому проверяющие могут сосредоточиться на потенциально проблемных моментах в видео.

Из правил сообщества предусмотрены исключения для образовательного, документального, научного и художественного контента. Видео и комментарии такого характера важны для понимания картины мира и истории. Как правило, речь идет о войнах, революциях или произведениях искусства, которые могут изображать наготу. Мы уделяем много внимания тому, чтобы наши проверяющие корректно применяли исключения. Однако этот аспект остается одним из самых сложных в принятии решений по жалобам на контент.

Если контент нарушает наши правила сообщества, то в большинстве случаев мы удаляем его для пользователей во всем мире. Наши специалисты также могут применить к неприемлемым материалам одно из следующих ограничений:

• Возрастные ограничения. Иногда видео подходит не для всех категорий зрителей, хотя в нем нет нарушений законов или наших правил. Получив жалобу на такой контент, мы можем установить для него возрастные ограничения. В результате видео становится недоступно зрителям младше 18 лет, пользователям, которые не вошли в аккаунт, а также тем, у кого включен Безопасный режим. Приняв такое решение, мы направляем лицу, загрузившему контент, уведомление по электронной почте о том, что для видео установлены возрастные ограничения и это решение можно обжаловать. Подробнее…
• Ограничение функций. Если вопрос о том, нарушаются ли в контенте наши правила, спорный, мы можем отключить некоторые функции. Видео останется доступным на YouTube, но его зрителям будет показываться предупреждение. Они не смогут комментировать его, делиться им и нажимать "Нравится". Кроме того, такой контент перестанет появляться в блоке рекомендуемого. Это видео также нельзя будет монетизировать. При принятии такого решения мы направляем лицу, загрузившему контент, уведомление по электронной почте о том, что функции видео ограничены и это решение можно обжаловать. Подробнее…
• Доступ только для автора. Если мы определим, что контент нарушает правила в отношении ложных метаданных, то можем сделать его доступным только для автора. Другие пользователи не смогут посмотреть такое видео, даже если у них будет ссылка на него. При принятии такого решения мы направляем лицу, загрузившему контент, уведомление по электронной почте о том, что видео больше не является общедоступным и это решение можно обжаловать. Подробнее…

В случае повторных или более серьезных нарушений мы можем наказать пользователя, отключив в аккаунте некоторые функции или полностью его заблокировав. Чаще всего пользователь, впервые нарушивший правила сообщества, получает уведомление. Канал, как правило, удаляется после третьего нарушения. Однако мы можем сделать это и после первого, если оно имеет серьезный характер, например когда пользователь продвигает терроризм.

Жалобы на противозаконный контент. Когда мы получаем официальный запрос, наши специалисты проверяют указанный в нем контент. Они учитывают аргументы заявителя и контекст рассматриваемых материалов, например заголовок и другие метаданные. Если в запросе отсутствует важная информация (например, данные о лице, в чей адрес сделаны предположительно порочащие высказывания), мы связываемся с заявителем. Получив от него необходимые сведения, мы осуществляем юридическую оценку случая. Если контент признается противозаконным, мы ограничиваем к нему доступ в соответствующей стране.

Жалобы на основе закона NetzDG. Получая запрос, связанный с NetzDG, мы перенаправляем его специализированной группе (см. раздел "Команды по рассмотрению жалоб"), которая проверяет контекстную среду указанных материалов и оценивает их в соответствии с уголовными преступлениями, перечисленными в этом законе. Если контент явно нарушает правила сообщества, наши специалисты удаляют его для пользователей во всех странах. По отношению к материалам, на которые была отправлена жалоба со ссылкой на закон NetzDG, мы принимаем следующие меры. Если контент нарушает правила сообщества, он может быть удален для пользователей во всех странах независимо от того, соответствует ли он требованиям законодательства Германии. Если контент удовлетворяет правилам сообщества YouTube, но считается незаконным на основании статьи 1 (3) закона NetzDG или других местных правовых норм, то он блокируется для пользователей в Германии.

Оценивать жалобы часто бывает непросто. Даже юристам иногда сложно установить факт уголовного преступления, такого как фальсификация доказательств (статья 269 УК Германии). К примеру, за категорией "Клевета и оскорбления" скрывается целая область прецедентного права, которая развивалась последние несколько десятков лет, причем особенно быстро – после принятия Конституции Германии. Поэтому лишь в небольшой доле случаев, когда есть подозрения на клевету или оскорбления, удается применить определение "явно противозаконный". Судебные разбирательства затягиваются на годы, и разные суды выносят по одним и тем же делам разные решения. Так, Конституционный суд Германии не раз отменял решения Федерального верховного суда. Это говорит о том, что в подобных случаях требуется тщательный анализ всех обстоятельств, а законность отдельного высказывания относительна и зависит от ситуации. Но в отличие от судебных инстанций социальные сети часто не располагают всей необходимой информацией. У них также нет нормативной базы, регламентирующей процедуру расследования. Поэтому иногда трудно определить, соответствует ли контент отдельным положениям статей УК. Как правило, этот вопрос находится в компетенции суда.

Наши соображения подтверждаются практикой. Многие жалобы со ссылкой на NetzDG в отношении клеветы или оскорблений поступают не от тех, в чей адрес направлены предполагаемые правонарушения, а от третьих лиц, воспринимающих эти высказывания как неприемлемые. Поскольку представители социальной сети не имеют полномочий проверять личность заявителя, они не знают, действительно ли адресат высказываний считает их оскорбительными и не подал ли он уже заявление в правоохранительные органы, которые, в свою очередь, расследуют подобные случаи только по обращению пострадавшего (Antragsdelikt).

Специальная команда рассматривает связанные с NetzDG запросы в две смены, круглогодично и без выходных. Такое расписание позволяет удалять или локально блокировать контент в сроки, установленные NetzDG. Если жалоба явно не имеет оснований, заявитель немедленно получает об этом уведомление согласно требованиям законодательства (см. раздел "Информирование заявителя и лица, загрузившего контент, в соответствии с NetzDG"). Если контент не содержит очевидного нарушения правил сообщества YouTube или местного законодательства, случай сложный или может не относиться к Германии, то специалист по проверке контента на соответствие NetzDG передает запрос на следующий уровень. Старшие специалисты оперативно рассматривают жалобу и принимают решение. Сложные запросы передаются команде юристов YouTube. Если они сомневаются, то запрос переходит сотрудникам юридического отдела Google Germany GmbH. Они, в свою очередь, могут направить особенно сложные случаи внешнему подрядчику, специализирующемуся на уголовном праве. Весь процесс обычно занимает до семи дней.

Чтобы команда NetzDG верно и последовательно применяла правила сообщества YouTube и требования закона NetzDG в отношении уголовных преступлений, мы внедрили жесткий процесс контроля качества. В отчетном периоде мы отбирали в среднем около 30 % проверенных материалов за прошедшую неделю. В разные недели объем работ по оценке качества может меняться в зависимости от количества поступающих жалоб. Процесс организован следующим образом: команда проверки качества оценивает решения, принятые каждым специалистом по проверке контента, обеспечивает персональную обратную связь для всех и анализирует результат проверки в целом. Обработанные образцы контента используются для еженедельного обзора данных о качестве. Проверкой качества занимается отдельная группа в составе команды NetzDG. Специалисты этой группы ранее занимались проверкой контента и обладают значительным опытом работы с разделами уголовного законодательства, на которые ссылается NetzDG, и правилами сообщества YouTube. Во время еженедельных встреч специалисты юридического отдела YouTube и команды NetzDG не только обсуждают результаты последних проверок качества, но и разбирают особенно интересные и сложные случаи. На встречах также рассматриваются заметные тенденции, "горячие темы" и изменения прецедентного права. Благодаря этому команда NetzDG придерживается единого подхода в проверке. Когда возникает необходимость, мы дорабатываем политику удаления контента и адаптируем ее к обновлениям правил сообщества YouTube и прецедентного права. В таких случаях все члены команды NetzDG получают новые руководства и учебные материалы.

Апелляции

Апелляции по решениям, вынесенным на основании закона NetzDG. Если мы определяем, что видео, на которое была отправлена жалоба на основе NetzDG, является незаконным, так как подходит под описание уголовного преступления из этого закона, то лицо, загрузившее такой контент, получает уведомление со ссылкой на форму для обжалования решения. Мы отправляем похожее уведомление заявителю, если не обнаруживаем нарушений NetzDG.

В случае отправки такой апелляции ее рассмотрением занимается специалист команды NetzDG, который не выносил первоначальное заключение. Он снова проверяет спорный контент на соответствие закону NetzDG в отношении уголовных преступлений и, если требуется, меняет принятое решение. О результатах повторной проверки сообщается по электронной почте.

Апелляции в отношении контента, признанного не соответствующим правилам сообщества YouTube. Когда специалисты YouTube принимают меры в отношении видео, нарушающего правила сообщества, мы информируем об этом лицо, загрузившее его, и сообщаем причину. Мы отправляем электронное письмо с подробной информацией об удалении и ссылку, перейдя по которой можно подать апелляцию, чтобы контент снова проверили на соответствие правилам сообщества. Пользователям давно разрешено обжаловать решение, если они считают, что их контент не нарушает правила сообщества YouTube. Процесс подачи апелляции описан в этой статье. Мы сообщаем об апелляциях и восстановлении контента в отчете Контроль за соблюдением правил сообщества YouTube. Подробные данные находятся на этой странице.

Технологии существенно упрощают выявление спорного контента, например позволяют быстро и в необходимых объемах находить объекты и закономерности в изображениях, видео и аудиофайлах. Однако они не могут заменить людей в оценке контекста. Так, алгоритмы не всегда способны отличить контент с пропагандой терроризма от материалов по теме прав человека или дискриминационные высказывания от шуток в провокационных комедиях. Окончательное решение часто приходится выносить специалистам.

Проверку на соответствие правилам сообщества выполняют наши алгоритмы, а также сотрудники и партнеры Google. Мы организовали надежный процесс проверки качества, благодаря которому специалисты корректно и последовательно оценивают материалы с жалобами и регулярно получают отзывы о своей работе. Наши проверяющие – это тысячи человек, говорящих на разных языках и находящихся в разных часовых поясах по всему миру. Жалобы рассматриваются круглосуточно и круглогодично. Многие специалисты в этих командах владеют немецким языком.

Некоторые члены групп, работающих над юридическими жалобами, владеют немецким языком и обладают степенью в области права. По мере необходимости они получают консультацию у наших юристов. В Google работает большая команда юристов, многие из которых находятся в разных европейских странах. Иногда они также участвуют в рассмотрении жалоб. Кроме того, команда юристов может также попросить о помощи внешних консультантов.

Команда NetzDG. Жалобы со ссылкой на закон NetzDG для нас обрабатывает внешний подрядчик в Германии (команда NetzDG). В зависимости от количества таких жалоб число специалистов по проверке контента может меняться. За отчетный период запросы, связанные с NetzDG, обрабатывали 77 сотрудников. Из них 61 человек – специалисты по проверке контента (включая старших специалистов), работу которых координировали пять руководителей команды. Также были задействованы шесть экспертов по качеству и два инструктора.

Наша команда по обработке жалоб подбирается по принципу разнообразия: в ней есть представители разных профессий и возрастных групп (от 21 года до 55 лет в этот отчетный период), а также носители разных языков. Все участники команды NetzDG свободно говорят по-немецки, и для большинства из них это родной язык. Кроме того, все наши специалисты из команды говорят на английском. Часть из них (от 1 до 30 человек) владеет следующими языками: болгарским, испанским, итальянским, курдским, русским, сербским, турецким, украинским, японским. Это полезно для оценки возможной связи материалов на иностранных языках с Германией. Четверть (25 %) участников команды NetzDG, которые работали в этом отчетном периоде, имеют высшее образование (степень бакалавра или магистра) или сдали государственный экзамен в сфере политологии, переводоведения, СМИ, управления бизнесом, здравоохранения, промышленной инженерии, археологии или педагогики. У одного участника есть степень кандидата наук. Около 40 % членов команды получили образование по таким профессиям, как продавец в розничной торговле, повар, каменщик, служащий в сфере промышленности, офисной работы, туризма или издательского дела, а также специалист в области информационных и медиатехнологий, логистики и производства продуктов питания.

Как минимум раз в полгода команда NetzDG проходит тренинги по оценке уголовных преступлений с точки зрения NetzDG и принципов сообщества YouTube.

Каждый член команды NetzDG перед работой проходит общее обучение по правилам сообщества и процессам YouTube, а также по нашим техническим системам. Кроме того, для этих специалистов проводятся юридические тренинги по уголовным преступлениям, упомянутым в NetzDG. Как правило, каждые шесть месяцев мы дополнительно организуем обязательные курсы повышения квалификации в сфере применения закона NetzDG. Эти курсы проводятся на немецком языке командой, обычно состоящей из сторонних юристов и сотрудников юридических отделов YouTube и Google Germany GmbH. Занятия проходят в несколько сеансов, чтобы все специалисты, включая руководителей команд, экспертов по качеству и инструкторов, могли попасть на них и обсудить накопившиеся вопросы и дискуссионные примеры (собранные заранее). Кроме того, по мере необходимости команда юристов YouTube проводит специальные правовые тренинги, заручившись помощью юридического отдела Google Germany GmbH. При этом используется модель "учись учить": мы обучаем назначенных инструкторов команды NetzDG, которые затем отвечают за подготовку остальных членов команды. Как курсы повышения квалификации, так и правовые тренинги касаются текущих изменений, тенденций, типов запросов, с обработкой которых в предыдущем полугодии возникали проблемы, и новых судебных прецедентов. Во время специальных правовых тренингов мы рассматриваем различные темы, например дискредитацию на основе религиозных взглядов, контент с элементами насилия, а также оскорбления, направленные против общественных деятелей и политиков.

Команда NetzDG часто проходит курсы, на которых изучает обновления правил сообщества, а также актуальные изменения и тренды, например связанные с дискриминационными высказываниями и безопасностью детей. Кроме того, предусмотрены специальные тренинги, посвященные отдельным областям, например оружию, опасным розыгрышам и челленджам, цифровой безопасности и недостоверному контенту. Эти тренинги основаны на правилах сообщества и организуются менеджерами по соблюдению правил совместно с нашими юристами. Также команда NetzDG еженедельно и в порядке необходимости получает информацию об изменениях правил сообщества.

Специалистам, проверяющим контент на соответствие NetzDG, предлагаются полноценные программы для поддержания здоровья. Также им предоставляется психологическая помощь. Например, мы организуем тренинги на регулярной основе или по запросу и привлекаем команду немецкоговорящих психологов, психотерапевтов и инструкторов для индивидуальных консультаций. У специалистов, работающих с жалобами на основе NetzDG, есть доступ к круглосуточной горячей линии поддержки. Мы также заботимся об их самочувствии, в том числе предоставляем помещения для отдыха и индивидуальных консультаций. Подобную программу мы предлагаем всем командам по рассмотрению жалоб в Google и YouTube. Кроме того, члены команды NetzDG получают льготы на посещение фитнес-клубов и тренажерных залов.

Сервис YouTube в лице компании Google представлен в следующих объединениях, имеющих отношение к закону NetzDG:

• Freiwillige Selbstkontrolle Multimedia-Diensteanbieter e.V. (FSM)
• eco - Verband der Internetwirtschaft e.V.
• Deutschland sicher im Netz e.V.
• Bitkom-Bundesverband Informationswirtschaft, Telekommunikation und neue Medien e.V.

Организации FSM и Eco обеспечивают работу горячих линий для приема сообщений от пользователей. Затем эти сообщения передаются нашим специалистам. По завершении проверки мы отправляем стороне, принявшей звонок, подробный отчет.

Мы уверены, что совместная работа имеет ключевое значение. Мы тесно сотрудничаем с группами гражданского общества, стремящимися искоренить дискриминацию, и с государственными органами. Это нужно, чтобы изучать специфику каждого региона и подбирать оптимальные решения. Вместе с партнерами и экспертами мы постоянно анализируем меры, обеспечивающие соблюдение правил. Также мы приглашаем представителей неправительственных организаций участвовать в семинарах, которые проходят на уровне отдельного региона или нескольких стран. Эти мероприятия посвящены обновлениям наших правил и продуктов, работе с сервисами Google, мерам безопасности, а также недавно возникшим сложностям и актуальным проблемам.

Google и YouTube участвуют в различных проектах, цель которых – борьба с дискриминационными высказываниями в интернете и поддержка пострадавших от публикации нелегального контента.

Google.org Impact Challenge on Safety – это благотворительный фонд размером 10 миллионов евро. Он был создан для поддержки европейских организаций, которые работают над решением проблем, связанных с безопасностью детей, дискриминацией и экстремизмом онлайн и офлайн. Мы финансируем новые и существующие социальные проекты по всей Европе, чтобы способствовать борьбе с дискриминацией и экстремизмом, а также учить детей и подростков ответственному использованию технологий. Гранты были предоставлены, помимо прочих, организациям из Германии: HateAid и Gefangene helfen Jugendlichen e.V. На полученные средства основатели HateAid хотят повысить эффективность онлайн-поддержки для жертв дискриминационных высказываний и преступлений на почве ненависти. Также планируется развивать эмоциональную стойкость среди пострадавших, чтобы они не боялись выходить в интернет и высказывать свое мнение, вопреки негативным сообщениям. Организация Gefangene helfen Jugendlichen стремится снизить уровень рецидива преступлений среди немецких подростков группы риска. Детям оказывают профессиональную помощь и предлагают образовательные программы, например посещение тюрем и встречи с бывшими заключенными. Цель таких мероприятий – показать, какой вред преступления наносят другим людям.

Уже много лет мы стремимся повысить уровень медиаграмотности среди людей всех возрастов и предоставляем полезные для учителей ресурсы. Мы не перестаем рассказывать пользователям о том, как подавать жалобы на неприемлемый контент, а также об инструментах Цифрового благополучия, правилах и настройках Google и YouTube.

С 2013 года мы предоставляем финансирование и поддержку Немецкой ассоциации добровольно саморегулируемых поставщиков цифровых медиасервисов (FSM) для создания и развития ресурса с материалами для учителей Medien in die Schule. Среди прочего на нем представлены планы уроков об информационной грамотности, борьбе с дискриминационными высказываниями, а также о том, как формируются мнения в интернете и чем отличаются реальные факты от вымышленных в СМИ.

В 2009 году YouTube и местные партнеры при поддержке канцлера Ангелы Меркель запустили проект 361 Grad Respekt, в рамках которого до 2014 года (с 2010 года под патронажем исполняющего обязанности министра по делам семьи) проводились тематические мероприятия. Проект перезапускался в 2016 и 2018 году под названием #NichtEgal. Цель проекта – способствовать уважительному поведению в интернете и в реальной жизни, а также мотивировать детей к борьбе против дискриминации с помощью конкурсов видеороликов и школьных семинаров.

Получив грант от благотворительного подразделения Google.org, в мае 2020 года ассоциация FSM организовала проект Weitklick. Цель проекта – создать платформу смешанного обучения, объединяющую школы, преподавателей и журналистов, и рассказать учителям, что такое дезинформация и как обсуждать эту тему с учениками.

Мы продолжаем инвестировать в сеть профессионалов, состоящую более чем из 300 ученых, государственных партнеров и неправительственных организаций по всему миру. Их ценный опыт помогает развивать нашу систему правил. Например, в Германии к представителям нашей сети относятся такие организации, как Amadeu Antonio Foundation, Nummer gegen Kummer и Violence Prevention Network.

Чтобы выявлять неприемлемый контент и оценивать его на основании правил сообщества YouTube, мы используем сообщения пользователей и алгоритмы. Такой подход позволяет эффективно следить за соблюдением правил. Жалобы на нарушения правил сообщества приходят к нам от систем автоматической пометки, обычных пользователей YouTube и участников программы "Наблюдатель YouTube" (неправительственных организаций, государственных учреждений и физических лиц).

На YouTube всегда использовался совмещенный подход. Чтобы улучшить процесс обнаружения неприемлемого контента, в 2017 году мы внедрили более продвинутые технологии машинного обучения. Благодаря этому и работе квалифицированных специалистов мы стали быстрее выявлять нарушения и принимать меры.

Автоматизированные системы способны обнаруживать большое количество спорного контента. Это позволяет нам удалять миллионы неприемлемых видео ещё до того, как их кто-то посмотрит. Благодаря машинному обучению эффективность увеличилась и по отношению к редким нарушениям повышенной опасности (например, воинствующий экстремизм), и по отношению к частым (например, спам).

Актуальные данные об удаленном неприемлемом контенте можно посмотреть в отчете Контроль за соблюдением правил сообщества YouTube.

Технологии машинного обучения позволяют большему количеству людей заниматься анализом контента, ведь именно специалисты оценивают, нарушают ли определенные материалы наши правила.

Когда мы обнаруживаем видео, не соответствующее правилам, мы удаляем его и даем предупреждение каналу автора. Канал блокируется, если пользователь загружает запрещенные материалы многократно или допускает одно серьезное нарушение, например публикует контент, связанный с сексуальной эксплуатацией детей. Большинство нарушений совершают злоумышленники, пытающиеся загрузить спам или материалы для взрослых.

Подробнее о том, как мы боремся с таким контентом и насколько эффективны технологии машинного обучения при выявлении нарушений…

Мы также разработали инструменты для авторов, позволяющие модерировать комментарии под видео. Например, можно сделать так, чтобы перед публикацией владельцу канала отправлялись на проверку все комментарии или только те, где есть ссылки или потенциально оскорбительный контент. Нашими инструментами пользуются уже более одного миллиона авторов.

Условия использования YouTube – это четко структурированный документ, в котором, помимо прочего, есть раздел "Ваш контент и поведение", где простым языком рассказывается о запрещенных на платформе контенте и поведении. В этом документе явно указано, что использование сервиса регулируется данными Условиями использования, правилами сообщества YouTube и требованиями, изложенными в разделе "Правила, безопасность и авторское право" Справочного центра YouTube (вместе они составляют Соглашение). Условия использования запрещают публиковать контент, нарушающий Соглашение или законодательство. Правила сообщества, являющиеся частью Соглашения, имеют четкую и логичную структуру. Они разделены на пять категорий: спам и мошенничество; деликатный контент; видео со сценами насилия и опасный контент; товары, ограниченные в обороте; ложная информация. Категории разбиты на подразделы с правилами на отдельную тему. В начале каждого правила приводятся общее описание недопустимых на YouTube материалов и причины запрета. В разделе "Как избежать нарушения правил" указаны конкретные действия и виды контента, запрещенные на платформе. Затем обычно следует раздел с примерами материалов, недопустимых в соответствии с правилом. В разделе "Какие меры применяются к нарушителям" описаны последствия, с которыми столкнутся пользователи при несоблюдении правил. Таким образом, в этих положениях понятным и доступным языком определено, какой контент разрешено распространять на YouTube. В них подробно описано недопустимое поведение и приведены наглядные примеры. Положения легко понять и несложно найти. Следовательно, они соответствуют требованиям, указанным в статьях 307 (1), 308 и 309 Гражданского кодекса Германии. Положения основаны на объективных и проверяемых критериях и поэтому соответствуют стандартам сложившейся судебной практики. Помимо этого, пользователям подробно рассказывается о том, как мы сообщаем им о нарушениях Условий использования и правил сообщества, а также как отправлять нам запросы и подавать апелляции на наши решения.

Мы собираем наиболее показательные случаи за каждый отчетный период, которые иллюстрируют, какую работу по анализу жалоб на контент мы проводим, какова практика применения закона NetzDG к информации в Интернете и что от нас обычно требуют удалить.