Согласно закону Германии "О защите прав пользователей в социальных сетях" (NetzDG), "явно противозаконный контент" (видео, комментарии и т. п.), размещенный в социальных сетях, где зарегистрировано более 2 млн пользователей, должен быть удален в течение 24 часов после подачи жалобы. Если факт нарушения закона неочевиден, владелец социальной сети должен рассмотреть заявку в течение 7 дней. Лишь в отдельных случаях на это дается больше времени – когда необходимо получить объяснения от пользователя, который загрузил контент (записи, изображения и комментарии, опубликованных в Google+) или дождаться решения аккредитованной саморегулирующей организации. Мы удаляем материалы, если они попадают под определение хотя бы одного из 21 уголовных законов Германии, указанных в NetzDG. Мы также проверяли контент, на который поступила жалоба со ссылкой на NetzDG, на соблюдение Правил Google+ в отношении контента. Если они нарушались, то мы удаляли его во всех доменах. Если контент отвечал нашим требованиям, но противоречил германскому законодательству (§ 1 III закона NetzDG), мы ограничивали к нему доступ в соответствующем регионе.

NetzDG также требует, чтобы социальные сети дважды в год создавали и публиковали отчет об обработке связанных с законом жалоб (отчет о прозрачности). Публикуя данный отчет, мы соблюдаем это требование. Данные обновлялись по периодам с января по июнь и с июля по декабрь каждого года.

В Google+ не было места противозаконному контенту. Когда нам жаловались на такой контент, мы проводили проверку и удаляли его или ограничивали к нему доступ. Ниже описаны наши процедуры для подачи жалоб и проверки.

Эти данные включают только жалобы на контент, связанные с NetzDG. Некоторые запросы связаны сразу с несколькими элементами контента. Каждый пост, изображение или комментарий в Google+ считается отдельным элементом. На диаграммах ниже показано общее количество элементов контента, жалобы на которые мы получили за 6-месячный отчетный период.

На диаграммах в этом разделе показано количество удаленных и заблокированных элементов контента за отчетный период.

Модераторам социальной сети иногда сложно определить, справедлива ли жалоба. В таком случае закон NetzDG разрешает связаться с лицом, загрузившим контент. Однако это можно делать только при условии, что заявитель подробно изложил суть уведомления и обосновал, почему считает эти материалы недопустимыми. Но на практике в большинстве жалоб со ссылкой на NetzDG отсутствует такая информация, и заявители не предоставляют ее даже по нашему запросу, а значит, нет оснований для обращения к автору контента. Кроме того, подобное решение о необходимости должного обоснования обращения было также недавно вынесено в Верховном суде.

Встречаются ситуации, связанные с уголовным правом, в которых требуется знание местной специфики. Например, того, какие организации и материалы в регионе запрещены властями и какие действия табуированы в обществе. В таких случаях мы обращаемся за помощью к третьим лицам — внешним консультантам или саморегулируемым организациям, компетентным в вопросах, относящихся к закону Германии "О защите прав пользователей в социальных сетях" (NetzDG).

На диаграммах в этом разделе приведены данные о количестве элементов контента, которые мы удалили или заблокировали за отчетный период, по времени рассмотрения жалобы. Это время, которое проходит с момента ее поступления до того, как по ней будут приняты какие-либо действия.

На этой диаграмме представлены данные об удалении контента за несоблюдение наших правил и локальном ограничении доступа к нему за нарушение закона Германии "О защите прав пользователей в социальных сетях" (NetzDG). Контент может нарушать и наши правила, и закон NetzDG. В таких случаях мы удаляем его по всему миру. На диаграмме видно, что в отчетном периоде подавляющее большинство жалоб на содержание сексуального характера были удовлетворены глобально в соответствии с принципами сообщества, а не локально.

Google стремится сохранить свободу слова и доступность информации. Но для того чтобы жизнь в Google+ была активной и интересной для всех участников, необходимо было поддерживать баланс между этими ценностями и мерами по предотвращению распространения контента, который нарушает принципы сообщества и закон. Это непростая задача, особенно для глобальной платформы, работающей в странах с самыми разными общественными нормами.

Способы подачи жалоб на контент в соответствии с NetzDG

Любой пользователь из Германии мог пожаловаться на недопустимый контент на Google+ в соответствии с законом NetzDG. Для этого рядом с каждой записью в блоге всегда была доступна соответствующая кнопка. Во время подачи жалобы была предусмотрена возможность сослаться на закон NetzDG. Для этого нужно было установить флажок "Я считаю, что этот контент нарушает Закон о соблюдении правовых норм в социальных сетях". Открывалась небольшая форма для ввода дополнительной информации.

Формой для жалоб по NetzDG в Google+ можно было воспользоваться, открыв ее по ссылке на странице с нашими контактными данными, доступной для всех пользователей в Германии.

Столкнувшись с большим количеством вариантов нарушений, обычный пользователь может запутаться или даже вовсе отказаться от подачи жалобы. Маловероятно, что среднестатистический пользователь сможет назвать соответствующие статьи УК Германии при подаче жалобы по закону NetzDG. Кроме того, иногда контент нарушает сразу несколько положений законодательства. Например, видео, созданное для привлечения новых членов и сторонников преступной или террористической организации (§§ 129, 129a) обычно также содержит такие символы, как флаги, что может нарушать §§ 86, 86a. Кроме того, сам факт подготовки серьезного насильственного преступления, угрожающего государственной безопасности, затрагивает § 89a.

Чтобы упростить процесс и помочь пользователям сообщать о контенте, который, по их мнению, нарушает закон Германии "О защите прав пользователей в социальных сетях" (NetzDG), мы создали семь категорий, соответствующих 21 определению в NetzDG. Этот подход также помог сделать некоторые типы неприемлемого поведения менее абстрактными и более понятными, особенно для простых пользователей. Например, § 140 Уголовного кодекса Германии ссылается на такие разнообразные правонарушения как государственная измена, убийство и другие серьезные правонарушения, такие как военные преступления, нанесение тяжких телесных повреждений, некоторые преступления, угрожающие обществу, а также ряд серьезных сексуальных преступлений и т. д. Наш опыт работы показал, что пользователи ценят реалистичный и доступный подход к подаче эффективных жалоб на противозаконный контент.

Это категории — и соответствующие уголовные преступления, — которые должны быть полностью охвачены и по которым мы рассматриваем все сообщения о нарушении:

Дискриминационные высказывания или политический экстремизм

• § 130 Уголовного кодекса Германии: Разжигание межнациональной розни.
• § 166 Уголовного кодекса Германии: Распространение клеветы о религиях, а также религиозных и идеологических объединениях.

Пропаганда терроризма или нарушение конституции

• § 86 Уголовного кодекса Германии: Распространение пропагандистских материалов антиконституционных организаций.
• § 86 Уголовного кодекса Германии: Использование символов неконституционных организаций.
• § 89a Уголовного кодекса Германии: Подготовка серьезного насильственного преступления, угрожающего государству.
• § 91 Уголовного кодекса Германии: Поощрение совершения серьезного насильственного преступления, угрожающего государству.
• § 100a Уголовного кодекса Германии: Изменнический подлог.
• § 129 Уголовного кодекса Германии: Создание преступных организаций.
• § 129a Уголовного кодекса Германии: Создание террористических организаций.
• § 129b Уголовного кодекса Германии: Криминальные и террористические организации за рубежом; расширенная конфискация и лишение имущества.
• § 140 Уголовного кодекса Германии в связи с § 138 I: Поощрение и одобрение определенных преступлений, перечисленных в § 138 I.
• § 269 Уголовного кодекса Германии: Подделка доказательств.

Насилие

• § 131 Уголовного кодекса Германии: Распространение изображений насилия.

Вредные или опасные действия

• § 111 Уголовного кодекса Германии: Публичное подстрекательство к преступлению.
• § 126 Уголовного кодекса Германии: Нарушение общественного спокойствия путем угрозы совершения преступления.
• § 140 Уголовного кодекса Германии в связи с § 126 I: Поощрение и одобрение агрессивных действий, перечисленных в § 126 I.
• § 241 Уголовного кодекса Германии: Угроза совершения тяжкого преступления.

Клевета или оскорбление

• § 185 Уголовного кодекса Германии: Оскорбление
• §186 Уголовного кодекса Германии: Клевета
• § 187 Уголовного кодекса Германии: Преднамеренная клевета

Конфиденциальность

• § 201a Уголовного кодекса Германии: Нарушение конфиденциальности путем фотографирования.

Содержание сексуального характера

• § 184b Уголовного кодекса Германии: Распространение, приобретение и хранение детской порнографии в связи с § 184d (Распространение порнографических материалов посредством радиовещания, медиа-или телекоммуникационных услуг).
• § 140 Уголовного кодекса Германии в связи с §§ 176–178: Поощрение и одобрение агрессивных действий, перечисленных в §§ 176–178.

Основываясь на нашем многолетнем мировом опыте анализа контента, мы считаем, что правовая цель NetzDG лучше всего поддерживается и достигается этими категориями.

Информирование заявителя и лица, загрузившего контент, в соответствии с NetzDG

Когда мы получали жалобу со ссылкой на NetzDG, поданную с помощью функции в нашем сервисе, мы отправляли заявителю по электронной почте уведомление с номером обращения. После вынесения решения мы отправляли пользователю электронное письмо с уведомлением и, если запрос отклонен, кратким объяснением причин. Мы также уведомляли пользователей Google+, загрузивших контент, если они нарушали наши правила или местное законодательство.

Способы выявления недопустимого контента

Алгоритмы. Мы постоянно улучшали технологии идентификации контента, нарушающего принципы сообщества Google+, такого как спам или содержание сексуального характера. Новые правила добавлялись в алгоритмы еженедельно и ежемесячно. Мы также использовали технологии хеширования для предотвращения повторной загрузки в Google+ фотографий, которые были удалены из-за нарушения правил в отношении детей, в частности, изображали несовершеннолетних в сексуальном контексте. Мы создавали цифровые отпечатки для поиска, сопоставления и блокировки загруженных фотографий, содержащих изображение несовершеннолетних в сексуальном контексте.

Обычные пользователи и ведущие участники. В Google+ была функция, с помощью которой любой пользователь, авторизованный в аккаунте Google, мог сообщить нам о контенте, нарушающем принципы сообщества. Мы реализовали эту функцию добровольно, а не в соответствии с какими-либо юридическими обязательствами. Любой авторизованный пользователь мог нажать на значок с тремя точками в правом верхнем углу экрана и выбрать "Пожаловаться". При подаче жалобы пользователю предлагали выбрать категорию нарушения. Причиной для удаления контента и сообщения в полицию могло быть, например, содержание сексуального характера, насилие или опасные действия, проявление агрессии, домогательство или издевательство, спам. Принадлежность к определенной категории оценивалась исключительно в рамках наших правил сообщества.

Мы запустили Программу для ведущих участников, чтобы рассматривать сообщения от некоторых пользователей Google+ в приоритетном порядке. К ней допускаются те, кто проводит много времени на наших форумах, грамотно отвечая на вопросы других благодаря своему знанию продуктов Google, и чьи жалобы чаще всего связаны с важными прецедентами и тенденциями. Ведущие участники отмечали нарушения правил, а затем их сообщения попадали в группу по анализу контента. Сообщения о нарушениях от участников рассматривались только в рамках наших правил в отношении контента. Подробнее о Программе для ведущих участников можно узнать здесь.

Жалобы на нарушение законодательства. Мы предусмотрели процедуру, с помощью которой любой пользователь, авторизованный в аккаунте Google, мог сообщить нам о нарушениях закона NetzDG, обнаруженных в Google+. Чтобы это сделать, нужно было войти в сервис, нажать на значок с тремя точками в правом верхнем углу записи и выбрать "Я считаю, что этот контент нарушает Закон о соблюдении правовых норм в социальных сетях". Пользователи также могли подать жалобу, связанную с NetzDG, через специальную форму, которая была доступна в разделе контактной информации. Заявитель получал на электронную почту подтверждение того, что мы приняли запрос к рассмотрению. Отправители жалобы должны были указать при этом сведения, подтверждающие факт нарушения закона. Эта информация была необходима для проведения юридической проверки и принятия решения. Если в уведомлении было недостаточно данных, мы могли связаться с заявителем и попросить его предоставить дополнительную информацию. Материалы, не отвечавшие правилам Google+ в отношении контента, удалялись во всех доменах. Если контент отвечал нашим требованиям, но противоречил германскому законодательству (§ 1 III закона NetzDG), мы ограничивали к нему доступ в соответствующем регионе. Заявитель получал по электронной почте уведомление от Google+ с нашим решением и указанием причины.

На протяжении многих лет пользователи помогали нам выявлять контент, который не отвечал требованиям местного законодательства, отправляя жалобы через наши веб-формы. Получая их, мы принимали меры и уведомляли об этом заявителей.

Рассмотрение жалоб

Жалобы от пользователей в Google+ Сообществах. Когда мы получали жалобу, наши специалисты проверяли указанный в ней контент на соответствие правилам Google+. При этом они учитывали контекст, к примеру, подпись к фотографии, описание сообщества и т. п. Эта информация часто помогает определить, с какой целью было загружено спорное содержимое. Например, если группа посвящена актуальным политическим проблемам, это может быть допустимо. Для этого мы анализируем ее описании и содержащиеся в ней материалы. Но если в ней пропагандируется ненависть, то, вероятно, такой контент мы удалим.

В наших правилах в отношении контента определено, какие типы материалов можно, а какие нельзя публиковать в сервисах Google. Многие из этих требований аналогичны закону NetzDG, в том числе касательно запрета на дискриминационные высказывания, домогательства, издевательство, угрозы, раскрытие персональной и конфиденциальной информации, эксплуатацию несовершеннолетних, содержание сексуального характера, пропаганду насилия и терроризма. Подробный текст правил приведен здесь.

Проверив контент, указанный в жалобе, наши специалисты могут удалить его во всех доменах, если он не соответствует правилам, пометить как пригодный "не для любой аудитории", если он отвечает требованиям, но не подходит для несовершеннолетних, или не предпринимать никаких мер, если проблемы не будут обнаружены. В случае повторных или грубых нарушений мы можем наказать пользователя, отключив в аккаунте некоторые функции или полностью его заблокировав. Если первое замеченное за пользователем нарушение очень серьезное (например, он поддерживает террористов), мы можем сразу удалить его аккаунт.

Общие юридические уведомления. Когда мы получаем официальное уведомление, наши специалисты проверяют указанный в нем контент, учитывая контекст, который его окружает. Если в уведомлении недостает важной информации – например, данных о лице, в чей адрес сделаны предположительно порочащие высказывания, – мы связываемся с заявителем. Получив от него все необходимые сведения, мы осуществляем юридическую оценку случая. Если контент признается противозаконным – например, потому, что его публикация нарушает авторские права или его автор выдает себя за другое лицо, – мы ограничиваем доступ к этим материалам в соответствующем регионе.

Жалобы на основе закона Германии "О защите прав пользователей в социальных сетях" (NetzDG). Получая запрос, связанный с NetzDG, мы перенаправляем его специализированной группе (см. раздел Команды по рассмотрению жалоб), которая видит контекст указанного контента, и оценивает его в соответствии с нашими принципами сообщества. Контент, который нарушает их, мы удаляем. Если контент отвечает нашим требованиям, но противоречит германскому законодательству (§ 1 III закона NetzDG), мы ограничиваем к нему доступ в соответствующем регионе.

Оценивать жалобы часто бывает непросто. Бывает сложно установить факт не только уголовного преступления (такого как фальсификация доказательств, определенная в § 269 УК Германии). К примеру, за категорией "клевета и оскорбления" скрывается целая область прецедентного права, которая развивалась несколько сотен лет, причем особенно быстро – после принятия Конституции Германии. Лишь в небольшой доле случаев, когда есть подозрения на клевету или оскорбления, удается применить определение "очевидно незаконный". Судебные разбирательства затягиваются на годы, и разные суды выносят по одним и тем же делам разные решения. Так, Конституционный суд Германии не раз отменял решения Верховного суда. В подобных ситуациях требуется тщательный анализ всех обстоятельств. Законность того или иного высказывания относительна и очень сильно зависит от ситуации. Но в отличие от судебных инстанций социальные сети часто не располагают всей необходимой информацией. Кроме того, у них нет нормативной базы, регламентирующей процедуру расследования. Определить, является ли тот или иной элемент контента допустимым, иногда очень затруднительно. Как правило, этот вопрос находится в компетенции суда.

Эти соображения подтверждались практикой. Многие жалобы на клевету или оскорбления со ссылкой на NetzDG поступали не от тех, в чей адрес были направлены предполагаемые правонарушения, а от третьих лиц. Поскольку представители социальной сети не имеют полномочий проверять личность заявителя, они не знают, действительно ли адресат высказываний считает их оскорбительными и не подал ли он уже заявление в правоохранительные органы, которые, в свою очередь, расследуют подобные случаи только по обращению пострадавшего ("Antragsdelikt").

Специальная команда рассматривала связанные с NetzDG запросы в две смены, круглогодично и без выходных, вплоть до прекращения поддержки Google+. Это было сделано, чтобы обеспечить удаление или локальную блокировку контента в сроки, установленные NetzDG. Если запрос был явно необоснованным, заявитель немедленно уведомлялся об этом в соответствии с требованиями законодательства (см. раздел "Информирование заявителя и лица, загрузившего контент, в соответствии с NetzDG"). Если контент не содержал очевидного нарушения правил Google+ или местного законодательства, случай был сложным или явно относился не к Германии, то ответственный специалист передавал запрос на следующий уровень, где решение быстро принималось старшими специалистами. Сложные запросы передавались команде юристов Google. Если у глобальной команды оставались сомнения, то запрос переходил сотрудникам юридического отдела Google Germany GmbH. Они, в свою очередь, могли направить особенно сложные случаи внешнему подрядчику, специализирующемуся на уголовном праве. Весь процесс обычно занимал не более 7 дней.

Чтобы гарантировать, что команда NetzDG работала так, как задумано, то есть верно и последовательно применяла правила Google+ и рамки закона NetzDG, мы внедрили жесткий процесс контроля качества. В отчетном периоде мы отбирали для контроля в среднем примерно 70 % проверенных материалов. В разные недели объем оценки качества мог меняться в зависимости от количества поступающих жалоб. Команда проверки качества оценивала решения, принятые каждым специалистом по анализу контента, обеспечивала обратную связь для всех и анализировала качество проверки в целом. Выбранный образец использовался для еженедельного обзора данных о качестве. Проверкой качества занималась отдельная группа в составе команды NetzDG. Она состояла из старших специалистов, которые ранее занимались анализом контента и обладали значительным опытом работы с уголовным законодательством, имеющим отношение к NetzDG и правилам Google+. Во время еженедельных встреч команда юристов Google и специалистов по NetzDG не только обсуждала результаты последних проверок качества, но и разбирала особенно интересные и сложные случаи. Кроме того, команда NetzDG постоянно рассматривала заметные тенденции, "горячие темы" и развитие прецедентного права, что гарантировало последовательный подход. Когда возникала необходимость, мы дорабатывали политику удаления контента и адаптировали ее, например, к обновлениям правил в отношении контента и судебным прецедентам. В таких случаях все члены команды NetzDG получали новые данные и учебные материалы.

Все жалобы в отношении контента Google+, связанные с правилами и законодательством, рассматривались сотрудниками Google или внешними экспертами. У нас действовала развитая система оценки контента, которая обеспечивала корректность принимаемых решений. Мы постоянно анализировали отзывы о работе этой системы.

Группы анализа контента Google+, которые изучали жалобы на нарушения наших правил сообщества, состояли из сотрудников со всего мира, свободно говорящих на нескольких языках, включая немецкий. Учитывая характер контента, на который поступают жалобы, компания Google запустила программу по обеспечению благополучия. В нее были включены индивидуальные и групповые консультации, а также другие оздоровительные мероприятия для сотрудников.

Некоторые члены групп, работавших над юридическими жалобами в Google+, владели немецким языком и обладали степенью в области права. По мере необходимости они проходили тренинги и получали консультацию у наших юристов. Если требовалась дополнительная юридическая экспертиза, команды обращались за советом к местным внешним консультантам.

Команда NetzDG. Жалобы со ссылкой на закон NetzDG для нас обрабатывал внешний подрядчик (команда NetzDG). В зависимости от объема жалоб со ссылкой на NetzDG количество специалистов по их рассмотрению и юридических консультантов могло варьироваться. Эта команда была связана с командой NetzDG для YouTube. За отчетный период до прекращения поддержки Google+ в команде работало 11 сотрудников. Восемь из них были специалистами по оценке контента (включая старших специалистов), которые работали под надзором руководителя группы при поддержке одного эксперта по качеству и одного тренера.

В целом вся наша команда по обработке жалоб подбиралась по принципу разнообразия: в ней были представители разных профессий и носители разных языков, а возраст сотрудников варьировался от 20 до 45 лет. Все члены команды NetzDG были носителями немецкого языка, а также говорили по-английски; некоторые участники говорили на одном или нескольких из следующих языков: французский, японский, испанский, португальский. Это было полезно для оценки возможной связи материалов на иностранных языках с Германией. Половина членов команды NetzDG имела высшее образование (бакалавр или магистр) в области политологии, СМИ, здравоохранения или педагогики. Некоторые члены команды получили профессиональное образование и прошли стажировку в сфере офисных коммуникаций и внешнеэкономической деятельности. Остальные недавно закончили обучение в школе.

Каждый член команды NetzDG проходил общее обучение по всем правилам Google+ в отношении контента, процессам и технологиям, а также юридические тренинги по уголовным преступлениям, касающимся NetzDG. В дополнение к общему обучению мы обеспечивали обязательные курсы повышения квалификации каждые шесть месяцев. Эти курсы проводились на немецком языке командой, состоящей из профессора права, адвоката по уголовным делам и юристов Google, в частности Google Germany GmbH. Тренинги проходили в несколько сеансов, чтобы все члены команды, включая руководителя группы, эксперта по качеству и тренера, могли попасть на них и имели возможность обсудить накопившиеся вопросы и дискуссионные примеры (собранные заранее). Кроме того, по мере необходимости команда юристов Google проводила специальные юридические тренинги при содействии сотрудников юридического отдела Google Germany GmbH. При этом использовалась модель "учись учить": мы обучили назначенных инструкторов команды NetzDG, которые затем отвечали за проведение обучения для остальной части команды NetzDG. Как общие, так и юридические тренинги касались текущих событий, тенденций, новостей прецедентной практики и запросов, с обработкой которых в предыдущем полугодии возникли проблемы.

Команда NetzDG также постоянно проходила курсы повышения квалификации. Эти тренинги были посвящены новым событиям и трендам, актуальным для команды. Например, дискриминационным высказываниям и безопасности детей. Кроме того, проводились специальные тренинги, посвященные конкретным областям, например, оружию, оскорбительным и опасным розыгрышам, цифровой безопасности и недостоверному контенту. Эти тренинги, проводимые в соответствии с принципами сообщества, были организованы менеджерами совместно с нашими юристами. Кроме того, команда NetzDG еженедельно и в порядке необходимости получала обновления правил сообщества.

Кроме того, для лиц, проверяющих контент на соответствие NetzDG, действовали программы обеспечения благополучия и ежемесячной психологической помощи на немецком языке. У команды был доступ к круглосуточной горячей линии поддержки. Мы также заботились об удобстве их рабочих мест, в том числе обеспечивали помещения для отдыха и индивидуальных консультаций. Подобную программу мы предоставляли для всех групп сотрудников по обработке жалоб в Google. Кроме того, команда получала льготы на посещение тренажерного зала.

За отчетный период социальная сеть Google+ в лице компании Google была представлена в следующих объединениях, имеющих отношение к закону NetzDG:

• Freiwillige Selbstkontrolle Multimedia-Diensteanbieter e.V. (FSM)
• eco - Verband der Internetwirtschaft e.V.
• Deutschland sicher im Netz e.V.
• Bitkom-Bundesverband Informationswirtschaft, Telekommunikation und neue Medien e.V.

Организации FSM и Eco обеспечивают работу горячих линий для приема сообщений от пользователей. Затем эти сообщения передаются нашим специалистам. По завершении проверки мы отправляем стороне, принявшей звонок, подробный отчет.

Мы убеждены, что для обеспечения безопасности интернет-пространства необходима широкая общественная кооперация. Поэтому мы тесно сотрудничаем с различными инициативными группами, стремящимися искоренить дискриминацию, и с правительствами, изучая специфику каждого региона и стараясь подобрать оптимальные решения. Мы постоянно обсуждаем свои правила с партнерами и различными экспертами. Компания Google приглашает некоммерческие организации к участию в мероприятиях разного уровня, посвященных работе с нашими продуктами, принятым в них правилам, мерам безопасности, а также тенденциям и актуальным проблемам отрасли.