En Google nos esforzamos por proteger la libertad de expresión y el acceso a la información. No obstante, para que la comunidad de Google+ fuera dinámica y agradable, evitamos difundir el contenido que infringiera nuestras directrices de contenido o la legislación vigente. Dar con el equilibrio perfecto es difícil, especialmente en plataformas disponibles internacionalmente y usadas por sociedades con distintos estándares de libertad de expresión.
Mecanismos para enviar reclamaciones relativas a contenido presuntamente ilegal basadas en la ley NetzDG
Para presentar reclamaciones relativas a la ley NetzDG, Google+ permitía informar desde el producto mediante un proceso fácilmente reconocible, siempre disponible y de fácil acceso. En el caso de los usuarios que habían iniciado sesión, el proceso de envío de reclamaciones legales relativas a la ley NetzDG estaba integrado de forma directa e intuitiva en el flujo de denuncia, que estaba disponible junto a cada publicación, en la esquina superior derecha. Al entrar en el flujo de denuncia y seleccionar la opción correspondiente a la ley NetzDG ("Creo que este contenido debería estar restringido conforme a la legislación alemana de aplicación de la ley en redes sociales [NetzDG]"), se dirigía al remitente a un formulario web en el que el usuario podía enviar una reclamación basada en dicha ley.
Google+ también proporcionaba un formulario web tanto para los usuarios que hubieran iniciado sesión como para los que no, al que se podía acceder a través de la declaración de propiedad y autoría de Google+ (una página de contacto disponible para todos los usuarios de Alemania).
La mayoría de los usuarios sin conocimientos legales pueden verse desbordados al tener que elegir entre un amplio abanico de delitos complejos. Puede incluso que esto les haga abandonar el propósito de enviar una denuncia de contenido. Es probable que estos usuarios no conozcan o no sepan citar las disposiciones del código penal alemán al enviar reclamaciones legales basadas en la ley NetzDG. Además, puede darse el caso de que el contenido denunciado incurra en más de uno de los delitos recogidos. Por ejemplo, un vídeo con el que se intenta reclutar a miembros o colaboradores para una organización criminal o terrorista (secciones 129 y 129a del código penal alemán) puede estar sancionado en virtud de la sección 89a del código penal alemán por preparación de cara a cometer delitos violentos graves que pongan en riesgo al Estado. Estos videos también suelen contener símbolos, como banderas, que pueden estar sancionados en virtud de las secciones 86 y 86a.
Para simplificar el proceso de notificación y facilitar a los usuarios la tarea de denunciar el contenido que consideraban ilegal de acuerdo con la ley NetzDG, incluimos siete categorías de contenido en el flujo de denuncia de contenido por infracción de la ley NetzDG que reflejaban y clasificaban de una forma fácil de entender las 21 infracciones penales relevantes. Este enfoque también hace que las infracciones que son muy abstractas y tienen un alcance muy amplio sean más fáciles de entender (sobre todo para los usuarios que no son expertos en cuestiones legales). Por ejemplo, la sección 140 del código penal alemán hace referencia como prerrequisito a infracciones tan diversas como traición y asesinato, y delitos graves como crímenes de guerra, lesiones graves, ciertos delitos que suponen un peligro para la seguridad pública, ciertos delitos sexuales graves, etc. Nuestra experiencia con los procesos de notificación de contenido nos ha enseñado que los usuarios valoran positivamente esta forma realista y accesible de enviar denuncias por contenido ilegal.
Estas categorías, así como las infracciones penales que se cubrirán y se podrán seleccionar y denunciar, son:
Incitación al odio o extremismo político
- Sección 130, código penal alemán: Incitación al odio
- Sección 166, código penal alemán: Difamación de religiones y de asociaciones religiosas e ideológicas
Contenido inconstitucional o relacionado con el terrorismo
- Sección 86, código penal alemán: Difusión de material de propaganda de organizaciones inconstitucionales
- Sección 86a, código penal alemán: Uso de símbolos de organizaciones inconstitucionales
- Sección 89a, código penal alemán: Preparación de delitos violentos graves que pongan en riesgo al Estado
- Sección 91, código penal alemán: Incitación a cometer delitos violentos graves que pongan en riesgo al Estado
- Sección 100a, código penal alemán: Falsificación constitutiva de traición
- Sección 129, código penal alemán: Formación de organizaciones criminales
- Sección 129a, código penal alemán: Formación de organizaciones terroristas
- Sección 129b, código penal alemán: Organizaciones criminales y terroristas en el extranjero; confiscación extendida y privación
- Sección 140 del código penal alemán en conexión con la sección 138, párrafo I: Incentivar o aprobar alguna de las infracciones que se recogen en la sección 138, párrafo I
- Sección 269, código penal alemán: Aportación de datos falsos como pruebas
Violencia
- Sección 131, código penal alemán: Difusión de representaciones de violencia
Actividades dañinas o peligrosas
- Sección 111, código penal alemán: Incitación pública a delinquir
- Sección 126, código penal alemán: Ruptura de la paz pública a través de amenazas de cometer algún delito
- Sección 140 del código penal alemán en conexión con la sección 126, párrafo I: Incentivar o aprobar los delitos que se recogen en la sección 126, párrafo I del código penal alemán
- Sección 241, código penal alemán: Amenazas de cometer algún delito
Difamación o insulto
- Sección 185, código penal alemán: Insultos
- Sección 186, código penal alemán: Difamación
- Sección 187, código penal alemán: Difamación intencionada
Privacidad
- Sección 201a, código penal alemán: Violación del derecho a la intimidad personal por hacer fotografías
Contenido sexual
- Sección 184b del código penal alemán: Distribución, adquisición y posesión de pornografía infantil en conexión con la sección 184d: Distribución de materiales pornográficos mediante emisión en medios de comunicación, servicios de medios o servicios de telecomunicaciones
- Sección 140 del código penal alemán en conexión con las secciones 176 a 178: Incentivar y aprobar alguna de los delitos que se recogen en las secciones 176 a 178
Basándonos en nuestra larga experiencia global con las denuncias de contenido, consideramos que se podían apoyar y hacer cumplir los objetivos de la ley NetzDG utilizando estas categorías.
Procedimientos para informar al remitente y al usuario que ha subido contenido en relación con la ley NetzDG
Cuando recibíamos una reclamación relativa a la ley NetzDG a través de los canales específicos descritos anteriormente, el remitente recibía un correo electrónico de confirmación con un número de referencia en el que se le confirmaba que la habíamos recibido y que procederíamos a revisarla. Una vez que habíamos revisado la reclamación y el contenido presuntamente ilegal, enviábamos al remitente un correo electrónico informándole sobre nuestra decisión de retirar el contenido o no tomar medidas al respecto. También enviábamos una notificación a los usuarios que habían subido el contenido a Google+ cuando habían infringido nuestras políticas o la ley y les proporcionábamos más información sobre la retirada de contenido para que conocieran los términos del servicio.
Métodos para enviar informes
Tecnología. Nuestras tecnologías para identificar material que infringe las directrices de contenido en Google+, como el spam o el contenido sexual, estuvieron en marcha de forma permanente. Añadimos reglas nuevas a nuestros algoritmos semanal o mensualmente. También usamos tecnología hash para evitar que se volvieran a subir fotos a Google+ retiradas por infringir algunas políticas, como imágenes de abuso sexual infantil. Además, usamos huellas digitales e hicimos comparaciones para analizar, detectar y bloquear este tipo de imágenes.
Denuncias humanas: usuarios y colaboradores principales. Implementamos un sistema de denuncias humanas que permitía a los usuarios que hubieran iniciado sesión informarnos del contenido que infringía las directrices de contenido globales de Google+. Se trataba de un sistema voluntario y autorregulado que no implicaba ninguna obligación legal. Cualquier usuario que hubiera iniciado sesión en su cuenta de Google y encontrase contenido que pudiera infringir estas directrices podía denunciarlo usando la opción de enviar comentarios de Google+, representada mediante los tres puntos que aparecían en la esquina superior derecha, haciendo clic en Denunciar abuso y seleccionando la categoría de la presunta infracción de contenido. Cuando denunciaban el contenido, nos indicaban qué política creían que infringía. Estas son algunas de las categorías y motivos de retirada: contenido sexualmente explícito, violento, peligroso, que incita al odio, al acoso, a la intimidación y spam. Las denuncias de Comunidades se evaluaron solo en virtud de nuestras directrices de contenido.
El Programa de Colaboradores Principales se creó para que un conjunto de usuarios preseleccionados de Google+ priorizaran el contenido que tenía que examinar el equipo de revisión de contenido de Google+. Los Colaboradores Principales informaban de tendencias o casos dudosos basándose en el gran conocimiento de nuestros productos que habían adquirido al dedicar mucho tiempo a contestar preguntas en nuestros foros. Marcaban las infracciones de las directrices de contenido que detectaban en nuestros productos y luego informaban de ellas al equipo de revisión de contenido. Los elementos denunciados por los Colaboradores Principales solo se revisaban teniendo en cuenta nuestras directrices de contenido. Más información sobre el Programa de Colaboradores Principales
Reclamaciones legales. Habíamos implementado un sistema de denuncias humanas que permitía a los usuarios que hubieran iniciado sesión informarnos de una forma directa y sencilla del contenido publicado en Google+ que consideraban que infringía alguna de las disposiciones de la ley NetzDG. El contenido presuntamente ilegal se podía denunciar accediendo a la opción correspondiente en Google+, que estaba disponible en el menú de tres puntos, situado en la esquina superior derecha del contenido publicado, y seleccionando "Creo que este contenido debería estar restringido conforme a la legislación alemana de aplicación de la ley en redes sociales (NetzDG)". Los usuarios, hubieran iniciado o no sesión, también podían enviar una reclamación basada en la ley NetzDG mediante el formulario web correspondiente, al que se podía acceder a través de la declaración de propiedad y autoría de Google+. El remitente recibía una respuesta en la que se confirmaba que se había recibido la reclamación. Con estos métodos, los usuarios podían identificar los elementos sospechosos e indicar el motivo de la reclamación legal. Esta información es necesaria para llevar a cabo una revisión legal a fondo y tomar las medidas oportunas. Si los motivos no estaban claros o no eran suficientes para justificar una retirada legal a nivel local, podíamos pedir más información al remitente. Si el contenido infringía nuestras directrices de contenido de Google+, lo retirábamos en todo el mundo. Si el contenido no infringía las normas de la comunidad, pero sí una de las disposiciones penales que se recogen en la ley NetzDG, bloqueábamos el contenido a nivel local. El remitente recibía por correo electrónico una notificación de Google+ en la que se le informaba de nuestra decisión y de los motivos que nos habían llevado a tomarla.
Llevamos muchos años ofreciendo otros formularios web para que los usuarios puedan enviar reclamaciones legales y bloqueando contenido ilegal en determinadas jurisdicciones. Los remitentes siempre han recibido comentarios sobre sus reclamaciones legales.
Proceso de evaluación
Denuncia humana de las Comunidades de Google+. Cuando recibíamos una denuncia, nuestros equipos de revisión evaluaban el contenido para comprobar si cumplía las directrices de contenido globales de Google+. Durante la revisión, podían consultar el contexto, como el título de las fotos incluidas en las publicaciones o las descripciones de las comunidades de Google+. Los elementos contextuales suelen ser importantes para determinar la intención del contenido subido. Por ejemplo, las comunidades sobre actualidad política seguramente estarían permitidas de acuerdo con nuestras políticas globales. Pudimos conocer el contexto consultando las descripciones de las comunidades y otros tipos de contenido subido. No obstante, si este mismo contenido se hubiera subido con intención de glorificar o fomentar el odio, es posible que se hubieran infringido nuestras directrices de contenido y que lo hubiéramos acabado retirando.
Creamos unas directrices de contenido que determinaron qué tipos de contenido admitíamos. Muchas de ellas coincidían con las normas de la ley NetzDG, que prohíben el contenido relacionado con la incitación al odio, el acoso, las amenazas, los datos personales, la información confidencial, la explotación infantil, el material sexual explícito, la violencia y el terrorismo. Puedes consultar los detalles de las políticas de estos tipos de contenido.
Nuestros equipos de revisión podían hacer una de varias acciones: retirar el contenido en todo el mundo si infringía las normas de la comunidad, marcarlo como "no apto para menores" si cumplía nuestras directrices pero quizá no era adecuado para menores, o bien seguir publicándolo si no las infringía. En caso de abuso repetido o infracciones más graves, podíamos penalizar al usuario inhabilitando algunas funciones o cancelando su cuenta. No obstante, cuando se producían delitos, como subir contenido relacionado con el terrorismo, podíamos cancelar la cuenta directamente la primera vez.
Reclamaciones legales generales. Cuando recibimos una reclamación legal, nuestros equipos de revisión analizaron la información incluida en la reclamación y el contenido en cuestión. Además, los revisores examinaron el contexto del contenido denunciado, tal y como se describe más arriba. En caso de que faltara información importante en las solicitudes (p. ej., la identidad de una persona afectada por contenido presuntamente difamatorio), es posible que el equipo se pusiera en contacto con los remitentes para pedirles más datos. Una vez recibidos, el equipo llevaba a cabo una evaluación legal.
Si determinábamos que el contenido era ilegal (p. ej., tras una reclamación de infracción de los derechos de autor o de los derechos individuales), lo bloqueábamos a nivel local.
Reclamaciones basadas en la ley NetzDG. De acuerdo con nuestro proceso de revisión, cuando recibíamos una reclamación basada en la ley NetzDG, nuestro equipo de revisión especializado en dicha ley (consulta la sección Equipos de revisión) examinaba el contexto del contenido denunciado, lo evaluaba para comprobar si cumplía con las directrices de contenido y, en caso de incumplimiento, lo retiraba en todo el mundo. No obstante, si no infringía las directrices, pero sí alguna de las 21 disposiciones del código penal alemán a las que se hacen referencia en la ley NetzDG (sección 1, párrafo III), el equipo bloqueaba el contenido localmente.
La evaluación de las reclamaciones suele ser complicada. Algunas de las infracciones penales son difíciles de determinar, incluso para los abogados, como cuando se aportan datos falsos como pruebas (sección 269 del código penal alemán). Por poner otro ejemplo, en la categoría de difamación o insultos hay mucha jurisprudencia acumulada durante las últimas décadas, sobre todo desde la entrada en vigor de la Constitución alemana. Solo una minoría de los casos pertenecientes a esta categoría constituyen contenido ilegal evidente. Además, los tribunales tardan años en decidir si el contenido es legal o ilegal y, aun así pueden llegar a conclusiones distintas. El Tribunal Constitucional Federal ha contradicho sentencias del Tribunal Supremo Federal, lo que indica que en muchas ocasiones es necesario hacer pruebas de ponderación y que cada caso depende de sus circunstancias. A diferencia de los procesos legales, las redes sociales no siempre disponen de toda la información necesaria. Además, ninguno de los procedimientos principales requiere normas probatorias. En estos casos, es muy difícil juzgar la admisibilidad del contenido al valorarlo según elementos específicos de las infracciones, por lo que normalmente deben decidirlo los tribunales pertinentes.
También lo demuestran los casos reales: muchas reclamaciones basadas en la ley NetzDG del área de las difamaciones y los insultos no las enviaron las personas afectadas, sino terceros que dieron por hecho que esas personas podrían sentirse difamadas. Dado que las redes sociales no pueden verificar la identidad de los remitentes, ignoran si esto es así o si las personas afectadas lo han denunciado ante las autoridades pertinentes, ya que la persecución de estos delitos requiere la presentación de una reclamación por parte de los afectados ("Antragsdelikt").
El equipo de NetzDG se dividió en dos turnos y revisó las solicitudes todos los días, de forma ininterrumpida hasta la desactivación de Google+, para así poder retirar o bloquear el contenido en todo el mundo dentro de los plazos estipulados en la ley. Si la solicitud contenía argumentos infundados, se informaba inmediatamente al solicitante de acuerdo con los requisitos legales (consulta la sección "Procedimientos para informar al remitente y al usuario que ha subido el contenido basados en la ley NetzDG"). Si el contenido no infringía de forma evidente las directrices de contenido globales de Google+ o las disposiciones penales relevantes, o si era muy complejo o no tenía una relación aparente con Alemania, el revisor de contenido responsable derivaba la solicitud a los revisores de contenido séniores para que tomasen las acciones pertinentes. Las solicitudes complejas se pasaban al equipo legal de Google, quien, en caso de duda, derivaba las cuestiones difíciles y delicadas a los miembros del departamento legal de Google Germany GmbH, quienes, a su vez, podían externalizar los casos particularmente complicados a un gabinete de abogados especializado en derecho penal. Este proceso solía tardar, como máximo, 7 días.
Para asegurarnos de que el equipo de NetzDG hacía su trabajo correctamente, y de que aplicaba las directrices de contenido de Google+ y las infracciones penales en virtud de la ley NetzDG de forma correcta y coherente, implementamos un proceso exhaustivo de evaluación de la calidad. Durante el periodo de informe, auditamos aproximadamente el 70 % del contenido que se había revisado. El volumen de la auditoría pudo variar de una semana a otra en función de la cantidad de solicitudes recibidas. Durante el proceso, el equipo de revisión de calidad evaluó las decisiones tomadas por los revisores de contenido, ofreció comentarios individualizados e hizo un análisis de los resultados. La muestra seleccionada para la auditoría era la base del resumen de calidad de los datos. Los revisores de calidad formaban un equipo independiente dentro del equipo de NetzDG. Eran miembros séniores del equipo que habían trabajado revisando contenido y que conocían muy bien las disposiciones penales que aparecen en la ley NetzDG y las directrices de contenido globales de Google+. En las reuniones semanales entre el equipo legal de Google y el equipo de NetzDG, no solo valoramos los resultados más recientes de la evaluación de la calidad, sino que también tratamos casos que tenían un interés, una dificultad o una complejidad especiales. Además, tratamos en profundidad los temas relacionados con las tendencias y la actualidad, así como las novedades relativas a la jurisprudencia, para así lograr un enfoque coherente en todo el equipo de NetzDG. Cuando fue necesario, modificamos las políticas de retirada de contenido para adaptarnos a los cambios en las directrices de contenido o a nueva jurisprudencia. En estos casos, se ofrecía asesoramiento y, cuando correspondía, materiales de formación a todos los miembros del equipo de NetzDG.