Entre el contenido que infringe nuestras políticas sobre extremismo violento se incluye material creado por organizaciones terroristas extranjeras que figuran en listas gubernamentales. No permitimos que ninguna organización terrorista utilice YouTube para ningún fin, incluida la captación de nuevos miembros. Asimismo, prohibimos terminantemente la publicación de contenido en YouTube que promueva el terrorismo como, por ejemplo, contenido que enaltezca actividades terroristas o instigue la violencia. Hacemos concesiones en el caso del contenido que se difunde en un contexto educativo, documental, científico o artístico.

El contenido creado por grupos extremistas violentos no clasificados como organizaciones terroristas por instituciones internacionales generalmente está contemplado en nuestras políticas como contenido que incita al odio o contenido violento o explícito , incluido aquel que contenga violencia gratuita o con el que se pretenda generar escándalo o sensacionalismo. Los revisores analizan el contenido denunciado para comprobar si cumple todas nuestras políticas y las normas de la En esta sección solo incluimos las cifras relativas al contenido que retiramos por infringir nuestra política sobre extremismo violento.

Tecnología hash compartida: extremismo violento

YouTube utiliza tecnología para impedir que se vuelva a subir contenido que ya se ha clasificado como infractor antes de que esté disponible públicamente. Llevamos mucho tiempo usando esta tecnología para evitar la difusión de imágenes de abuso sexual infantil en la plataforma. En el 2016, creamos una base de datos de hashes con partners del sector en la que compartimos hashes (o "huellas digitales") de contenido de carácter terrorista para detener su difusión. Actualmente, la base de datos compartida contiene más de 400.000 hashes únicos que son prácticamente idénticos a simple vista.

La amplia biblioteca multimedia y los sistemas de detección automática de YouTube nos permiten contribuir una gran cantidad de hashes a la base de datos. Siguiendo los criterios de uso compartido del Global Internet Forum to Counter Terrorism (GIFCT; el foro internacional de Internet contra el terrorismo), YouTube contribuyó más de 45.000 hashes únicos a la base de datos en el 2023.

Una vez que el contenido se ha cifrado con hash, otras plataformas pueden usar estas huellas digitales para detectar contenido relacionado en sus plataformas y evaluarlo según sus propias políticas de contenido. Desde el 2017, el número de empresas que contribuyen a esta base de datos y se benefician de ella ha aumentado de 4 a 13. Ahora, esta iniciativa la gestiona oficialmente el GIFCT.

Global Internet Forum to Counter Terrorism: extremismo violento

En el 2017, YouTube, Facebook, Microsoft y Twitter fundaron el Global Internet Forum to Counter Terrorism (GIFCT; el foro internacional de Internet contra el terrorismo) para impedir el abuso por parte de terroristas de las plataformas digitales de sus miembros. Aunque nuestras empresas comparten prácticas recomendadas para luchar contra el terrorismo desde hace años, el GIFCT proporciona una estructura más formal que permite acelerar y reforzar este trabajo, así como crear un frente unido para luchar contra la divulgación online de contenido de carácter terrorista. El GIFCT, en colaboración con la iniciativa Tech Against Terrorism, organiza talleres internacionales en los que participan empresas tecnológicas, organizaciones no gubernamentales y organismos públicos internacionales.

Como distintos miembros y partners del sector utilizan la base de datos de distribución de tecnología hash, fue necesario establecer un consenso general sobre qué se considera contenido de carácter terrorista o extremista para evaluar y compartir las huellas digitales de contenido. Como se indica en el Informe de Transparencia anual de GIFCT del 2021, "el alcance original de la base de datos de distribución de tecnología hash se limita al contenido relacionado con las organizaciones que aparecen en la lista consolidada de sanciones del Consejo de Seguridad de las Naciones Unidas".

YouTube y los otros miembros fundadores del GIFCT se sumaron al llamamiento de Christchurch para eliminar el contenido de carácter terrorista y extremista violento de la red. Basándose en este llamamiento, el GIFCT creó un nuevo protocolo de respuesta a incidentes (CIP) para que sus miembros puedan actuar de forma eficaz ante el contenido emitido en directo por criminales tras cometer un ataque violento en el mundo real. Este protocolo se probó y su eficacia quedó demostrada, por ejemplo, tras el ataque a una sinagoga en Halle (Alemania) en octubre del 2019; un tiroteo en Glendale (Arizona, EE. UU.) en mayo del 2020; un tiroteo en Búfalo (Nueva York, EE. UU.) en junio del 2022 y un tiroteo en Memphis (Tennessee, EE. UU.) en septiembre del 2022. Desde que creó el CIP, el GIFCT ha seguido desarrollando su marco de respuesta a incidentes para incluir un nivel de incidentes de contenido para actuar ante los vídeos e imágenes que no sean emitidos en directo, que muestren un ataque violento en el mundo real y que estén producidos por los autores del ataque. Se activó por primera vez después de un ataque en Udaipur (Rajastán, India) en julio del 2022.

El GIFCT se ha convertido en una organización independiente que cuenta con un director ejecutivo y con una plantilla de empleados propia. La estructura del GIFCT también incluye un comité consultivo independiente formado por representantes gubernamentales y miembros no gubernamentales, como grupos de defensa, especialistas en derechos humanos, investigadores y expertos técnicos. En el nuevo marco de gobernanza de la institución, YouTube ocupa un cargo en el comité ejecutivo de GIFCT.

Contenido educativo, documental, científico y artístico: extremismo violento

Si los usuarios publican contenido relacionado con el terrorismo con fines educativos, documentales, científicos o artísticos, deben proporcionar información suficiente para que los usuarios puedan entender el contexto. No se debe publicar contenido violento o morboso cuya principal intención sea resultar escandaloso o sensacionalista de manera gratuita. Si un vídeo resulta particularmente explícito o desagradable, debe ir acompañado de contexto y de información adicional que ayude a los usuarios a entender lo que están viendo, ya sea mediante una introducción, una voz en off o superposiciones de texto, así como un título y una descripción claros. Un contexto documental o educativo puede ayudar a los usuarios y a nuestros revisores a entender por qué a veces hay contenido potencialmente desagradable que no se retira de YouTube. Por ejemplo, seguramente se permitiría la publicación de las imágenes de una paliza a unos manifestantes que un periodista ciudadano grabe y suba junto con información pertinente (la fecha, la ubicación, el contexto, etc.). Sin embargo, las mismas imágenes publicadas sin ese contexto o información podrían considerarse violencia gratuita y retirarse del sitio web. Cualquier grabación explícita o controvertida puede estar sujeta a restricciones de edad o ir precedida de una pantalla de advertencia.

Alertadores Prioritarios: extremismo violento

En todas nuestras áreas de políticas, seguimos invirtiendo en la red formada por más de 300 partners gubernamentales y ONGs, que aportan conocimientos muy valiosos a nuestros sistemas de aplicación de normas (por ejemplo, a través del Programa de Alertadores Prioritarios). Los miembros del Programa de Alertadores Prioritarios reciben formación sobre cómo aplicar las Normas de la Comunidad de YouTube y, dado que sus denuncias generan más acciones que las del usuario común, priorizamos la revisión de los contenidos que denuncian ellos. Los miembros de este programa tienen a su disposición una línea de comunicación directa con nuestros equipos de Confianza y Seguridad para resolver los problemas con mayor celeridad. El contenido que denuncian estos Alertadores Prioritarios está sujeto a las mismas políticas que el contenido que puede denunciar cualquier otro usuario. Además, lo revisan nuestros equipos, cuyos miembros tienen la formación necesaria para decidir si infringe las Normas de la Comunidad y debe retirarse.