Content die in strijd is met ons beleid tegen gewelddadig extremisme omvat materiaal dat is geproduceerd door buitenlandse terroristische organisaties die door de overheid zijn geïdentificeerd. Terroristische organisaties mogen YouTube voor geen enkel doeleinde, inclusief werving, gebruiken. Daarnaast gelden er strikte verboden op YouTube voor content waarin terrorisme wordt gepromoot, zoals content waarin terroristische daden worden verheerlijkt of wordt opgeroepen tot geweld. Content die wordt gedeeld binnen een educatieve, wetenschappelijke of artistieke context of voor een documentaire is wel toegestaan.

Content die is geproduceerd door gewelddadige, extremistische groeperingen die niet op de lijst met door de overheid geïdentificeerde buitenlandse terroristische organisaties staan, valt vaak onder onze beleidsregels ten aanzien van het posten van haatzaaiende, gewelddadige of expliciete content, inclusief content die als hoofddoel heeft te choqueren of te sensationaliseren of content die zinloos geweld bevat. Reviewers controleren gemarkeerde content op naleving van alle communityrichtlijnen en beleidsregels. De cijfers in dit gedeelte zijn beperkt tot de content die is verwijderd vanwege schending van ons beleid ten aanzien van gewelddadig extremisme.

Hashes delen: gewelddadig extremisme

YouTube zet technologie in om nieuwe uploads van bekende inbreukmakende content te voorkomen voordat die content openbaar beschikbaar wordt gemaakt. We maken al langer gebruik van deze technologie om de verspreiding van beelden van seksueel misbruik van kinderen op het platform te voorkomen. In 2016 hebben we samen met branchepartners een database voor het delen van hashes ontwikkeld waarin we hashes (of digitale vingerafdrukken) van terroristische content delen om de verspreiding ervan tegen te gaan. De gedeelde database bevat op dit moment meer dan 400.000 unieke hashes die voor het menselijk oog vrijwel identiek zijn.

Dankzij de enorme mediabibliotheek en geautomatiseerde detectiesystemen van YouTube dragen we veel hashes bij aan deze database voor het delen van hashes. In overeenstemming met de criteria voor het delen van het wereldwijde internetforum ter bestrijding van terrorisme (Global Internet Forum to Counter Terrorism, GIFCT) heeft YouTube in 2023 meer dan 45.000 unieke hashes bijgedragen aan de database voor het delen van hashes.

Zodra content is gehasht, kunnen andere platforms die hashes gebruiken om gerelateerde content op hun platforms op te sporen en te evalueren op basis van hun eigen contentbeleid. Sinds 2017 is het aantal bedrijven dat bijdraagt aan en gebruikmaakt van deze database gegroeid van 4 naar 13. Deze gezamenlijke inspanning wordt nu formeel aangestuurd door het wereldwijde internetforum ter bestrijding van terrorisme (Global Internet Forum to Counter Terrorism, GIFCT).

Wereldwijde internetforum ter bestrijding van terrorisme: gewelddadig extremisme

YouTube, Facebook, Microsoft en Twitter hebben in 2017 samen het wereldwijde internetforum ter bestrijding van terrorisme (Global Internet Forum to Counter Terrorism, GIFCT) opgericht om misbruik van de digitale platforms van leden door terroristen te voorkomen. Hoewel onze bedrijven al meerdere jaren best practices voor terrorismebestrijding delen, biedt het GIFCT een formelere structuur om dit werk te versnellen en te versterken. Op deze manier wordt er één front gevormd tegen de online verspreiding van terroristische content. In samenwerking met het Tech Against Terrorism-initiatief organiseert het GIFCT internationale workshops voor techbedrijven, niet-gouvernementele organisaties en internationale overheidsinstanties.

Omdat de database voor het delen van hashes door uiteenlopende leden en branchepartners werd gebruikt, was er een behoefte aan basisconsensus over wat terroristische en extremistische content is, met het oog op het beoordelen en delen van hashes van content. Zoals opgemerkt in het jaarlijks transparantierapport van het GIFCT uit 2021, is het oorspronkelijke bereik van de database voor het delen van hashes beperkt tot content met betrekking tot organisaties die vermeld worden op de geconsolideerde lijst met sancties van de Veiligheidsraad van de Verenigde Naties.

YouTube en de andere oprichters van het GIFCT hebben de Christchurch Call to Eliminate Terrorist and Violent Extremist Content Online ondertekend. Voortbouwend op de Christchurch Call heeft het GIFCT een nieuw incidentenprotocol voor content (Content Incident Protocol, CIP) ontwikkeld zodat aan het GIFCT deelnemende bedrijven na een gewelddadige aanslag efficiënter kunnen reageren op door daders gemaakte, live gestreamde content. Dit protocol is bijvoorbeeld getest en effectief gebleken na de aanslag op een synagoge in Halle in Duitsland (oktober 2019), na een schietpartij in Glendale, Arizona in de Verenigde Staten (mei 2020), na een schietpartij in Buffalo, New York in de Verenigde Staten (juni 2022) en na een schietpartij in Memphis, Tennessee in de Verenigde Staten (september 2022). Sinds de start van het CIP heeft het GIFCT het Incident Response Framework verder ontwikkeld en een incidentenprotocol voor content toegevoegd om te kunnen reageren op niet-gelivestreamde, door daders gemaakte video's en afbeeldingen waarin de echte gebeurtenis wordt getoond. Dit werd voor het eerst geactiveerd na een aanval in Udaipur, Rajasthan in India (juli 2022).

Het GIFCT is uitgegroeid tot een zelfstandige organisatie met een onafhankelijke uitvoerend directeur en werknemers. De structuur van het GIFCT omvat ook een onafhankelijke adviesraad die bestaat uit overheidsvertegenwoordigers en leden van niet-gouvernementele organisaties, waaronder belangengroepen, mensenrechtenspecialisten, onderzoekers en technische experts. Binnen het nieuwe bestuurskader van de instantie bekleedt YouTube een functie in het uitvoerende operationele bestuur van het GIFCT.

Documentaires, educatieve, wetenschappelijke en artistieke content: gewelddadig extremisme

Als gebruikers aan terrorisme gerelateerde content posten voor een documentaire of educatief, wetenschappelijk of artistiek doeleinde, raden we die gebruikers aan voldoende informatie te verstrekken zodat kijkers de context begrijpen. Het is niet toegestaan gewelddadige of gruwelijke content te posten die hoofdzakelijk is bedoeld om te choqueren of te sensationaliseren of die zinloos geweld bevat. Als een video bijzonder gewelddadig of verontrustend is, moet deze in evenwicht worden gebracht aan de hand van aanvullende context en informatie om kijkers meer inzicht te geven in wat ze te zien krijgen, zoals via een inleiding, voice-over of tekstoverlays en via een duidelijke titel en beschrijving. Door de documentaire of educatieve video in context te plaatsen en het karakter ervan toe te lichten, kunnen kijkers en onze reviewers beter begrijpen waarom mogelijk verontrustende content soms op YouTube blijft staan. Voorbeeld: Beeldmateriaal dat door een burgerjournalist is gemaakt van demonstranten die in elkaar worden geslagen en dat wordt geüpload met relevante informatie (datum, locatie, context, enzovoort) is mogelijk toegestaan. Als datzelfde beeldmateriaal wordt gepost zonder contextuele of educatieve toelichting, wordt dit mogelijk beschouwd als zinloos geweld en kan het van de site worden verwijderd. Op gewelddadig of controversieel beeldmateriaal kunnen leeftijdsbeperkingen of een waarschuwingsscherm van toepassing zijn.

Melders met Prioriteit: gewelddadig extremisme

Voor al onze beleidsgebieden blijven we investeren in het netwerk van meer dan 300 overheidspartners en ngo's die onze handhavingssystemen voorzien van waardevolle expertise, onder andere via het Programma voor Melders met Prioriteit. Deelnemers aan het Programma voor Melders met Prioriteit worden getraind om de Communityrichtlijnen van YouTube af te dwingen. Omdat hun markeringen een hoger actiepercentage hebben dan dat van de gemiddelde gebruiker, krijgen de markeringen prioriteit tijdens beoordelingen. Deelnemers aan het Programma voor Melders met Prioriteit kunnen rechtstreeks communiceren met onze teams Trust & Safety-teams zodat problemen sneller kunnen worden opgelost. Door Melders met Prioriteit gemarkeerde content valt onder hetzelfde beleid als content die door andere gebruikers wordt gemarkeerd. Deze content wordt beoordeeld door onze teams, die zijn getraind om te beslissen of content in strijd is met onze Communityrichtlijnen en of deze moet worden verwijderd.