Pod obsah porušující naše zásady ohledně násilného extremismu spadají materiály zahraničních subjektů, které jsou uvedeny na státních seznamech teroristických organizací. Teroristickým organizacím nepovolujeme používat YouTube k žádným účelům, včetně získávání nových členů. YouTube také striktně zakazuje obsah propagující terorismus, jako je obsah glorifikující teroristické činy nebo podněcující k násilí. Obsah sdílený ve vzdělávacím, dokumentárním, vědeckém nebo uměleckém kontextu je povolen.

Obsah vytvořený násilnými extremistickými skupinami, které nejsou uvedeny na státních seznamech teroristických organizací, často porušuje naše zásady ohledně publikování nenávistného nebo násilného či explicitního obsahu, včetně obsahu, jehož primárním účelem je šokovat či vzbudit senzaci nebo který není opodstatněný. Kontroloři u nahlášeného obsahu kontrolují dodržování všech pokynů pro komunitu a zásad. Údaje uvedené v této sekci zahrnují jen obsah odstraněný na základě zásad, které zakazují násilný extremismus.

Sdílení digitálních otisků: Násilný extremismus

Pokud je o nějakém obsahu známo, že porušuje zásady, YouTube pomocí technologií zabrání jeho opětovnému nahrání, aby veřejnosti nebyl vůbec k dispozici. Pomocí těchto technologií na YouTube již dlouho bráníme šíření obsahu se sexuálním zneužíváním dětí. V roce 2016 jsme vytvořili databázi digitálních otisků, ve které s partnery v oboru sdílíme digitální otisky (hashe) teroristického obsahu, a bráníme tak i šíření tohoto obsahu. Sdílená databáze v současné době obsahuje více než 400 000 jedinečných digitálních otisků, které jsou pro lidské oko téměř totožné.

Díky rozsáhlé knihovně médií dostupných na YouTube a automatickým detekčním systémům jsme významným přispěvatelem digitálních otisků do zmíněné databáze. V souladu s kritérii sdílení stanovenými Globálním internetovým fórem pro boj proti terorismu přispěla služba YouTube v roce 2023 do databáze 45 000 unikátními digitálními otisky.

Jakmile je vypočten digitální otisk obsahu, jiné platformy jej mohou použít k detekci souvisejícího obsahu na svých platformách a k posouzení, zda odpovídá jejich vlastním obsahovým zásadám. Od roku 2017 se počet společností, které do této databáze přispívají a využívají ji, zvýšil ze 4 na 13. Tento společný program nyní formálně spravuje Globální internetové fórum pro boj s terorismem (GIFCT).

Globální internetové fórum pro boj proti terorismu: Násilný extremismus

V roce 2017 společnosti YouTube, Facebook, Microsoft a Twitter založily Globální internetové fórum pro boj proti terorismu (Global Internet Forum to Counter Terrorism – GIFCT), jehož cílem je znemožnit teroristům zneužívání digitálních platforem členů fóra. Tyto společnosti v oblasti boje proti terorismu spolupracují již několik let, fórum GIFT však poskytlo formálnější strukturu, která tuto spolupráci umožňuje zrychlit a posílit a představuje jednotnou frontu boje proti šíření teroristického obsahu na internetu. Ve spolupráci s iniciativou Tech Against Terrorism pořádá organizace GIFCT globální workshopy, kterých se účastní představitelé technologických společností, nevládních organizací a mezinárodních institucí.

Protože databázi digitálních otisků využívají různí členové a oboroví partneři, bylo nutné najít základní shodu na tom, co pro účely kontroly a sdílení digitálních otisků obsahu má být považováno za teroristický a extremistický obsah. Jak je uvedeno ve výročním přehledu transparentnosti organizace GIFCT z roku 2021, „původní rozsah databáze digitálních otisků je omezen na obsah související s organizacemi uvedenými na konsolidovaném sankčním seznamu Rady bezpečnosti Organizace spojených národů.“

Společnost YouTube a další zakládající členové fóra GIFCT podepsali Christchurchskou výzvu k potírání teroristického a násilného extremistického obsahu na webu. Na základě Christchurchské výzvy fórum GIFCT vyvinulo nový protokol pro obsah související s incidenty, pomocí kterého mohou členské společnosti GIFCT po útocích efektivně reagovat na živě streamovaný obsah vytvořený pachatelem. Tento protokol byl otestován a shledán efektivním například po útoku na synagogu v německém Halle (říjen 2019), po střelbě v Glendale v Arizoně (květen 2020), po střelbě v Buffalu ve státě New York (červen 2022) a po střelbě v Memphisu v Tennessee (září 2022). Od vytvoření systému CIP organizace GIFCT svůj systém reakce na incidenty dále rozšířila, aby se vztahoval i na obsah pořízený při incidentech a bylo pomocí něj možné reagovat i na jiná videa a fotografie pořízené pachateli při útocích, než jsou živé přenosy. Poprvé byl aktivován po útoku v Udajpuru v indickém Rádžasthánu (červenec 2022).

Fórum GIFCT se vyvinulo v samostatnou organizaci s nezávislým výkonným ředitelem a zaměstnanci. Do struktury organizace GIFCT patří také nezávislý poradní výbor složený z představitelů státní správy a nevládních organizací, včetně zájmových skupin, oborníků na lidská práva, výzkumníků a technických odborníků. V rámci nové struktury řízení zaujímá společnost YouTube pozici ve správní radě organizace GIFCT.

Vzdělávací, dokumentární, vědecký a umělecký obsah: Násilný extremismus

Když uživatelé obsah související s terorismem publikují pro vzdělávací, dokumentární, vědecké nebo umělecké účely, měli by poskytnout dostatek informací, aby diváci pochopili kontext. Publikovat násilný či krvavý obsah bezdůvodně nebo s primárním záměrem šokovat či vzbudit senzaci, není v pořádku. Pokud je video obzvlášť explicitní nebo znepokojivé, mělo by být vyváženo širším kontextem a informacemi, aby diváci věděli, na co se dívají. Takové informace lze poskytnout například prostřednictvím úvodu, hlasového komentáře, překryvných snímků s textem nebo jasného názvu a popisu. Dokumentární nebo vzdělávací kontext divákům i našim kontrolorům může pomoci pochopit, proč potenciálně znepokojivý obsah na YouTube zůstává. Například občanský žurnalista, který zachytí násilnosti při demonstraci, a výsledný obsah nahraje s relevantními informacemi (datum, místo, kontext apod.), pravděpodobně bude povolen. Pokud však stejný obsah bude publikován bez kontextu či poučných informací, může být považován za neopodstatněný, a může být z YouTube odstraněn. Na explicitní nebo kontroverzní záběry se mohou vztahovat věková omezení nebo se před nimi může zobrazovat upozornění.

Prioritní nahlašovatelé: Násilný extremismus

V oblasti zajišťování dodržování zásad investujeme do sítě více než 300 partnerských státních úřadů a neziskových organizací, které do našich systémů k prosazování zásad dodávají cenné informace, mimo jiné prostřednictvím programu prioritních nahlašovatelů. Účastníky programu prioritních nahlašovatelů školíme ve vynucování pokynů pro komunitu YouTube. Protože hlášení od účastníků programu vedou k nějaké akci častěji než hlášení od průměrných uživatelů, dáváme jim při kontrolách přednost. Za účelem rychlejšího řešení problémů mají účastníci programu prioritních nahlašovatelů k dispozici přímou komunikační linku s našimi týmy pro důvěryhodnost a zabezpečení. Na obsah nahlášený prioritními nahlašovateli se vztahují stejné zásady jako na obsah nahlášený jakýmkoli jiným uživatelem a kontrolují ho naše týmy proškolené v rozhodování o tom, zda obsah porušuje pokyny pro komunitu a má být odstraněn.