Treści, które naruszają nasze zasady związane z brutalnym ekstremizmem, to między innymi materiały produkowane przez ścigane prawem zagraniczne organizacje terrorystyczne. Nie zezwalamy organizacjom terrorystycznym na korzystanie z YouTube w żadnym celu, w tym do rekrutacji. W YouTube ściśle zakazane są także treści promujące terroryzm, np. gloryfikujące akty terrorystyczne lub podżegające do przemocy. Dopuszczalne są tylko treści udostępniane w celach edukacyjnych, dokumentacyjnych, naukowych lub prezentujące kontekst artystyczny.

Treści przygotowywane przez brutalne grupy ekstremistyczne niezaliczające się do ściganych prawem zagranicznych organizacji terrorystycznych zwykle naruszają nasze zasady dotyczące publikowania treści szerzących nienawiść lub drastycznych bądź przedstawiających przemoc, w tym treści publikowanych z zamiarem szokowania, wywołania sensacji czy bezzasadnie. Weryfikatorzy oceniają zgłoszone treści pod kątem wszystkich zasad i wytycznych dla społeczności. Dane w tej sekcji ograniczają się do treści usuniętych z powodu naruszania zasad związanych z brutalnym ekstremizmem.

Udostępnianie odcisków cyfrowych – brutalny ekstremizm

YouTube wykorzystuje technologię do zapobiegania ponownemu przesyłaniu i upublicznianiu materiałów, o których wiadomo, że naruszają obowiązujące zasady. Od dawna stosujemy tę technologię do blokowania materiałów wizualnych związanych z wykorzystywaniem seksualnym dzieci. W 2016 roku wraz z partnerami branżowymi opracowaliśmy bazę danych odcisków cyfrowych (nazywanych również haszami) treści związanych z terroryzmem, aby powstrzymać ich rozpowszechnianie. Udostępniona baza danych zawiera obecnie ponad 400 000 unikalnych haszówreprezentujących treści, których nie dałoby się rozróżnić gołym okiem.

Dzięki automatycznym systemom wykrywania i obszernej bibliotece multimediów w YouTube sami dostarczamy bardzo wiele haszy do bazy danych. Zgodnie z kryteriami udostępniania określonymi przez globalne forum internetowe do zwalczania terroryzmu GIFC (Global Internet Forum to Counter Terrorism) w 2023 roku przesłaliśmy z YouTube do bazy danych odcisków cyfrowych ponad 45 000 unikalnych haszów.

Po zahaszowaniu treści inne platformy mogą używać tych haszów, aby wykrywać powiązane materiały i oceniać je pod kątem własnych zasad dotyczących treści. Od 2017 roku liczba firm dostarczających materiały do tej bazy i korzystających z niej wzrosła z 4 do 13. Ten wspólny wysiłek oficjalnie odbywa się teraz pod szyldem GIFCT (Global Internet Forum to Counter Terrorism, Globalne Forum Internetu przeciw Terroryzmowi).

Globalne forum internetowe do walki z terroryzmem – brutalny ekstremizm

W 2017 roku przedstawiciele YouTube, Facebooka, Microsoftu i Twittera założyli Global Internet Forum to Counter Terrorism (Globalne Forum Internetu przeciw Terroryzmowi, GIFCT), aby przeciwdziałać wykorzystywaniu przez terrorystów platform cyfrowych firm – założycielek. Chociaż nasze firmy od lat dzielą się sprawdzonymi metodami walki z terroryzmem, to utworzenie GIFCT zapewniło tym działaniom bardziej formalną strukturę, pozwalając przyspieszyć prace, zwiększyć ich zasięg i stworzyć jednolity front przeciwko rozpowszechnianiu w sieci treści związanych z terroryzmem. We współpracy z inicjatywą Tech Against Terrorism (Technologia Przeciw Terroryzmowi) GIFCT prowadzi międzynarodowe warsztaty dla firm technologicznych, organizacji pozarządowych i organów międzynarodowych.

Z bazy danych odcisków cyfrowych korzystają różni użytkownicy i partnerzy branżowi, dlatego na potrzeby weryfikacji i udostępniania haszów treści konieczne było uzgodnienie, jakie treści powinny być uznawane za terrorystyczne i ekstremistyczne. Jak zaznaczono w opracowanym przez GIFCT rocznym raporcie przejrzystości z 2021 r. „pierwotny zakres bazy danych odcisków cyfrowych jest ograniczony do treści związanych z organizacjami objętymi sankcjami ONZ zgodnie z rezolucjami Rady Bezpieczeństwa”.

YouTube i pozostali członkowie-założyciele GIFCT zademonstrowali poparcie dla inicjatywy Christchurch Call to Eliminate Terrorist and Violent Extremist Content Online (inicjatywy na rzecz walki z terrorystycznymi i ekstremistycznymi treściami w sieci). W ramach Christchurch Call organizacja GIFCT opracowała nowy protokół dla incydentów związanych z treściami (Content Incident Protocol, CIP), umożliwiając swoim członkom sprawne reagowanie na tworzone przez sprawców i transmitowane na żywo treści po brutalnych wydarzeniach w świecie rzeczywistym. Protokół ten został przetestowany i okazał się skuteczny, na przykład po ataku na synagogę w Halle w Niemczech (październik 2019 r.), strzelaninie w Glendale (Arizona) w USA (maj 2020 r.), strzelaninie w Buffalo (Nowy Jork) w USA (czerwiec 2022 r.) i strzelanie w Memphis (Tennessee) w USA (wrzesień 2022 r.). Od czasu utworzenia CIP GIFCT rozwinęło sposób reagowania na incydenty (Incident Response Framework) – treści utworzone przez sprawców i nietransmitowane na żywo filmy oraz zdjęcia przedstawiające rzeczywiste wydarzenia są przypisywane do odpowiedniego poziomu reagowania. To podejście wykorzystano po raz pierwszy po ataku w Udaipurze (Radżastan) w Indiach (lipiec 2022 r.).

GIFCT przeszło ewolucję, stając się samodzielną organizacją z niezależnym dyrektorem wykonawczym i personelem. Struktura GIFCT obejmuje również niezależny komitet doradczy złożony z przedstawicieli władz państwowych i organizacji pozarządowych, w tym grup interesu, specjalistów w dziedzinie praw człowieka, naukowców i ekspertów technicznych. W nowej strukturze GIFTC YouTube ma swojego przedstawiciela w zarządzie operacyjnym.

Treści edukacyjne, dokumentalne, naukowe i artystyczne – brutalny ekstremizm

Użytkowników, którzy publikują treści związane z terroryzmem w celach edukacyjnych, dokumentalnych, naukowych lub artystycznych, zachęcamy do dbania o odpowiedni opis, który pozwoli widzom poznać kontekst udostępniania takich materiałów. Nie zezwalamy na publikowanie brutalnych lub drastycznych treści z zamiarem szokowania, wywołania sensacji czy bezzasadnie. Filmy drastyczne lub wywołujące silne emocje powinny mieć wyraźnie określony kontekst oraz uwzględniać dodatkowe informacje, które pomogą widzom zrozumieć, co oglądają. Mogą one mieć postać wprowadzenia, komentarza lektora lub nałożonego tekstu, jak również jednoznacznego tytułu i opisu. Wskazanie kontekstu dokumentalnego lub edukacyjnego może pomóc widzom oraz weryfikatorom zrozumieć, dlaczego niektóre materiały potencjalnie wywołujące silne emocje pozostają dostępne w YouTube. Na przykład materiał na temat pobicia uczestników protestu, przesłany przez dziennikarza zajmującego się sprawami obywatelskimi wraz z odpowiednimi informacjami (data, lokalizacja, kontekst itp.), zostanie prawdopodobnie zaakceptowany. Jednak ten sam materiał bez danych kontekstowych lub edukacyjnych może zostać uznany za bezzasadny i usunięty z witryny. Materiały drastyczne lub kontrowersyjne mogą być poddawane ograniczeniom wiekowym lub poprzedzane ekranem z ostrzeżeniem.

Priorytetowe podmioty sygnalizujące: brutalny ekstremizm

W obszarach objętych naszymi zasadami stale utrzymujemy sieć ponad 300 partnerów (rządowych i pozarządowych), którzy wnoszą cenny wkład w nasze systemy egzekwowania zasad, także w ramach programu dla priorytetowych podmiotów sygnalizujących. Uczestnicy programu dla priorytetowych podmiotów sygnalizujących biorą udział w szkoleniach z egzekwowania wytycznych dla społeczności YouTube. Ponieważ ich zgłoszenia prowadzą do podjęcia działań częściej niż zgłoszenia pozostałych użytkowników, traktujemy je priorytetowo. Uczestnicy programu dla priorytetowych podmiotów sygnalizujących kontaktują się bezpośrednio z naszymi zespołami ds. zaufania i bezpieczeństwa, aby usprawnić proces usuwania treści. Materiały zgłaszane przez priorytetowe podmioty sygnalizujące podlegają tym samym zasadom co materiały zgłaszane przez każdego innego użytkownika. Są one sprawdzane przez nasze odpowiednio przeszkolone zespoły, których członkowie podejmują decyzję, czy doszło do naruszenia wytycznych dla społeczności i czy treści powinny zostać usunięte.