Innhold som bryter retningslinjene våre mot voldelig ekstremisme, inkluderer materiale laget av utenlandske terroristorganisasjoner som er satt opp på en regjerings terrorliste. Vi tillater ikke at terroristorganisasjoner bruker YouTube til noe formål, inkludert rekruttering. YouTube forbyr innhold som fremmer terrorisme, deriblant innhold som glorifiserer terrorhandlinger eller oppmuntrer til vold. Vi tillater innhold som deles i sammenheng med utdanning, dokumentarer, forskning eller kunst.

Innhold som er laget av voldelige ekstremistgrupper som ikke er oppført på en regjerings liste over utenlandske terrororganisasjoner, dekkes ofte av retningslinjene mot å publisere hatsk eller voldelig eller støtende innhold, inkludert innhold som i hovedsak er ment å være sjokkerende, sensasjonelt eller uberettiget. Kontrollører vurderer rapportert innhold opp mot alle retningslinjer og regler for brukere. Vi begrenser antallet i denne delen til innhold som fjernes i henhold til retningslinjene for voldelig ekstremisme.

Hash-deling: voldelig ekstremisme

YouTube bruker teknologi for å hindre nye opplastinger av kjent innhold som er i strid med retningslinjene, før det aktuelle innholdet blir offentlig tilgjengelig. Vi har lenge brukt denne teknologien for å forhindre spredning av innhold som viser seksuelt misbruk av barn, på plattformen. I 2016 laget vi en database for deling av hash-verdier sammen med andre partnere i bransjen, og i den deler vi hash-verdier (eller «digitale fingeravtrykk») for terroristinnhold for å hindre at det spres. Nå inneholder den delte databasen over 400 000 unike hash-verdier som ser nesten helt like ut for mennesker.

Som følge av det enorme mediebiblioteket på YouTube og de automatiske registreringssystemene våre står vi bak en stor andel av hash-verdiene i databasen for deling av hash-verdier. I henhold til delingskriteriene som er fastsatt av Global Internet Forum to Counter Terrorism, sendte YouTube inn over 45 000 unike hash-verdier til databasen for deling av hash-verdier i 2023.

Når innhold er hashet, kan andre aktører bruke de aktuelle hash-verdiene for å finne relatert innhold på sine egne plattformer og vurdere det opp mot sine egne retningslinjer for innhold. Siden 2017 har antallet bedrifter som sender bidrag til og drar nytte av denne databasen, økt fra 4 til 13. Denne organiserte innsatsen drives nå formelt av Global Internet Forum to Counter Terrorism (GIFCT).

Global Internet Forum to Counter Terrorism: voldelig ekstremisme

I 2017 grunnla YouTube, Facebook, Microsoft og Twitter Global Internet Forum to Counter Terrorism (GIFCT) som en gruppe selskaper som jobber for å hindre at terrorister misbruker de digitale plattformene til gruppens medlemmer. Selskapene våre har delt anbefalte fremgangsmåter rundt motarbeiding av terrorisme i flere år, men med GIFCT har vi fått en mer formell struktur, slik at vi har kunnet sette fart på dette samarbeidet, styrke det og stå samlet mot spredningen av terroristinnhold på nettet. I samarbeid med Tech Against Terrorism-initiativet arrangerer GIFCT globale workshoper for teknologiselskaper, ikke-statlige organisasjoner og offentlige organer fra hele verden.

Databasen for deling av hash-verdier brukes av forskjellige medlemmer og bransjepartnere, noe som betyr at det måtte finnes en grunnleggende enighet om hva som utgjør terrorist- og ekstremistinnhold, i forbindelse med gjennomgang og deling av hash-verdier for innhold. Som nevnt i GIFCTs innsynsrapport for 2021 «er det opprinnelige omfanget av databasen for deling av hash-verdier begrenset til innhold som er relatert til organisasjoner på sanksjonslisten til FNs sikkerhetsråd».

YouTube og de andre opprinnelige medlemmene av GIFCT har signert Christchurch Call to Eliminate Terrorist and Violent Extremist Content Online. GIFCT har tatt utgangspunkt i Christchurch Call og utviklet en ny protokoll for innholdsrelaterte hendelser (CIP) som GIFCT-medlemmene kan bruke for å respondere effektivt på innhold som er direktestrømmet og opprettet av gjerningspersoner, etter voldshendelser i den virkelige verden. Denne protokollen er testet og har vist seg å være effektiv, for eksempel etter angrepet på en synagoge i Halle i Tyskland (oktober 2019), en skyteepisode i Glendale i Arizona i USA (mai 2020), en skyteepisode i Buffalo i New York i USA (juni 2022) og en skyteepisode i Memphis i Tennessee i USA (september 2022). Etter at CIP ble opprettet, har GIFCT videreutviklet rammeverket for hendelsesrespons og implementert et nivå for innholdshendelser som kan brukes for å treffe tiltak mot innhold som ikke sendes direkte, som er opprettet av gjerningspersoner, og som viser hendelser i den virkelige verden. Dette ble aktivert for første gang etter et angrep i Udaipur i Rajasthan i India (juli 2022).

GIFCT har utviklet seg til å bli en frittstående organisasjon med en uavhengig administrerende direktør og sine egne medarbeidere. GIFCTs struktur inneholder også en uavhengig rådgivende komité som består av myndighetsrepresentanter og medlemmer som ikke er tilknyttet myndighetene deriblant interesseorganisasjoner, menneskerettighetseksperter, forskere og tekniske eksperter. I det nye styringsrammeverket for institusjonen er YouTube med i styret til GIFCT.

Pedagogisk, dokumentarisk, vitenskapelig og kunsterisk innhold: voldelig ekstremisme

Hvis brukere publiserer innhold om terrorisme med et pedagogisk, dokumentarisk, vitenskapelig eller kunstnerisk formål, ber vi dem huske på å oppgi nok informasjon, slik at seerne forstår konteksten. Det er ikke greit å publisere voldelig eller blodig innhold som i hovedsak er ment å være sjokkerende, sensasjonelt eller ubegrunnet. En video med særskilt sterke scener må balanseres med mer kontekst og informasjon, slik at seerne forstår hva de ser. Dette kan være en introduksjon, et kommentarspor eller teksting, og en tydelig tittel og beskrivelse. Når du oppgir dokumentarisk eller pedagogisk kontekst, kan du hjelpe seerne og kontrollørene våre med å forstå hvorfor potensielt sterke scener av og til får bli på YouTube. For eksempel: Hvis en borgerjournalist filmer at demonstranter blir banket opp, og laster dette opp med relevant informasjon (dato, sted, kontekst osv.), blir dette mest sannsynlig tillatt. Men hvis det samme innholdet publiseres uten informasjon om kontekst eller pedagogisk formål, kan dette anses som ubegrunnet, og innholdet kan bli fjernet fra nettstedet. Videoer med sterke scener eller kontroversielt innhold kan få en aldersgrense eller en advarselskjerm.

Prioriterte varslere: voldelig ekstremisme

På områder som er dekket av retningslinjene våre, fortsetter vi å investere i nettverket på over 300 myndighetspartnere og ikke-statlige organisasjoner som bidrar med verdifull ekspertise til sanksjonssystemene våre, blant annet gjennom Programmet for prioriterte varslere. De som er med i Programmet for prioriterte varslere, blir opplært i hvordan YouTube-retningslinjene for brukere skal håndheves. Siden disse rapportene oftere fører til handlinger enn rapporter fra vanlige brukere, prioriterer vi gjennomgang av dem. De som er med i Programmet for prioriterte varslere, kommuniserer direkte med tillits- og sikkerhetsteamene våre, slik at problemene kan løses raskere. Innhold som er rapportert av prioriterte varslere, er underlagt de samme retningslinjene som innhold rapportert av enhver annen bruker, og gjennomgås av teamene våre. Disse er lært opp til å ta beslutninger basert på hvorvidt innhold bryter retningslinjene våre for brukere og bør fjernes.