Saturs, ar kuru tiek pārkāptas mūsu politikas par vardarbīgu ekstrēmismu, ietver materiālus, ko izveidojušas valsts apzinātas ārvalstu teroristiskās organizācijas. Mēs nepieļaujam, ka teroristiskās organizācijas varētu izmantot pakalpojumu YouTube jebkādiem mērķiem, tostarp vervēšanai. Tāpat pakalpojumā YouTube tiek stingri aizliegts saturs, kas popularizē terorismu, piemēram, saturs, kurā tiek slavināti teroristiski akti vai notiek kūdīšana uz vardarbību. Tiek atļauts saturs, kas tiek kopīgots izglītojošā, dokumentālā, zinātniskā vai mākslinieciskā kontekstā.

Saturu, ko veidojušas vardarbīgas ekstrēmistu grupas, kuras nav valdības apzinātas ārvalstu teroristiskās organizācijas, bieži regulē mūsu politika par naidīga, vardarbīga vai nepatīkama satura publicēšanu, tostarp tāda satura publicēšanu, kas galvenokārt ir šokējošs, vardarbīgs vai pārmērīgs. Pārskatītāji izvērtē atzīmētā satura atbilstību visām mūsu kopienas vadlīnijām un politikām. Šajā sadaļā ir parādīti tikai dati par saturu, kas noņemts saskaņā ar mūsu vardarbīgā ekstrēmisma politiku.

Jaucējkodu kopīgošana: vardarbīgs ekstrēmisms

Pirms saturs kļūst publiski pieejams, pakalpojumā YouTube tiek izmantota tehnoloģija, kas novērš atkārtotu tāda satura augšupielādi, kurā jau iepriekš ir konstatēti pārkāpumi. Šī tehnoloģija jau ilgstoši tiek lietota, lai platformā netiktu izplatīti attēli ar seksuālu vardarbību pret bērniem. 2016. gadā sadarbībā ar nozares partneriem izveidojām jaucējvērtību koplietošanas datu bāzi. Datu bāzē kopīgojam ar terorismu saistīta satura jaucējvērtības jeb ciparnospiedumus, lai apturētu šāda satura izplatību. Koplietošanas datu bāzē patlaban ir vairāk nekā 400 000 unikālu jaucējvērtību, ko ar neapbruņotu aci būtu praktiski neiespējami atšķirt.

YouTube plašās multivides bibliotēkas un automatizēto noteikšanas sistēmu dēļ lielu daļu jaucējvērtību šai jaucējvērtību koplietošanas datu bāzei pievienojam mēs. 2023. gadā jaucējvērtību koplietošanas datu bāzei no pakalpojuma YouTube tika pievienoti vairāk nekā 45 000 unikālu jaucējvērtību, kas atbilst koplietošanas kritērijiem, kurus ir noteicis Globālais interneta forums terorisma apkarošanai.

Jaucējvērtībās pārveidotu saturu citās platformās var izmantot, lai noteiktu tajās publicētu saistītu saturu un izvērtētu tā atbilstību attiecīgo platformu satura politikām. Kopš 2017. gada to uzņēmumu skaits, kuri iesniedz datus šajā datu bāzē un izmanto šo datu bāzi, ir palielinājies no 4 līdz 13. Tagad šos kopīgos centienus oficiāli pārvalda Globālais interneta forums terorisma apkarošanai (Global Internet Forum to Counter Terrorism — GIFCT).

Globālais interneta forums terorisma apkarošanai: vardarbīgs ekstrēmisms

2017. gadā uzņēmumu grupa — YouTube, Facebook, Microsoft un Twitter — nodibināja Globālo interneta forumu terorisma apkarošanai (Global Internet Forum to Counter Terrorism — GIFCT), lai neļautu teroristiem ļaunprātīgi izmantot grupas dalībnieku digitālās platformas. Lai gan mūsu uzņēmumi jau vairākus gadus dalās paraugprakses ieteikumos par pretterorisma pasākumiem, oficiāla GIFCT struktūras izveide ļāva paātrināt un veicināt šo darbu, kā arī kopīgi cīnīties pret terorisma satura izplatīšanu tiešsaistē. Sadarbībā ar iniciatīvu Tech Against Terrorism GIFCT rīko pasaules mēroga seminārus, kuros piedalās tehnoloģiju uzņēmumi, nevalstiskas organizācijas un starptautiskas institūcijas.

Tā kā jaucējvērtību koplietošanas datu bāzi izmanto dažādi dalībnieki un nozares partneri, bija nepieciešams izveidot pamata vadlīnijas, kurās jaucējvērtību pārskatīšanas un koplietošanas mērķiem ir sniegta terorisma un ekstrēmisma satura definīcija. Kā norādīts GIFCT 2021. gada pārredzamības atskaitē, “sākotnēji jaucējvērtību koplietošanas datu bāzē tika iekļauts tikai saturs, kas bija saistīts ar Apvienoto Nāciju Drošības padomes sankciju kopsarakstā iekļautajām organizācijām.”

YouTube un citi GIFCT dibinātāji atbalstīja Kraistčērčas aicinājumu novērst ar terorismu un vardarbīgu ekstrēmismu saistītu tiešsaistes saturu. Pamatojoties uz Kraistčērčas aicinājumu, GIFCT izveidoja jaunu satura gadījumu protokolu (Content Incident Protocol — CIP), lai GIFCT grupas uzņēmumi varētu efektīvi reaģēt uz uzbrucēju veidotu, tiešraidē straumētu saturu pēc īstenota vardarbīga notikuma. Šis protokols ir pārbaudīts, un tā efektivitāte ir pierādīta, piemēram, pēc uzbrukuma sinagogai Vācijā, Hallē (2019. gada oktobrī), apšaudes ASV Arizonas štatā, Glendeilā (2020. gada maijā), apšaudes ASV Ņujorkas štatā, Bufalo (2022. gada jūnijā) un apšaudes ASV Tenesī štatā, Memfisā (2022. gada septembrī). Kopš CIP izveides GIFCT ir pilnveidojis sistēmu reaģēšanai uz satura gadījumiem, iekļaujot satura gadījuma līmeni, kas ļauj reaģēt uz uzbrucēju veidotiem videoklipiem un attēliem, kuros ir atspoguļoti īstenoti notikumi, bet kuri nav straumēti tiešraidē. Pirmo reizi šis protokols tika izmantots pēc uzbrukuma Indijā, Rādžastānas štatā, Udaipurā (2022. gada jūlijā).

GIFCT ir kļuvis par atsevišķu organizāciju ar neatkarīgu izpilddirektoru un personālu. GIFCT struktūra ietver arī neatkarīgu konsultatīvu padomi, kuras sastāvā ir valdību un nevalstiski pārstāvji, tostarp interešu aizstāvības grupas, cilvēktiesību speciālisti, pētnieki un tehniskie speciālisti. Šīs organizācijas jaunajā pārvaldības struktūrā YouTube komanda ieņem vietu GIFCT administratīvajā izpildpadomē.

Izglītojošs, dokumentāls, zinātnisks un māksliniecisks saturs: vardarbīgs ekstrēmisms

Ja lietotāji izglītojošos, dokumentālos, zinātniskos vai mākslinieciskos nolūkos publicē saturu, kas saistīts ar terorismu, mēs aicinām sniegt pietiekami daudz informācijas, lai skatītāji izprastu kontekstu. Nav atļauts publicēt vardarbīgu vai asiņainu saturu, ja mērķis galvenokārt ir šokēt vai radīt sensāciju. Ja videoklips ir īpaši nepatīkams vai satraucošs, ir jāsniedz papildu konteksts un informācija, lai skatītāji izprastu šo saturu, piemēram, varat pievienot ievadu, mutiskus komentārus vai teksta pārklājumu, kā arī skaidru nosaukumu un aprakstu. Ja nodrošināsiet dokumentālu vai izglītojošu kontekstu, skatītāji un mūsu pārskatītāji varēs izprast, kādēļ pakalpojumā YouTube dažkārt tiek publicēts iespējami nepatīkams saturs. Piemēram, saturs visticamāk tiks atļauts, ja žurnālists amatieris nofilmēs videomateriālu, kurā tiek fiziski iespaidoti protestētāji, un augšupielādēs to, sniedzot atbilstošu informāciju (datumu, atrašanās vietu, kontekstu utt.). Tomēr tā paša videomateriāla publicēšana bez konteksta vai izglītojošas informācijas var tikt uzskatīta par nepamatotu, un saturs var tikt noņemts no vietnes. Nepatīkamam vai pretrunīgi vērtētam saturam var tikt noteikts vecuma ierobežojums vai parādīts brīdinājuma ekrāns.

Prioritātes atzīmētāji: vardarbīgs ekstrēmisms

Īstenojot savas politikas, mēs turpinām veidot tīklu ar vairāk nekā 300 partneriem (valsts iestādēm un NVO), kas sniedz vērtīgas zināšanas un pieredzi mūsu piemērošanas sistēmām, tostarp iesaistās arī mūsu prioritātes atzīmētāju programmā. Prioritātes atzīmētāju programmas dalībnieki piedalās apmācībās par YouTube kopienas vadlīniju piemērošanu, un, tā kā viņu atzīmētajam saturam ir augstāks precizitātes koeficients nekā parastu lietotāju atzīmētajam saturam, šī satura pārskatīšanai tiek piešķirta augstāka prioritāte. Prioritātes atzīmētāju programmas dalībnieki var tieši sazināties ar mūsu uzticamības un drošības komandām, lai ātrāk novērstu problēmas. Saturam, ko atzīmējuši prioritātes atzīmētāji, tiek piemērotas tās pašas politikas, kuras tiek piemērotas citu lietotāju atzīmētajam saturam, un šo saturu pārskata mūsu komandas, kas ir ieguvušas vajadzīgo kompetenci, lai izvērtētu, vai ar saturu tiek pārkāptas mūsu kopienas vadlīnijas un vai saturs ir jānoņem.