Konten yang melanggar kebijakan kami perihal ekstremisme kekerasan mencakup materi yang dibuat oleh organisasi teroris asing yang dicantumkan pemerintah. Kami tidak mengizinkan organisasi teroris menggunakan YouTube untuk tujuan apa pun, termasuk perekrutan. YouTube juga melarang keras konten yang mendukung terorisme, seperti konten yang mengagungkan tindakan teroris atau mendorong kekerasan. Kami memberikan pengecualian untuk konten yang dibagikan dalam konteks pendidikan, dokumenter, ilmiah, atau artistik.

Konten yang dibuat oleh kelompok ekstremis kekerasan yang tidak termasuk dalam organisasi teroris asing yang dicantumkan pemerintah umumnya tercakup dalam kebijakan kami terkait aktivitas memposting konten kebencian atau kekerasan atau vulgar, termasuk konten yang tujuan utamanya untuk membuat terkejut, mencari sensasi, atau tidak beralasan. Peninjau mengevaluasi konten yang dilaporkan berdasarkan seluruh kebijakan dan Pedoman Komunitas kami. Kami membatasi jumlahnya dalam bagian ini hanya untuk konten yang dihapus karena melanggar kebijakan ekstremisme kekerasan kami.

Bekerja sama dalam menggunakan pencirian: Ekstremisme Kekerasan

YouTube memanfaatkan teknologi untuk mencegah tindakan upload ulang konten yang diketahui pernah melanggar sebelum konten tersebut tersedia untuk publik. Kami telah lama menggunakan teknologi ini untuk mencegah penyebaran gambar pelecehan seksual terhadap anak-anak di platform tersebut. Pada tahun 2016, kami dan partner industri membuat database hash yang digunakan bersama, yang kami gunakan untuk berbagi hash (atau “sidik jari digital”) konten teroris untuk menghentikan penyebarannya. Database bersama saat ini berisi lebih dari 400.000 hash unik yang hampir sama di mata manusia.

Sistem deteksi otomatis dan koleksi media YouTube yang luas menjadikan kami sebagai kontributor hash yang besar bagi database hash yang digunakan bersama. Sesuai dengan kriteria berbagi yang ditetapkan oleh Global Internet Forum to Counter Terrorism, YouTube telah berkontribusi membagikan 45.000 hash unik ke database hash yang digunakan bersama pada tahun 2023.

Setelah konten di-hash, platform lain dapat menggunakan hash tersebut untuk membantu mendeteksi konten terkait di platform mereka dan menilainya berdasarkan kebijakan konten masing-masing. Sejak tahun 2017, jumlah perusahaan yang berkontribusi ke dan mendapatkan manfaat dari database ini telah bertambah dari 4 menjadi 13. Upaya terorganisasi ini sekarang secara resmi dioperasikan oleh Global Internet Forum to Counter Terrorism (GIFCT).

Global Internet Forum to Counter Terrorism: Ekstremisme Kekerasan

Pada tahun 2017, YouTube, Facebook, Microsoft, dan Twitter mendirikan Global Internet Forum to Counter Terrorism (GIFCT) sebagai grup perusahaan, yang didedikasikan untuk melawan penyalahgunaan platform digital anggota oleh teroris. Meskipun perusahaan kami telah berbagi praktik terbaik terkait kontraterorisme selama beberapa tahun, GIFCT memberikan struktur yang lebih formal untuk mempercepat dan memperkuat upaya ini dan menghadirkan barisan yang bersatu melawan penyebaran online konten teroris. Melalui kerja sama dengan inisiatif Tech Against Terrorism, GIFCT menyelenggarakan workshop global, yang melibatkan berbagai perusahaan teknologi, organisasi non-pemerintah, dan lembaga pemerintah internasional.

Dengan beragam partner industri dan anggota yang menggunakan database hash yang digunakan bersama, konsensus dasar diperlukan guna mengatur konten ekstremis dan konten teroris untuk tujuan meninjau dan membagikan hash konten. Sebagaimana tercantum dalam Laporan Transparansi Tahunan GIFCT tahun 2021, “cakupan asli database hash yang digunakan bersama hanya terbatas untuk konten yang terkait dengan organisasi yang tercantum dalam United Nations Security Council's Consolidated Sanctions List.”

YouTube dan anggota pendiri GIFCT lain bersepakat dalam Seruan Christchurch untuk Menghilangkan Konten Ekstremis Kekerasan dan Teroris di Internet (Christchurch Call to Eliminate Terrorist and Violent Extremist Content Online). Dalam upaya Seruan Christchurch, GIFCT mengembangkan Protokol Insiden Konten (Content Incident Protocol/CIP) baru untuk perusahaan anggota GIFCT guna merespons secara efisien konten live stream buatan pelaku yang menampilkan kejadian kekerasan nyata. Protokol ini telah diuji dan terbukti efektif—misalnya, setelah terjadi serangan terhadap sebuah sinagoge di Halle, Jerman (Oktober 2019); penembakan di Glendale, Arizona, Amerika Serikat (Mei 2020); penembakan di Buffalo, New York, Amerika Serikat (Juni 2022); dan penembakan di Memphis, Tennessee, Amerika Serikat (September 2022). Sejak membuat CIP, GIFCT telah mengembangkan lebih lanjut Framework Respons Insiden (Incident Response Framework) miliknya untuk menyertakan suatu tingkat Insiden Konten (Content Incident) guna merespons gambar dan video non-live stream buatan pelaku yang menampilkan kejadian nyata. Tingkat Insiden Konten ini diaktifkan pertama kali setelah terjadi serangan di Udaipur, Rajasthan, India (Juli 2022).

GIFCT telah berevolusi menjadi organisasi mandiri yang beranggotakan Executive Director dan staf independen. Struktur organisasi GIFCT juga mencakup Independent Advisory Committee yang beranggotakan perwakilan pemerintah dan anggota non-pemerintah, termasuk grup advokasi, pakar hak asasi manusia, peneliti, dan pakar teknis. Dalam framework pengelolaan baru dari institusi ini, YouTube memegang posisi sebagai Executive Operating Board di GIFCT.

Konten pendidikan, dokumenter, ilmiah, dan artistik: Ekstremisme Kekerasan

Jika pengguna memposting konten yang terkait dengan terorisme untuk tujuan pendidikan, dokumenter, ilmiah, atau artistik, kami mendorong pengguna tersebut agar memberikan informasi yang memadai sehingga penonton memahami konteksnya. Memposting konten kekerasan atau kesadisan yang terutama ditujukan untuk membuat terkejut, mencari sensasi, atau yang tak beralasan adalah hal yang tidak diperkenankan. Jika video mengganggu atau mengandung kekerasan, video tersebut harus diseimbangkan dengan konteks tambahan dan informasi untuk membantu penonton memahami apa yang mereka lihat, misalnya melalui pengantar, komentar pengisi suara, atau overlay teks, serta melalui judul dan deskripsi yang jelas. Memberikan konteks pendidikan atau dokumenter dapat membantu penonton dan peninjau kami memahami alasan konten yang berpotensi mengganggu terkadang tetap ditayangkan di YouTube. Misalnya, jurnalis warga yang merekam video cuplikan pengunjuk rasa yang dipukuli dan menguploadnya dengan informasi yang relevan (tanggal, lokasi, konteks, dll) sepertinya akan diizinkan. Namun, memposting cuplikan yang sama tanpa informasi kontekstual atau penjelasan dapat dianggap tidak beralasan, dan cuplikan tersebut dapat dihapus dari situs. Rekaman kekerasan atau kontroversial dapat tunduk kepada batasan usia atau layar peringatan.

Pelapor Prioritas: Ekstremisme dengan Kekerasan

Di seluruh area kebijakan, kami terus membangun jaringan yang terdiri dari 300 lebih partner pemerintah dan LSM yang menyumbangkan keahliannya yang berharga untuk sistem penegakan kebijakan kami, termasuk melalui program Pelapor Prioritas kami. Peserta program Pelapor Prioritas menerima pelatihan dalam menegakkan Pedoman Komunitas YouTube, dan karena laporan mereka lebih berpotensi ditindak daripada laporan oleh pengguna rata-rata, kami memprioritaskannya untuk ditinjau. Peserta program Pelapor Prioritas memiliki hubungan komunikasi langsung dengan tim Kepercayaan & Keamanan kami demi penyelesaian masalah yang lebih cepat. Konten yang dilaporkan oleh Pelapor Prioritas tunduk kepada kebijakan yang sama dengan konten yang dilaporkan oleh pengguna lain, dan ditinjau oleh tim yang dilatih untuk memutuskan apakah konten tersebut melanggar Pedoman Komunitas kami dan harus dihapus.