เนื้อหาที่ละเมิดนโยบายต่อต้านลัทธิหัวรุนแรงของเรารวมถึงเนื้อหาที่สร้างโดยองค์กรก่อการร้ายต่างชาติที่อยู่ในรายชื่อของรัฐบาล เราไม่อนุญาตให้องค์กรก่อการร้ายใช้ YouTube โดยเด็ดขาดไม่ว่าจะด้วยวัตถุประสงค์ใดก็ตาม ซึ่งรวมถึงการสรรหาสมาชิกใหม่ นอกจากนี้ YouTube ยังไม่อนุญาตเนื้อหาที่โปรโมตการก่อการร้ายโดยเด็ดขาด เช่น เนื้อหาที่ยกย่องการกระทำของผู้ก่อการร้ายหรือส่งเสริมความรุนแรง เราจะยกเว้นเนื้อหาที่แชร์ในบริบทเพื่อการให้ความรู้ การให้ข้อมูลเชิงสารคดี วิทยาศาสตร์ และศิลปะ

เนื้อหาที่สร้างโดยกลุ่มลัทธิหัวรุนแรงต่างชาติที่ไม่ใช่องค์กรก่อการร้ายที่อยู่ในรายชื่อของรัฐบาลมักอยู่ภายใต้นโยบายต่อต้านการโพสต์เนื้อหาแสดงความเกลียดชังหรือรุนแรงหรือสยดสยอง รวมถึงเนื้อหาเพื่อสร้างความตื่นตระหนกหรือความตื่นเต้นเป็นหลัก หรือโพสต์โดยไม่มีจุดประสงค์ที่เหมาะสม ผู้ตรวจสอบจะประเมินเนื้อหาที่ถูกแจ้งว่าไม่เหมาะสมโดยอิงจากหลักเกณฑ์ของชุมชนและนโยบายทั้งหมด ตัวเลขในส่วนนี้อ้างถึงเนื้อหาที่ถูกนำออกเนื่องจากละเมิดนโยบายเกี่ยวกับลัทธิหัวรุนแรงเท่านั้น

การแชร์แฮช: ลัทธิหัวรุนแรง

YouTube ใช้เทคโนโลยีเพื่อป้องกันการอัปโหลดซ้ำของเนื้อหาที่ทราบว่ามีการละเมิด ก่อนที่เนื้อหาดังกล่าวจะเผยแพร่สู่สาธารณะ เราใช้เทคโนโลยีนี้มานานแล้วเพื่อป้องกันการแพร่กระจายของภาพการล่วงละเมิดทางเพศเด็กบนแพลตฟอร์มดังกล่าว ในปี 2016 เราได้สร้างฐานข้อมูลการแชร์แฮชร่วมกับพาร์ทเนอร์ในอุตสาหกรรมเพื่อแชร์แฮช (หรือ "ลายนิ้วมือดิจิทัล") ของเนื้อหาเกี่ยวกับการก่อการร้ายเพื่อหยุดการแพร่กระจายของเนื้อหาดังกล่าว ปัจจุบันฐานข้อมูลที่แชร์มีแฮชที่ไม่ซ้ำกันมากกว่า 400,000 รายการ ซึ่งแฮชเหล่านี้แทบจะเหมือนกันทั้งหมดเมื่อดูด้วยตาเปล่า

คลังสื่อขนาดใหญ่และระบบตรวจจับอัตโนมัติของ YouTube ทำให้เราเป็นผู้ให้แฮชปริมาณมหาศาลแก่ฐานข้อมูลการแชร์แฮช YouTube ได้มอบแฮชที่ไม่ซ้ำกันมากกว่า 45,000 รายการให้แก่ฐานข้อมูลการแชร์แฮชในปี 2023 โดยเป็นไปตามเกณฑ์การแชร์ที่ Global Internet Forum to Counter Terrorism กำหนด

เมื่อเนื้อหาได้รับการแฮชแล้ว แพลตฟอร์มอื่นๆ จะสามารถใช้แฮชเหล่านั้นเพื่อช่วยตรวจหาเนื้อหาที่เกี่ยวข้องในแพลตฟอร์มของตน ตลอดจนประเมินเนื้อหานั้นกับนโยบายเนื้อหาของตน นับตั้งแต่ปี 2017 เป็นต้นมา จำนวนบริษัทที่มีส่วนร่วมในการแชร์และได้รับประโยชน์จากฐานข้อมูลนี้เพิ่มขึ้นจาก 4 รายเป็น 13 ราย ปัจจุบัน Global Internet Forum to Counter Terrorism (GIFCT) ได้ก้าวเข้ามาเป็นผู้บริหารจัดการการดำเนินงานดังกล่าวอย่างเป็นทางการ

Global Internet Forum to Counter Terrorism: ลัทธิหัวรุนแรง

ในปี 2017 YouTube, Facebook, Microsoft และ Twitter ได้ก่อตั้ง Global Internet Forum to Counter Terrorism (GIFCT) ในฐานะกลุ่มบริษัทที่มุ่งมั่นขัดขวางการละเมิดแพลตฟอร์มดิจิทัลของสมาชิกโดยผู้ก่อการร้าย แม้ว่าบริษัทเหล่านี้ได้ใช้แนวทางปฏิบัติที่ดีที่สุดเกี่ยวกับการต่อต้านการก่อการร้ายร่วมกันมาหลายปีแล้ว แต่ GIFCT มีโครงสร้างที่เป็นทางการมากขึ้นในการเร่งกระบวนการและช่วยให้การดำเนินการนี้มีประสิทธิภาพ รวมถึงแสดงให้เห็นความเป็นอันหนึ่งอันเดียวกันในการต่อต้านการเผยแพร่เนื้อหาจากผู้ก่อการร้ายในโลกออนไลน์ GIFCT ร่วมมือกับโครงการริเริ่ม Tech Against Terrorism ในการจัดเวิร์กช็อปทั่วโลก โดยมีบริษัทเทคโนโลยี องค์กรนอกภาครัฐ และหน่วยงานภาครัฐระหว่างประเทศหลายแห่งเข้าร่วม

เนื่องจากมีสมาชิกและพาร์ทเนอร์ในอุตสาหกรรมที่หลากหลายใช้ฐานข้อมูลการแชร์แฮชนี้ จึงต้องมีความเห็นพ้องกันเป็นพื้นฐานว่าเนื้อหาแบบใดถือเป็นเนื้อหาของผู้ก่อการร้ายและลัทธิสุดโต่งเพื่อวัตถุประสงค์ในการตรวจสอบและการแชร์แฮชของเนื้อหา ตามที่ระบุไว้ในรายงานเพื่อความโปร่งใสประจำปี 2021 ของ GIFCT ว่า "ขอบเขตเดิมของฐานข้อมูลการแชร์แฮชจำกัดไว้เฉพาะเนื้อหาที่เกี่ยวข้องกับองค์กรที่อยู่ในรายชื่อรวมของผู้ถูกปฏิเสธโดยคณะมนตรีความมั่นคงแห่งสหประชาชาติ"

YouTube และสมาชิกผู้ร่วมก่อตั้งรายอื่นๆ ของ GIFCT ได้ลงนามในข้อเรียกร้องไครสต์เชิร์ชเพื่อกำจัดเนื้อหาของผู้ก่อการร้ายและกลุ่มสุดโต่งในสื่อออนไลน์ (Christchurch Call to Eliminate Terrorist and Violent Extremist Content Online) จากข้อเรียกร้องไครสต์เชิร์ชนี้ GIFCT ได้จัดทำโปรโตคอลเหตุการณ์เนื้อหา (Content Incident Protocol หรือ CIP) โปรโตคอลใหม่ให้แก่บริษัทสมาชิก GIFCT เพื่อการตอบสนองอย่างมีประสิทธิภาพต่อเนื้อหาไลฟ์สดที่ผู้กระทำผิดสร้างขึ้นหลังเกิดเหตุการณ์โจมตีรุนแรงขึ้นจริง โปรโตคอลนี้ได้รับการทดสอบและพิสูจน์แล้วว่ามีประสิทธิภาพ ดังที่เห็นจากตัวอย่างเหตุการณ์โจมตีโบสถ์ยิวในฮัลเลอ เยอรมนี (ตุลาคม 2019) เหตุกราดยิงในเกลนเดล แอริโซนา สหรัฐอเมริกา (พฤษภาคม 2020) เหตุกราดยิงในบัฟฟาโล นิวยอร์ก สหรัฐอเมริกา (มิถุนายน 2022) และเหตุกราดยิงในเมมฟิส เทนเนสซี สหรัฐอเมริกา (กันยายน 2022) นับตั้งแต่การสร้าง CIP เป็นต้นมา GIFCT ได้พัฒนาเฟรมเวิร์กการตอบสนองต่อเหตุการณ์ (Incident Response Framework) ต่อโดยบรรจุระดับชั้นเหตุการณ์เนื้อหา (Content Incident Tier) ในการตอบสนองต่อวิดีโอและรูปภาพที่แสดงภาพเหตุการณ์จริงที่เกิดขึ้น ซึ่งผู้กระทำผิดสร้างขึ้นและไม่ใช่ไลฟ์สด เฟรมเวิร์กที่ปรับปรุงใหม่นี้มีการใช้งานครั้งแรกหลังเกิดเหตุการณ์โจมตีในอุทัยปุระ รัฐราชสถาน อินเดีย (กรกฎาคม 2022)

GIFCT ได้พัฒนาเป็นบริษัทอิสระที่มีกรรมการบริหารและพนักงานของตัวเอง นอกจากนี้ ในโครงสร้างของ GIFCT ยังมีคณะกรรมการที่ปรึกษาอิสระอันประกอบด้วยตัวแทนจากรัฐบาลและสมาชิกนอกภาครัฐ ซึ่งรวมถึงกลุ่มผู้สนับสนุน ผู้เชี่ยวชาญด้านสิทธิมนุษยชน นักวิจัย และผู้เชี่ยวชาญด้านเทคนิค YouTube ดำรงตำแหน่งในคณะกรรมการบริหารปฏิบัติการของ GIFCT ในกรอบการควบคุมดูแลใหม่นี้

เนื้อหาเพื่อวัตถุประสงค์ด้านการให้ความรู้ การให้ข้อมูลเชิงสารคดี วิทยาศาสตร์ และศิลปะ: ลัทธิหัวรุนแรง

หากผู้ใช้โพสต์เนื้อหาที่เกี่ยวกับการก่อการร้ายเพื่อวัตถุประสงค์ด้านการให้ความรู้ การให้ข้อมูลเชิงสารคดี วิทยาศาสตร์ หรือศิลปะ เราสนับสนุนให้ผู้ใช้มอบข้อมูลที่เพียงพอเพื่อให้ผู้ชมเข้าใจบริบท ผู้ใช้ไม่ควรโพสต์เนื้อหารุนแรงหรือนองเลือดเพื่อสร้างความตื่นตระหนกหรือความเร้าใจเป็นหลัก หรือโพสต์โดยไม่มีจุดประสงค์ที่เหมาะสม หากวิดีโอสร้างความสยดสยองหรือความไม่สบายใจ ก็ควรมีเนื้อหาเพิ่มเติมและข้อมูลประกอบอย่างสมดุลเพื่อช่วยให้ผู้ชมทราบว่ากำลังดูอะไรอยู่ เช่น การใช้บทนำ พากย์เสียงคำบรรยาย หรือแสดงข้อความบนหน้าจอ รวมถึงใช้ชื่อและคำอธิบายที่ชัดเจน การให้บริบทเชิงสารคดีหรือการให้ความรู้จะช่วยให้ผู้ชมและผู้ตรวจสอบทราบสาเหตุที่เนื้อหาซึ่งมีแนวโน้มสร้างความไม่สบายใจบางรายการยังคงเผยแพร่ใน YouTube ได้ เช่น นักข่าวพลเมืองที่บันทึกคลิปวิดีโอขณะผู้ประท้วงกำลังถูกทุบตีและอัปโหลดคลิปนั้นพร้อมให้ข้อมูลที่เกี่ยวข้อง (วันที่ สถานที่ บริบท ฯลฯ) มีแนวโน้มที่จะได้รับอนุญาต แต่การโพสต์คลิปเดียวกันนี้โดยไม่มีข้อมูลแสดงบริบทหรือการให้ความรู้อาจถือเป็นการโพสต์โดยไม่มีจุดประสงค์ที่เหมาะสม และอาจถูกนำออกจากเว็บไซต์ คลิปสยดสยองหรือเป็นที่เป็นประเด็นในสังคมอาจต้องมีการจำกัดอายุหรือแสดงหน้าจอคำเตือน

ผู้เชี่ยวชาญด้านการแจ้งเตือนเนื้อหา: ลัทธิสุดโต่งหัวรุนแรง

เราลงทุนอย่างต่อเนื่องเพื่อสร้างเครือข่ายพาร์ทเนอร์จากฝ่ายรัฐบาลและ NGO กว่า 300 รายที่ช่วยนำความรู้และความเชี่ยวชาญอันมีค่ามาสู่ระบบการบังคับใช้เพื่อให้ครอบคลุมนโยบายด้านต่างๆ ของเรา รวมถึงผ่านทางโครงการผู้เชี่ยวชาญด้านการแจ้งเตือนเนื้อหาด้วย ผู้เข้าร่วมโครงการผู้เชี่ยวชาญด้านการแจ้งเตือนเนื้อหาได้รับการฝึกอบรมด้านการบังคับใช้หลักเกณฑ์ของชุมชน YouTube และเราจะตรวจสอบการรายงานปัญหาจากผู้เข้าร่วมก่อนเนื่องจากมีอัตราการดำเนินการสูงกว่าการรายงานปัญหาของผู้ใช้ทั่วไป ผู้เข้าร่วมโครงการผู้เชี่ยวชาญด้านการแจ้งเตือนเนื้อหาสามารถสื่อสารกับทีมความน่าเชื่อถือและความปลอดภัยได้โดยตรงเพื่อการแก้ปัญหาที่รวดเร็วยิ่งขึ้น เนื้อหาที่ผู้เชี่ยวชาญด้านการแจ้งเตือนเนื้อหารายงานเข้ามาจะอยู่ภายใต้นโยบายเดียวกับเนื้อหาที่ผู้ใช้รายอื่นๆ รายงานเข้ามา และได้รับการตรวจสอบโดยทีมที่ผ่านการฝึกอบรมให้ตัดสินว่าเนื้อหาละเมิดหลักเกณฑ์ของชุมชนและควรถูกนำออกหรือไม่