Nội dung vi phạm chính sách chống bạo lực cực đoan của chúng tôi bao gồm tài liệu được tạo bởi các tổ chức có tên trong danh sách khủng bố nước ngoài của chính phủ. Chúng tôi không cho phép tổ chức khủng bố sử dụng YouTube cho bất cứ mục đích nào, kể cả việc chiêu mộ thành viên. YouTube cũng nghiêm cấm nội dung quảng bá chủ nghĩa khủng bố, chẳng hạn như nội dung ca ngợi hành động khủng bố hoặc kích động bạo lực. Chúng tôi cho phép những nội dung chia sẻ trong bối cảnh giáo dục, tư liệu, khoa học hoặc nghệ thuật.

Nội dung được tạo bởi các nhóm bạo lực cực đoan không thuộc những tổ chức có tên trong danh sách khủng bố nước ngoài của chính phủ thường là đối tượng mà chính sách chống đăng nội dung thù địch, bạo lực hoặc phản cảm của chúng tôi hướng tới, bao gồm nội dung có mục đích chủ yếu là gây sốc, giật gân hoặc vô cớ. Người đánh giá sẽ đánh giá nội dung bị gắn cờ theo tất cả chính sách và Nguyên tắc cộng đồng của chúng tôi. Trong phần này, chúng tôi chỉ cung cấp số liệu về nội dung bị xóa theo chính sách chống bạo lực cực đoan của mình.

Công nghệ chia sẻ hàm băm: Chủ nghĩa cực đoan bạo lực

YouTube sử dụng công nghệ để ngăn chặn hoạt động tải lên lại những nội dung từng được xác định là vi phạm trước khi nội dung đó được cung cấp công khai. Từ lâu, chúng tôi đã sử dụng công nghệ này để ngăn chặn hành vi phát tán hình ảnh xâm hại tình dục trẻ em trên nền tảng của mình. Năm 2016, chúng tôi tạo ra một cơ sở dữ liệu chia sẻ giá trị băm với các đối tác trong ngành. Trong đó, chúng tôi chia sẻ giá trị băm (hay “vân tay số”) về nội dung khủng bố để ngăn chặn hành vi phát tán nội dung đó. Cơ sở dữ liệu dùng chung này hiện chứa hơn Undefined parameter - formatNumber giá trị băm riêng biệt gần như tương đồng với mắt người.

Thư viện nội dung đa phương tiện khổng lồ của YouTube và các hệ thống phát hiện tự động giúp chúng tôi đóng góp lượng lớn giá trị băm cho cơ sở dữ liệu chia sẻ giá trị băm nói trên. Theo tiêu chí chia sẻ do Diễn đàn Internet toàn cầu chống lại chủ nghĩa khủng bố (GIFCT) đưa ra, YouTube đã đóng góp hơn 45.000 giá trị băm riêng biệt vào cơ sở dữ liệu chia sẻ giá trị băm này trong năm 2023.

Sau khi nội dung được băm, các nền tảng khác có thể dùng những hàm băm đó để giúp phát hiện nội dung liên quan trên nền tảng của họ, rồi đánh giá nội dung đó theo chính sách nội dung của riêng họ. Từ năm 2017, số lượng công ty đóng góp và hưởng lợi nhờ cơ sở dữ liệu này đã tăng từ 4 lên 13 công ty. Nỗ lực có tổ chức này nay do Diễn đàn Internet toàn cầu chống lại chủ nghĩa khủng bố (GIFCT) chính thức vận hành.

Diễn đàn Internet toàn cầu chống lại chủ nghĩa khủng bố: Chủ nghĩa cực đoan bạo lực

Năm 2017, YouTube, Facebook, Microsoft và Twitter lập ra Diễn đàn Internet toàn cầu chống lại chủ nghĩa khủng bố (GIFCT) với tư cách một nhóm công ty chuyên ngăn chặn kẻ khủng bố lợi dụng nền tảng kỹ thuật số của các thành viên. Nhiều năm qua, những công ty này vẫn luôn chia sẻ các phương pháp chống khủng bố hay nhất. Tuy vậy, GIFCT tạo ra được một cơ chế chính thức hơn để đẩy nhanh và củng cố nỗ lực này, đồng thời đại diện cho một tuyến đầu thống nhất chống lại hành vi phát tán nội dung khủng bố trên mạng. Bên cạnh sáng kiến Công nghệ chống khủng bố, GIFCT còn tổ chức các hội thảo ở quy mô toàn cầu, hợp tác với nhiều công ty công nghệ, tổ chức phi chính phủ và cơ quan chính phủ quốc tế.

Hiện tại, có nhiều thành viên và đối tác trong ngành đang sử dụng cơ sở dữ liệu chia sẻ giá trị băm nói trên. Do đó, đối với hoạt động xem xét và chia sẻ giá trị băm, cần có sự đồng thuận cơ bản về những yếu tố cấu thành nội dung khủng bố và cực đoan. Theo trình bày trong Báo cáo minh bạch thường niên năm 2021 của GIFCT, “phạm vi ban đầu của cơ sở dữ liệu chia sẻ giá trị băm chỉ giới hạn ở nội dung liên quan đến những tổ chức trong Danh sách trừng phạt tổng hợp của Hội đồng bảo an Liên Hợp Quốc”.

YouTube và các thành viên sáng lập khác của GIFCT đã ký thoả thuận Lời kêu gọi Christchurch (Christchurch Call) để loại bỏ nội dung khủng bố và bạo lực cực đoan trên mạng. Dựa trên Lời kêu gọi Christchurch, GIFCT phát triển một Giao thức mới về sự cố nội dung (CIP) cho các công ty thành viên của GIFCT để ứng phó hiệu quả trước nội dung phát trực tiếp do thủ phạm tạo ra sau một sự kiện bạo lực ngoài đời thực. Giao thức này đã được thử nghiệm và chứng minh hiệu quả, ví dụ như sau cuộc tấn công vào một giáo đường Do Thái ở Halle, Đức (tháng 10 năm 2019); một vụ xả súng ở Glendale, Arizona, Hoa Kỳ (tháng 5 năm 2020); một vụ xả súng ở Buffalo, New York, Hoa Kỳ (tháng 6 năm 2022); và một vụ xả súng ở Memphis, Tennessee, Hoa Kỳ (tháng 9 năm 2022). Kể từ khi tạo ra CIP, GIFCT đã đẩy mạnh phát triển Cơ chế ứng phó sự cố hơn nữa để có cả bậc Sự cố nội dung, nhằm ứng phó với hình ảnh và video không thuộc dạng phát trực tiếp do thủ phạm tạo ra nhưng cũng mô tả sự kiện ngoài đời thực. Cơ chế này lần đầu được kích hoạt sau một cuộc tấn công ở Udaipur, Rajasthan, Ấn Độ (tháng 7 năm 2022).

GIFCT đã phát triển thành một tổ chức độc lập có các nhân viên và Giám đốc điều hành độc lập. Trong cơ cấu của GIFCT cũng có một Uỷ ban cố vấn độc lập, trong đó có các đại diện của chính phủ và các thành viên không phải chính phủ, bao gồm cả các nhóm vận động, chuyên gia nhân quyền, nhà nghiên cứu và chuyên gia kỹ thuật. Trong cơ chế quản trị mới của tổ chức này, YouTube là thành viên Ban điều hành của GIFCT.

Nội dung có tính giáo dục, tư liệu, khoa học và nghệ thuật: Chủ nghĩa cực đoan bạo lực

Nếu đăng nội dung liên quan đến khủng bố cho mục đích giáo dục, tư liệu, khoa học hoặc nghệ thuật, người dùng nên chú ý cung cấp đầy đủ thông tin để người xem hiểu rõ ngữ cảnh. Người dùng không được phép đăng nội dung bạo lực hoặc đẫm máu chủ yếu nhằm mục đích gây sốc, giật gân hoặc vô cớ. Nếu một video đặc biệt phản cảm hoặc gây phiền toái thì video đó phải có thêm ngữ cảnh và thông tin để giúp người xem hiểu rõ những gì họ đang xem, chẳng hạn như thông qua phần giới thiệu, bình luận thuyết minh hoặc lớp phủ văn bản cũng như thông qua tiêu đề và thông tin mô tả rõ ràng. Cung cấp ngữ cảnh tư liệu hoặc giáo dục có thể giúp người xem và người đánh giá của chúng tôi hiểu rõ tại sao nội dung có thể gây phiền toái đôi khi vẫn hiển thị trên YouTube. Ví dụ: nhà báo công dân thường được phép quay cảnh người biểu tình bị đánh đập và tải video đó lên cùng với thông tin liên quan (ngày, địa điểm, ngữ cảnh, v.v). Tuy nhiên, việc đăng chính cảnh quay đó mà không có thông tin ngữ cảnh hoặc giáo dục có thể bị coi là vô cớ và có thể bị xóa khỏi trang web. Đoạn phim phản cảm hoặc gây tranh cãi có thể bị giới hạn độ tuổi hoặc có khuyến cáo trên màn hình.

Người gắn cờ ưu tiên: Chủ nghĩa cực đoan bạo lực

Trên khắp các lĩnh vực chính sách của mình, chúng tôi không ngừng đầu tư vào mạng lưới gồm hơn 300 đối tác thuộc chính phủ và tổ chức phi chính phủ. Họ là những đối tác đóng góp kiến thức chuyên môn quý giá cho các hệ thống thực thi của chúng tôi, trong đó có chương trình Người gắn cờ ưu tiên. Những người tham gia chương trình Người gắn cờ ưu tiên sẽ được đào tạo về cách thực thi các Nguyên tắc cộng đồng của YouTube. Chúng tôi ưu tiên xem xét trường hợp mà Người gắn cờ ưu tiên báo cáo vì có độ chính xác cao hơn so với người dùng thông thường. Để giải quyết vấn đề nhanh hơn, những người tham gia chương trình Người gắn cờ ưu tiên có một kênh liên lạc trực tiếp với Nhóm phụ trách vấn đề Tin cậy và An toàn của chúng tôi. Nội dung do Người gắn cờ ưu tiên gắn cờ cũng phải tuân thủ những chính sách tương tự như nội dung do người dùng khác gắn cờ. Các nhóm đánh giá đã qua đào tạo của chúng tôi sẽ xem xét để quyết định xem nội dung bị gắn cờ có vi phạm Nguyên tắc cộng đồng hay không và có cần gỡ bỏ hay không.