Luật thực thi mạng của Đức (NetzDG) yêu cầu các mạng xã hội có hơn 2 triệu người dùng đã đăng ký ở Đức phải thực hiện việc gỡ bỏ trong nước đối với nội dung "rõ ràng là bất hợp pháp" (ví dụ: video hoặc bình luận) trong vòng 24 giờ từ khi có đơn khiếu nại về nội dung bất hợp pháp theo NetzDG (sau đây gọi tắt là "đơn khiếu nại" hoặc "đơn khiếu nại theo NetzDG"). Trong trường hợp khó xác định rõ nội dung có hợp pháp hay không, thường thì nhà cung cấp sẽ có tối đa 7 ngày để quyết định về trường hợp đó. Trong trường hợp ngoại lệ, quá trình này có thể diễn ra lâu hơn, chẳng hạn như nếu người dùng đã tải nội dung lên (người dùng có video hoặc bình luận được lưu trữ trên YouTube hay còn gọi là người tải lên) được yêu cầu cho biết ý kiến, hoặc nếu quyết định được chuyển lên một cơ quan liên ngành được chứng nhận là tổ chức tự quản lý theo luật định. Để đủ điều kiện gỡ bỏ theo NetzDG, nội dung phải thuộc một trong 22 quy chế hình sự của Bộ luật Hình sự Đức (StGB) mà NetzDG dẫn chiếu đến (Điều § 1 (3) của NetzDG). Chúng tôi xem xét mọi đơn khiếu nại theo NetzDG dựa trên danh sách tội hình sự có trong Điều § 1 (3) của NetzDG. Nếu nhận thấy nội dung đó là bất hợp pháp theo Điều § 1 (3) của NetzDG, chúng tôi sẽ hạn chế nội dung đó tại quốc gia sở tại. Nếu nội dung đó rõ ràng là vi phạm Nguyên tắc cộng đồng của YouTube mà chúng tôi áp dụng trên toàn cầu thì chúng tôi sẽ gỡ bỏ nội dung đó trên toàn thế giới.

Đạo luật Chống chủ nghĩa cực đoan cánh hữu và tội phạm thù ghét đã mở rộng danh sách tội hình sự quy định tại Điều § 1 (3) của NetzDG. Ví dụ: tội gây rối trật tự công cộng bằng cách đe doạ phạm tội (Điều § 126) và tội tặng thưởng và ủng hộ hành vi phạm tội (Điều § 140) đã được sửa đổi và nay bao gồm cả tội gây tổn hại nguy hiểm đến thân thể (Điều § 224). Ngoài ra, vào ngày 1 tháng 1 năm 2022, Điều §189 của StGB (xúc phạm người đã khuất) được bổ sung vào danh sách tội hình sự nêu trong NetzDG. Những nội dung mở rộng và bổ sung này tạo ra thêm các điều khoản pháp lý không rõ ràng cho quy trình kiểm tra, đồng thời làm tăng nguy cơ đưa ra quyết định không chính xác.

NetzDG cũng yêu cầu các mạng xã hội tạo và đăng báo cáo về quá trình xử lý các đơn kiện như vậy (báo cáo minh bạch) 6 tháng một lần. Chúng tôi tuân thủ nghĩa vụ này thông qua việc đăng báo cáo này. Chúng tôi cập nhật báo cáo này cho các kỳ báo cáo từ tháng 1 đến tháng 6 và từ tháng 7 đến tháng 12 hàng năm. Báo cáo mặc định có sẵn tại đây đề cập đến kỳ báo cáo vừa qua. Tuy nhiên, người dùng cũng có thể xem dữ liệu của các kỳ báo cáo trước đó. Ngoài ra, người dùng có thể tải phiên bản hiện tại của báo cáo này xuống ở cuối báo cáo.

Hiện nay, cứ mỗi phút lại có hơn 500 giờ video được tải lên YouTube, khiến nền tảng này trở thành một trong những bộ sưu tập trực tuyến sống động lớn nhất từ trước đến nay về văn hoá nhân loại được tập hợp tại một nơi: một cộng đồng nơi mọi người trên khắp thế giới đều có thể sáng tạo và chia sẻ ý tưởng cũng như quan điểm. YouTube cần đảm bảo người dùng tuân thủ các quy tắc đặt ra để bảo vệ và duy trì toàn bộ cộng đồng này. Nguyên tắc cộng đồng của chúng tôi nghiêm cấm một số loại danh mục nội dung, trong đó có nội dung khiêu dâm, nội dung rác, lời nói hận thù, nội dung quấy rối và nội dung kích động bạo lực. Nếu nội dung nào đó vi phạm nguyên tắc cộng đồng của chúng tôi, chúng tôi sẽ gỡ bỏ hoặc hạn chế quyền truy cập vào nội dung đó trên toàn cầu. Thông qua cơ chế "con người + máy móc", YouTube đã đạt được bước tiến đáng kể trong việc thực thi các nguyên tắc của chúng tôi. Để tìm hiểu thêm, vui lòng truy cập Báo cáo về việc thực thi Nguyên tắc cộng đồng của YouTube.

Chúng tôi tuân thủ luật pháp của Đức cũng như các luật địa phương khác. Khi nhận được đơn khiếu nại yêu cầu gỡ bỏ nội dung được cho là bất hợp pháp, chúng tôi sẽ xem xét kỹ lưỡng đơn khiếu nại đó. Nếu có nội dung vi phạm luật địa phương, thì chúng tôi sẽ chặn nội dung mà chúng tôi xác định là bất hợp pháp ở địa phương đó. Chúng tôi cũng làm như vậy đối với mọi yêu cầu pháp lý khác về việc gỡ bỏ nội dung. Như chúng tôi nêu chi tiết trong báo cáo này, việc quyết định xem nội dung có bất hợp pháp hay không theo luật địa phương có thể là một trong nhiều quyết định đánh giá pháp lý khó khăn mà nhân viên đánh giá của YouTube phải đưa ra.

Nỗ lực của YouTube trong việc xây dựng một cộng đồng trực tuyến gắn kết trên toàn cầu không thể thành công nếu không có sự nỗ lực của một nhóm liên chức năng, trong đó có cả các chuyên gia về chính sách, luật sư, kỹ sư, nhà quản lý sản phẩm, nhân viên phân tích dữ liệu, nhân viên đánh giá nội dung, nhân viên phân tích hoạt động điều hành, nhân viên phân tích rủi ro mới nổi, v.v. Ngoài ra, những thông tin chúng tôi nhận được qua cộng đồng người dùng, tổ chức phi chính phủ, chính phủ và đối tác trong ngành trên toàn cầu (bao gồm cả các công ty công nghệ khác) cũng đóng vai trò quan trọng trong việc xây dựng YouTube thành một nền tảng hữu ích cho người dùng cũng như cho các nhà sáng tạo trên toàn thế giới.

Dữ liệu này chỉ tính đến các đơn khiếu nại liên quan đến nội dung bị cáo buộc là phạm pháp theo định nghĩa tại mục 1 khoản 3 của NetzDG chứ không tính đến các đơn khiếu nại nhận được qua những kênh báo cáo (rõ ràng không dẫn tới quá trình đánh giá theo NetzDG).

Thuật ngữ "đơn khiếu nại" dùng để chỉ từng mục đơn lẻ trong Báo cáo minh bạch này. Nếu có nhiều mục (ví dụ: nhiều video hay bình luận) trong một đơn khiếu nại theo NetzDG thì chúng tôi sẽ tính mỗi mục là một đơn khiếu nại. Chẳng hạn, nếu chúng tôi nhận được một đơn khiếu nại theo NetzDG về 3 video riêng biệt thì chúng tôi sẽ coi đó là 3 đơn khiếu nại, mỗi đơn khiếu nại tương ứng với một mục bị báo cáo. Vì vậy, chúng tôi tính mỗi đơn khiếu nại cho một video/bình luận là một mục riêng trong báo cáo này. Những biểu đồ dưới đây cho thấy các mục bị báo cáo, trong đó cung cấp dữ liệu về số lượng đơn khiếu nại phát sinh liên quan đến những mục này trong kỳ báo cáo 6 tháng.

Biểu đồ bên dưới cho thấy số lượng mục đã bị gỡ bỏ hoặc chặn dựa trên đơn khiếu nại theo NetzDG trong kỳ báo cáo.

NetzDG cho phép các mạng xã hội liên hệ với người tải lên khi bản tuyên bố về sự kiện còn gây tranh cãi hoặc có các tình huống thực tế liên quan khác. Tuy vậy, để nhận được câu trả lời hợp lý của người tải lên thì cũng cần có đơn khiếu nại chi tiết và có căn cứ của người gửi về lý do họ cho rằng tuyên bố hữu quan là sai sự thật. Do phần lớn đơn khiếu nại pháp lý dựa trên NetzDG đều thiếu căn cứ (ngay cả sau khi YouTube đề nghị rõ việc cung cấp thêm thông tin) nên chúng tôi không có đủ cơ sở để liên hệ với người tải lên trong những trường hợp như vậy.

Luật hình sự có các trường hợp phức tạp đòi hỏi phải có kiến thức chuyên sâu cụ thể về pháp lý. Trong những trường hợp này, chúng tôi có thể tham khảo ý kiến tư vấn từ một tổ chức bên ngoài, chẳng hạn như từ luật sư bên ngoài hoặc một trong các tổ chức tự quản lý có chuyên môn về các vấn đề liên quan đến NetzDG.

Chúng tôi xem xét tất cả đơn khiếu nại theo NetzDG về nội dung bất hợp pháp theo NetzDG để xác định xem nội dung bị báo cáo có vi phạm tội hình sự nào nêu trong NetzDG (Điều 1 (3) của NetzDG) hay không.

Các biểu đồ trong phần này cho thấy tổng số mục mà chúng tôi đã gỡ bỏ hoặc chặn và được xác định là bất hợp pháp theo một trong các tội hình sự nêu trong NetzDG trong kỳ báo cáo và phân theo thời gian giải quyết. Thời gian giải quyết là khoảng thời gian kể từ khi nhận được đơn khiếu nại cho đến khi gỡ bỏ hoặc chặn mục bị báo cáo vi phạm.

Thường thì các cơ quan chính phủ, toà án và đương sự trong tố tụng dân sự sẽ yêu cầu các công ty công nghệ và truyền thông chuyển giao dữ liệu người dùng. Trong báo cáo này, chúng tôi công bố thông tin về số lượng và loại yêu cầu mà chúng tôi nhận được qua các cơ quan chính phủ.

YouTube tìm cách cân bằng và bảo vệ “Tứ tự do”: tự do thể hiện, tự do về thông tin, tự do về cơ hội và tự do chọn nơi thuộc về. Việc thực thi nguyên tắc cộng đồng của chúng tôi và/hoặc luật pháp là một phần trong nỗ lực cân bằng các quyền tự do này và duy trì cộng đồng YouTube. Không hề dễ dàng để đạt được sự cân bằng này, đặc biệt là đối với một nền tảng toàn cầu hoạt động ở những bối cảnh xã hội có đa dạng tiêu chuẩn ngôn luận.

Cơ chế gửi đơn kiện về nội dung được cho là bất hợp pháp theo NetzDG

Đối với người dùng tại Đức, YouTube cung cấp một quy trình báo cáo trong sản phẩm. Quy trình này dễ nhận biết, truy cập được trực tiếp và luôn sẵn có ngay trong sản phẩm để gửi đơn khiếu nại theo NetzDG. Quy trình gửi đơn khiếu nại pháp lý theo NetzDG dành cho người dùng đã đăng nhập hiện tích hợp với quy trình gắn cờ mà người dùng có thể truy cập ở bên dưới mỗi video và bên cạnh mỗi bình luận (3 dấu chấm). Người gửi cần nhấp vào hộp đánh dấu: "Tôi cho rằng cần phải hạn chế nội dung này theo Đạo luật thực thi mạng của Đức (NetzDG)" trong quy trình gắn cờ. Tiếp đó, một biểu mẫu pháp lý ngắn trên web sẽ được mở ra để người gửi bổ sung thông tin chi tiết.

YouTube cũng cung cấp một biểu mẫu pháp lý về NetzDG trên web cho cả người dùng đăng nhập và người dùng không đăng nhập, thông qua đường liên kết đến đơn khiếu nại theo NetzDG trong trình đơn chính trên YouTube và qua trang liên hệ của YouTube dành cho tất cả người dùng ở Đức.

Do không có chuyên môn về pháp lý, khả năng cao là người dùng thông thường sẽ bị choáng ngợp trước một danh mục hoàn chỉnh về các hành vi phạm pháp phức tạp hoặc thậm chí cảm thấy không còn muốn báo cáo vi phạm nữa. Người dùng thông thường khó có thể hiểu và trích dẫn được các quy chế có liên quan của StGB khi gửi một đơn khiếu nại pháp lý theo NetzDG. Hơn nữa, một số nội dung được báo cáo có thể phạm nhiều tội có trong danh sách. Ví dụ: một video cố gắng chiêu mộ thành viên/người ủng hộ mới cho một tổ chức tội phạm hoặc khủng bố (Điều § 129, 129a của StGB) thường cũng sẽ chứa đựng những biểu tượng (chẳng hạn như lá cờ) có thể bị phạt theo các Điều § 86, 86a của StGB. Cũng có thể video đó cấu thành cả tội chuẩn bị hành vi bạo lực nghiêm trọng đe doạ đến nhà nước theo Điều § 89a của StGB. Vốn đã được nhấn mạnh trong các báo cáo trước, những lo ngại này nay càng tăng lên đáng kể do các thay đổi trong Đạo luật chống chủ nghĩa cực đoan cánh hữu và tội phạm thù ghét. Chẳng hạn, theo định nghĩa tại Điều § 241 của Bộ luật Hình sự, hành vi đe doạ cũng có thể được thực hiện "thông qua bên thứ ba" nếu việc công bố thông tin cho người nhận nằm trong ý đồ của thủ phạm. Theo đó, hai tội hình sự là đe doạ (Điều § 126 của StGB) và uy hiếp (Điều § 241 của StGB) không có định nghĩa hay giới hạn rõ ràng, đặc biệt là khi loại nội dung này được phát hành trên mạng xã hội.

Vì vậy, để đơn giản hoá quy trình thông báo và hỗ trợ mọi người báo cáo nội dung mà họ cho là bất hợp pháp theo NetzDG, chúng tôi đã tạo 7 danh mục nội dung trong quy trình báo cáo theo NetzDG. Những danh mục này được phân loại một cách tương đối dễ hiểu, đồng thời phản ánh và tương ứng với 22 tội hình sự liên quan. Phương pháp này cũng giúp cụ thể hoá các hành vi phạm tội mang tính trừu tượng cao và có phạm vi rất rộng (đặc biệt dành cho những người không có chuyên môn về pháp lý). Ví dụ: Điều § 140 của StGB xử phạt việc tặng thưởng hoặc ủng hộ những hành vi phạm tội như phản quốc, giết người và những loại tội phạm nghiêm trọng khác như tội phạm chiến tranh, (thấp nhất là) tội phạm gây tổn hại nghiêm trọng tới sức khoẻ, một số tội phạm gây nguy hiểm cho cộng đồng, cũng như một số tội phạm tình dục nghiêm trọng, v.v. Kinh nghiệm của chúng tôi trong việc xây dựng quy trình thông báo nội dung cho thấy rằng người dùng đánh giá cao những phương pháp thiết thực và đơn giản để báo cáo nội dung bất hợp pháp một cách hiệu quả. Danh mục tại Điều §126 của Bộ luật Hình sự được dẫn chiếu tại Điều § 140 của Bộ luật Hình sự cũng đã được mở rộng. Hơn nữa, đối với hành vi ủng hộ nêu tại Điều § 140 của Bộ luật Hình sự, hành vi này không còn nhất thiết phải diễn ra rồi hay ít nhất là thủ phạm đã cố gắng thực hiện hành vi này ở mức có thể cấu thành tội phạm. Phương pháp dẫn chiếu đến danh mục tội phạm và cách đánh giá lồng ghép cho các tội này khiến những người không có chuyên môn pháp lý cảm thấy khó hiểu hơn bao giờ hết vì các hành vi đe doạ này có bản chất là nhắm đến tương lai. Vì thế, phương pháp đơn giản và thiết thực mà lâu nay chúng tôi vẫn áp dụng có khả năng sẽ tiếp tục giúp các mục tiêu của NetzDG được cân nhắc theo cách hiệu quả nhất có thể.

Sau đây là những danh mục và tội hình sự tương ứng được đề cập tại Điều § 1 (3) của NetzDG mà chúng tôi dự kiến sẽ chủ yếu được áp dụng và báo cáo bằng cách lựa chọn trong số đó:

Lời nói căm thù hoặc chủ nghĩa chính trị cực đoan

• § 130 StGB: Kích động thù địch
• § 166 StGB: Phỉ báng các hiệp hội tín ngưỡng, tôn giáo và hệ tư tưởng

Nội dung khủng bố hoặc trái pháp luật

• § 86 StGB: Phát tán tài liệu tuyên truyền của các tổ chức phi pháp
• § 86a StGB: Sử dụng biểu tượng của các tổ chức phi pháp
• Điều § 89a của StGB: Chuẩn bị cho một hành vi bạo lực nghiêm trọng đe doạ đến nhà nước
• Điều § 91 của StGB: Khuyến khích thực hiện hành vi bạo lực nghiêm trọng đe doạ đến nhà nước
• § 100a StGB: Giả mạo để lừa đảo
• Điều § 129 của StGB: Thành lập các tổ chức tội phạm
• § 129a StGB: Thành lập các tổ chức khủng bố
• § 129b StGB: Các tổ chức tội phạm và khủng bố ở nước ngoài; tịch thu và sung công mở rộng
• Điều § 140 của StGB liên quan đến điều § 138 (1) của StGB: Trả thưởng và ủng hộ một số hành vi phạm pháp nêu tại Điều § 138 (1) của StGB
• § 269 StGB: Giả mạo dữ liệu nhằm cung cấp bằng chứng

Bạo lực

• § 131 StGB: Phát tán nội dung mô tả hành vi bạo lực

Hành động gây hại hoặc nguy hiểm

• § 111 StGB: Xúi giục công chúng phạm tội
• § 126 StGB: Gây rối trật tự công cộng bằng cách đe dọa thực hiện hành vi phạm pháp
• Điều § 140 của StGB liên quan đến Điều § 126 (1) của StGB: Trả thưởng và ủng hộ các hành vi phạm pháp nêu tại Điều § 126 (1) của StGB
• § 241 StGB: Đe dọa thực hiện trọng tội

Nội dung làm tổn hại hoặc sỉ nhục

• § 185 StGB: Nội dung sỉ nhục
• § 186 StGB: Làm tổn hại
• § 187 StGB: Cố tình làm tổn hại

Quyền riêng tư

• § 201a StGB: Vi phạm quyền riêng tư cá nhân do chụp ảnh

Nội dung khiêu dâm

• Điều § 184b của StGB: Phát tán, mua bán và sở hữu nội dung khiêu dâm trẻ em
• § 140 liên quan đến §§ 176 tới 178: Tặng thưởng và chấp thuận một số hành vi phạm pháp liệt kê trong §§ 176 tới 178

Với bề dày kinh nghiệm gắn cờ nội dung trên toàn cầu, chúng tôi tin chắc rằng các danh mục này sẽ hỗ trợ đắc lực nhất cho mục tiêu pháp lý của tổng thể NetzDG và giúp đạt được mục tiêu này ở mức tối đa.

Tìm hiểu thêmarrow_forward

Phương thức thông báo cho người gửi và người tải lên

Khi chúng tôi nhận được một đơn khiếu nại theo NetzDG qua các quy trình báo cáo theo mô tả trên đây, người gửi sẽ nhận được một email xác nhận kèm theo một mã số tham chiếu cho biết chúng tôi đã nhận được đơn khiếu nại của họ và sẽ xem xét đơn khiếu nại đó.

Sau khi xem xét một đơn khiếu nại theo NetzDG, chúng tôi sẽ gửi cho người gửi một email thông báo về quyết định của chúng tôi theo NetzDG và lý do cho quyết định đó. Thông báo này cũng cung cấp thông tin về việc bạn có thể gửi đơn khiếu nại hình sự cho cơ quan hành pháp và có thể xem thêm thông tin tại đường liên kết này – trang trợ giúp của Bộ Tư pháp và Bảo vệ Người tiêu dùng Liên bang tại hilfe-info.de. Nếu YouTube không làm theo một đơn khiếu nại theo NetzDG liên quan đến một video nào đó, thì thông báo này cũng sẽ cung cấp một đường liên kết để người gửi có thể gửi yêu cầu xem xét lại quyết định đó theo NetzDG.

Nếu buộc phải chặn nội dung vi phạm một trong các tội nêu trong NetzDG để xử lý một đơn khiếu nại theo NetzDG, thì chúng tôi sẽ gửi một thông báo qua email cho người tải lên kèm theo thông tin về việc chặn. Nếu một video bị chặn, thông báo này cũng cung cấp một đường liên kết để người tải lên có thể gửi yêu cầu xem xét lại quyết định theo NetzDG. Nếu một video bị gỡ bỏ do vi phạm nguyên tắc cộng đồng, người tải lên sẽ nhận được thông báo kèm theo đường liên kết để yêu cầu xem xét lại quyết định theo nguyên tắc cộng đồng.

Khi một video bị gỡ bỏ do vi phạm nguyên tắc cộng đồng hoặc bị chặn theo pháp luật sở tại, chúng tôi sẽ đưa ra một thông báo công khai thay cho video đó để cho người dùng biết rằng video đó không còn nữa.

Các phương pháp báo cáo khác

Đơn khiếu nại pháp lý. Như trình bày ở trên, chúng tôi cũng tạo ra những công cụ báo cáo khác để các cá nhân báo cáo nội dung bị cho là vi phạm quy định của NetzDG (đơn khiếu nại theo NetzDG): một biểu mẫu trên web được cung cấp trực tiếp cho tất cả người dùng qua đường liên kết đến đơn khiếu nại theo NetzDG trong trình đơn chính của YouTube, qua trang liên hệ của YouTube hoặc (đối với người dùng đã đăng nhập) bằng cách nhấp vào hộp đánh dấu NetzDG có sẵn trong quy trình gắn cờ tại Đức theo thông tin mô tả ở trên. Những kênh báo cáo này cho phép người dùng xác định mục bị cho là vi phạm và đưa ra lý do gửi đơn khiếu nại pháp lý. Đây là thông tin cần thiết giúp chúng tôi đánh giá một cách thoả đáng cũng như có biện pháp xử lý phù hợp. Nếu lý do không rõ ràng hoặc không có đủ căn cứ để gỡ bỏ nội dung một cách hợp pháp ở quốc gia sở tại, thì có thể chúng tôi sẽ yêu cầu người gửi cung cấp thêm thông tin.

Một quy trình báo cáo vi phạm trực quan và dễ truy cập nằm ngay bên cạnh nội dung sẽ khuyến khích người dùng nhấp vào và báo cáo vi phạm nhiều hơn. Tuy nhiên, việc người dùng báo cáo vi phạm không phải lúc nào cũng đáng tin cậy. Nhiều đơn khiếu nại bị lạc đề hoặc vô căn cứ nên không thể được thực thi. Một số người dùng khác lại gửi đơn khiếu nại mà không đưa ra thông tin về lý do khiến họ cho rằng nội dung đó là bất hợp pháp. Điều này đặc biệt khó giải quyết khi nội dung không rõ ràng là bất hợp pháp.

Ngoài cơ chế gửi đơn khiếu nại theo NetzDG, chúng tôi cũng cung cấp cho người dùng YouTube các biểu mẫu pháp lý trên web (ví dụ: đơn khiếu nại về quyền nhân thân, khiếu nại về bản quyền, khiếu nại về nhãn hiệu, v.v.) từ nhiều năm trước khi có NetzDG. Do đó, quy trình gỡ bỏ theo luật định không phải mới được đưa ra do NetzDG mà chỉ đơn thuần liên kết chặt chẽ hơn các cơ chế báo cáo vi phạm hiện có, bao gồm cả việc gắn cờ nội dung bị cáo buộc là vi phạm nguyên tắc cộng đồng và đơn khiếu nại pháp lý đối với nội dung bị cáo buộc là bất hợp pháp.

Do người gắn cờ. Chúng tôi có một hệ thống gắn cờ cho phép người dùng đã đăng nhập cảnh báo chúng tôi về nội dung có thể vi phạm nguyên tắc cộng đồng. Người dùng có thể truy cập hệ thống gắn cờ này ở bên dưới mỗi video và bên cạnh mỗi bình luận. Người dùng có thể chọn danh mục nội dung tương ứng với lý do báo cáo nội dung đó. Nếu người dùng không chọn hộp đánh dấu NetzDG thì chúng tôi chỉ đánh giá những cờ này dựa trên nguyên tắc cộng đồng của mình. Đây là một hệ thống tự quản lý tự nguyện, không chịu sự ràng buộc của nghĩa vụ pháp lý. Chúng tôi cũng đã xây dựng một chương trình tên là "Người gắn cờ đáng tin cậy" để cung cấp các quy trình thiết thực và công cụ mạnh mẽ giúp báo cáo nhiều nội dung cho những tổ chức đặc biệt hiệu quả trong việc thông báo cho chúng tôi về những nội dung vi phạm Nguyên tắc cộng đồng của chúng tôi. Chúng tôi chỉ đánh giá cờ của Người gắn cờ đáng tin cậy dựa trên nguyên tắc cộng đồng của chúng tôi. Người gắn cờ đáng tin cậy thường là các tổ chức phi chính phủ và cơ quan chính phủ có chuyên môn chuyên ngành cũng như có tỷ lệ chính xác cao, khiến cờ họ gắn trở thành dữ liệu có giá trị cho toàn bộ hệ thống. Thông tin chi tiết về chương trình Người gắn cờ đáng tin cậy có trong Báo cáo về việc thực thi Nguyên tắc cộng đồng của YouTube.

Tự động so khớp bằng máy. Hệ thống thực thi của YouTube khởi động vào thời điểm người dùng tải video lên. YouTube sử dụng công nghệ (bao gồm cả việc sử dụng hàm băm, hay còn gọi là “vân tay số”) để ngăn chặn việc tải lên lại nội dung vi phạm đã được xác định. Hàm băm là những vân tay số riêng biệt dành cho hình ảnh và video. Nhờ có hàm băm, chúng tôi có thể ngăn chặn việc tải lên lại các kết quả khớp chính xác với video đã bị gỡ bỏ do vi phạm nguyên tắc cộng đồng. Đối với một số nội dung như hình ảnh xâm hại tình dục trẻ em (CSAI) và video tuyển mộ khủng bố, YouTube cũng sử dụng cơ sở dữ liệu ngành dùng chung hàm băm để tăng khối lượng nội dung mà các máy của chúng tôi có thể so khớp trong quá trình tải lên.

Tự động gắn cờ bằng máy. Tháng 6 năm 2017, chúng tôi bắt đầu triển khai công nghệ học máy nhằm gắn cờ nội dung bạo lực cực đoan để nhân viên của chúng tôi đánh giá thủ công. YouTube sử dụng tập hợp video đã được xem xét và bị gỡ bỏ vì nội dung bạo lực cực đoan để huấn luyện công nghệ học máy gắn cờ những nội dung mới, có nguy cơ vi phạm nguyên tắc cộng đồng. Việc sử dụng công nghệ học máy được huấn luyện dựa trên các quyết định của con người sẽ giúp các hệ thống thực thi thích nghi và ngày càng chuẩn xác hơn. Nhận thấy những kết quả tích cực này, chúng tôi đã bắt đầu huấn luyện công nghệ học máy trên nhiều lĩnh vực nội dung khó xác định khác, bao gồm cả nội dung liên quan đến sự an toàn của trẻ em và lời nói hận thù. Tuy nhiên, chúng tôi nhận thấy những hệ thống này hoạt động hiệu quả nhất khi có một mục tiêu được xác định rõ ràng là vi phạm trong mọi ngữ cảnh. Đơn giản mà nói, tính năng tự động của máy không thể thay thế khả năng phán đoán tinh tế của con người. Để tìm hiểu thêm, vui lòng truy cập Báo cáo về việc thực thi Nguyên tắc cộng đồng của YouTube.

Quy trình đánh giá

Gắn cờ theo nguyên tắc cộng đồng. Nguyên tắc cộng đồng áp dụng trên toàn cầu của YouTube là các quy tắc rõ ràng, mang tính tổng quan và hiện có tại đây. Trong quá trình YouTube phát triển và hành vi của người dùng thay đổi, các nguyên tắc này cũng đổi mới theo thời gian. Người dùng phải đồng ý tuân thủ các nguyên tắc này trước khi mở một kênh YouTube.

Chúng tôi xem xét các mục đã bị gắn cờ (như trình bày ở trên) dựa trên toàn bộ nguyên tắc cộng đồng của chúng tôi. Nguyên tắc này nghiêm cấm ảnh khoả thân hoặc nội dung tình dục, nội dung gây hại hoặc nguy hiểm, nội dung kích động thù địch, nội dung bạo lực hoặc phản cảm, hành vi quấy rối hoặc bắt nạt qua mạng, hành vi đe doạ và hành vi gây nguy hiểm cho trẻ em.

YouTube đảm bảo việc thực thi nguyên tắc cộng đồng một cách nhất quán thông qua một bộ nguyên tắc diễn giải chi tiết hơn và luôn được cập nhật. Ví dụ: nguyên tắc cộng đồng của chúng tôi nghiêm cấm nội dung cổ xuý chủ nghĩa khủng bố. Nếu một nhóm khủng bố tạo ra một nhánh mới thì nguyên tắc thực thi nội bộ có thể được cập nhật với thông tin về nhóm cụ thể đó để người đánh giá có được hướng dẫn cần thiết trong việc gỡ bỏ nội dung quảng bá nhóm đó. Không phải lúc nào YouTube cũng tiết lộ công khai những loại nội dung cập nhật như vậy vì việc đó có thể sẽ giúp những người dùng thiếu đạo đức dễ dàng tránh bị phát hiện.

Nhóm đánh giá có thể xem ngữ cảnh liên quan trong khi xem xét nội dung được báo cáo, bao gồm cả nội dung mô tả video, nội dung khác được tải lên kênh và siêu dữ liệu (tiêu đề, thẻ hoặc chú thích). Những manh mối về ngữ cảnh này góp phần quan trọng vào việc đánh giá mục đích tải lên. Ngoài ra, công cụ đánh giá của chúng tôi còn ghi lại dấu thời gian khi video được gắn cờ, đồng thời các biểu mẫu web cũng yêu cầu người gửi cung cấp cả dấu thời gian. Qua đó, nhân viên đánh giá của chúng tôi có thể tập trung vào những khoảnh khắc tiềm ẩn vấn đề có trong video.

Chúng tôi có đặt ra các trường hợp ngoại lệ của nguyên tắc cộng đồng đối với nội dung mang tính giáo dục, tài liệu, khoa học và/hoặc nghệ thuật (EDSA). Những video và bình luận thuộc các trường hợp ngoại lệ đó góp phần quan trọng vào việc tìm hiểu thế giới và ghi lại lịch sử, cho dù đó là video cung cấp tư liệu về chiến tranh hay những cuộc cách mạng hoặc màn biểu diễn nghệ thuật có thể chứa hình ảnh khoả thân. Do đó, nguyên tắc thực thi của YouTube hết sức chú trọng đến việc giúp nhân viên đánh giá hiểu rõ các trường hợp ngoại lệ dạng EDSA khi xem xét video bị gắn cờ. Tuy nhiên, ngay cả khi có những nguyên tắc được quy định rõ thì việc xác định video và bình luận có thuộc trường hợp ngoại lệ dạng EDSA hay không có thể là một trong những quyết định khó khăn về thực thi chính sách mà những nhân viên đánh giá của YouTube phải đưa ra.

Nhìn chung, nhóm đánh giá của chúng tôi sẽ gỡ bỏ nội dung trên toàn cầu nếu nội dung đó vi phạm nguyên tắc cộng đồng của chúng tôi. Ngoài ra, nhóm đánh giá cũng có thể áp dụng ít nhất một biện pháp thay thế như:

• Giới hạn về độ tuổi. Một số video không vi phạm chính sách của chúng tôi, nhưng có thể không phù hợp với một số đối tượng. Trong những trường hợp như vậy, nhóm đánh giá của chúng tôi sẽ đặt ra giới hạn về độ tuổi người xem cho video khi được thông báo về nội dung của video đó. Video có giới hạn độ tuổi người xem sẽ không xuất hiện cho những người dùng đã đăng xuất, chưa đủ 18 tuổi hoặc đã bật Chế độ hạn chế. Khi đưa ra quyết định này, chúng tôi sẽ thông báo qua email cho người tải lên rằng video của họ bị giới hạn độ tuổi người xem và họ có thể khiếu nại nếu muốn. Tìm hiểu thêm.
• Giới hạn tính năng. Nếu một video bị nhóm đánh giá xác định là có khả năng vi phạm chính sách của chúng tôi thì có thể chúng tôi sẽ tắt một số tính năng của video đó. Những video này vẫn có trên YouTube nhưng sẽ xuất hiện sau thông báo cảnh báo và bị tắt một số tính năng, bao gồm cả tính năng chia sẻ, bình luận, thích và tính năng đưa vào danh sách video đề xuất. Những video như vậy cũng không đủ điều kiện tham gia vào hoạt động kiếm tiền. Khi đưa ra quyết định này, chúng tôi sẽ thông báo qua email cho người tải lên biết rằng video của họ sẽ bị giới hạn các tính năng và họ có thể khiếu nại quyết định này. Tìm hiểu thêm.
• Khoá ở chế độ riêng tư. Video có thể bị khoá ở chế độ riêng tư nếu được xác định là vi phạm chính sách của chúng tôi về siêu dữ liệu gây hiểu lầm. Khi bị khoá ở chế độ riêng tư, video sẽ không xuất hiện công khai. Kể cả khi có đường liên kết đến video đó thì người xem vẫn không truy cập được. Khi đưa ra quyết định này, chúng tôi sẽ thông báo qua email cho người tải lên biết rằng video của họ không còn ở chế độ công khai nữa và họ có thể khiếu nại quyết định này. Tìm hiểu thêm.

Trong trường hợp người dùng vi phạm nhiều lần hoặc có những hành vi vi phạm nghiêm trọng hơn, có thể chúng tôi sẽ áp dụng hình phạt vô hiệu hoá một số tính năng hoặc chấm dứt tài khoản của người dùng. Trong hầu hết trường hợp, chúng tôi sẽ cảnh cáo người dùng lần đầu vi phạm nguyên tắc cộng đồng của chúng tôi. Sau đó, chúng tôi sẽ áp dụng quy tắc chung là cảnh cáo 3 lần, tức là người dùng vi phạm chính sách 3 lần sẽ bị chấm dứt tài khoản. Tuy nhiên, cũng có thể chúng tôi chấm dứt tài khoản ngay từ lần đầu vi phạm đối với những hành vi nghiêm trọng như khủng bố.

Đơn khiếu nại pháp lý. Khi nhận được yêu cầu pháp lý, nhóm đánh giá của chúng tôi sẽ tiến hành đánh giá pháp lý dựa trên thông tin có trong yêu cầu, bao gồm cả lý do phản đối mà người gửi đưa ra. Ngoài ra, nhóm đánh giá cũng sẽ xem xét ngữ cảnh xoay quanh nội dung bị báo cáo vi phạm (ví dụ: siêu dữ liệu, tiêu đề, v.v.). Nếu một yêu cầu bị thiếu thông tin quan trọng, ví dụ như danh tính của người được nêu trong đơn khiếu nại về hành vi phỉ báng thì nhóm sẽ liên hệ với người gửi để biết thêm thông tin cần thiết cho quá trình đánh giá pháp lý. Nếu nhận thấy nội dung là bất hợp pháp thì chúng tôi sẽ chặn nội dung đó tại quốc gia sở tại.

Đơn khiếu nại theo NetzDG. Theo quy trình đánh giá của chúng tôi, khi chúng tôi nhận được một yêu cầu theo NetzDG, nhóm chuyên trách đánh giá theo NetzDG của chúng tôi (xem mục về Nhóm đánh giá) sẽ xem xét bối cảnh liên quan đến nội dung bị báo cáo, sau đó đánh giá nội dung dựa trên các tội hình sự nêu trong NetzDG. Nếu nội dung rõ ràng vi phạm nguyên tắc cộng đồng của chúng tôi thì nhóm đánh giá theo NetzDG sẽ gỡ bỏ nội dung đó trên toàn cầu. Theo đó, chúng tôi có thể áp dụng hai quyết định cho nội dung bị báo cáo vi phạm theo NetzDG. Nếu chỉ vi phạm nguyên tắc của chúng tôi hoặc vi phạm thêm cả luật của Đức, thì video đó có thể bị gỡ bỏ trên toàn cầu. Nếu một video không vi phạm nguyên tắc nhưng chúng tôi nhận thấy video đó bất hợp pháp theo Điều §1 (3) của NetzDG hoặc theo quy phạm pháp luật khác của địa phương thì video đó sẽ bị chặn ở địa phương đó.

Thường thì đánh giá đơn khiếu nại không phải là việc dễ dàng. Ngay cả với luật sư thì một số tội hình sự cũng rất khó kết tội, chẳng hạn như hành vi giả mạo dữ liệu nhằm cung cấp bằng chứng (Điều § 269 của StGB). Có thể kể đến ví dụ khác như toàn bộ danh mục nội dung phỉ báng và sỉ nhục là một lĩnh vực mà án lệ chuyên sâu đã được thiết lập từ nhiều thập kỷ trước, cụ thể là kể từ khi Hiến pháp của Đức có hiệu lực. Do đó, khi xét đến nội dung phỉ báng và sỉ nhục, chỉ một số ít trường hợp có thể được xem là bất hợp pháp một cách rõ ràng. Đôi khi, các toà án cân nhắc kỹ càng về tính hợp pháp của một nội dung trong nhiều năm nhưng vẫn không thể đi đến kết luận thống nhất. Ví dụ: Toà án Hiến pháp Liên bang đã đảo ngược phán quyết của Toà án Tối cao Liên bang, nhiều lần cho thấy rằng cần phải tiến hành các cuộc kiểm tra cân bằng phức tạp và tính hợp pháp luôn phải dựa vào hoàn cảnh, tuỳ theo các yếu tố của từng vụ việc. Khác với thủ tục tố tụng tại toà án, mạng xã hội không phải lúc nào cũng có mọi thông tin cần thiết. Hơn nữa, không có thủ tục chính nào đòi hỏi phải có các quy tắc về bằng chứng. Trong những trường hợp như vậy, rất khó phân xử xem liệu có chấp nhận được nội dung hay không khi đánh giá theo các yếu tố cụ thể của hành vi phạm pháp và thường thì toà án có thẩm quyền nên là bên đưa ra phán quyết.

Thực tiễn cũng chứng minh những vấn đề cần cân nhắc này: Nhiều đơn khiếu nại theo NetzDG liên quan đến nội dung phỉ báng và sỉ nhục không phải do người bị ảnh hưởng gửi, mà do các bên thứ ba gửi vì cho rằng có thể người bị ảnh hưởng cảm thấy bị phỉ bảng. Do chúng tôi không ở địa vị có thể xác minh danh tính của người gửi nên mạng xã hội không thể biết (1) đơn khiếu nại theo NetzDG do ai gửi hoặc (2) người bị ảnh hưởng có thực sự đã gửi đơn khiếu nại hình sự lên cơ quan thực thi pháp luật tương ứng hay không (do những hành vi phạm pháp này chỉ bị truy tố khi bên thứ nhất (“Antragsdelikt”) gửi đơn khiếu nại).

Nhóm NetzDG của chúng tôi đánh giá các yêu cầu theo NetzDG trong 2 ca làm việc, 7 ngày mỗi tuần, 365 ngày mỗi năm để có thể gỡ bỏ nội dung trên toàn cầu hoặc chặn nội dung ở quốc gia sở tại, tuỳ từng trường hợp trong giới hạn thời gian của NetzDG. Nếu một yêu cầu rõ ràng là vô căn cứ, người yêu cầu sẽ nhận được thông báo ngay lập tức theo các yêu cầu pháp lý (xem phần "Phương thức thông báo cho người gửi và người tải lên theo NetzDG"). Nếu nội dung rõ ràng không vi phạm Nguyên tắc cộng đồng của YouTube hoặc các quy chế hình sự có liên quan, hoặc nội dung đó phức tạp hay không liên quan đến nước Đức một cách rõ ràng thì người chịu trách nhiệm đánh giá nội dung theo NetzDG sẽ báo cáo đơn khiếu nại này lên cấp cao hơn để xem xét ngay lập tức, sau đó, nhân viên đánh giá nội dung cấp cao sẽ áp dụng biện pháp phù hợp. Các yêu cầu phức tạp sẽ được chuyển cho Bộ phận pháp lý của YouTube. Nếu bộ phận này vẫn chưa thể chắc chắn thì có thể báo cáo các trường hợp khó khăn và phức tạp lên các thành viên phòng pháp lý của Google Germany GmbH. Sau đó, những thành viên này có thể lựa chọn báo cáo những trường hợp đặc biệt khó xử lý lên một công ty luật bên ngoài chuyên về luật hình sự. Quá trình này thường mất tối đa 7 ngày.

Để đảm bảo nhóm NetzDG hoạt động theo đúng mục đích đề ra và áp dụng chính xác cũng như nhất quán Nguyên tắc cộng đồng của YouTube và quy chế về tội hình sự theo NetzDG, chúng tôi đã triển khai một quy trình đánh giá chất lượng nghiêm ngặt. Trong kỳ báo cáo này, chúng tôi lấy mẫu trung bình khoảng 30% nội dung đã đánh giá từ tuần trước đó. Khối lượng nội dung cần đánh giá chất lượng có thể thay đổi theo từng tuần tuỳ thuộc vào số lượng đơn khiếu nại nhận được. Trong quá trình này, nhóm đánh giá chất lượng sẽ xem xét quyết định của từng nhân viên đánh giá nội dung, đưa ra ý kiến phản hồi cá nhân và tiến hành phân tích tổng thể các kết quả của quá trình đánh giá chất lượng. Mẫu chất lượng đã chọn là cơ sở để khái quát hoá dữ liệu về chất lượng hằng tuần. Những người đánh giá chất lượng thuộc một nhóm riêng biệt trong đội phụ trách NetzDG và bao gồm cả nhứng thành viên nhóm cấp cao từng làm việc trong lĩnh vực đánh giá nội dung và có nhiều kinh nghiệm liên quan đến Nguyên tắc cộng đồng của YouTube cũng như các quy chế hình sự mà NetzDG đề cập đến. Trong cuộc họp hằng tuần giữa Bộ phận pháp lý của YouTube và nhóm NetzDG, chúng tôi không chỉ thảo luận về các kết quả đánh giá chất lượng gần đây nhất mà còn xem xét các trường hợp đặc biệt thú vị, khó khăn và phức tạp. Ngoài ra, chúng tôi còn nêu lên và thảo luận toàn diện về mọi xu hướng đáng chú ý, “chủ đề nóng” hiện tại và các hoạt động phát triển án lệ để đảm bảo nhóm NetzDG có một phương pháp tiếp cận thống nhất. Khi phù hợp, chúng tôi sẽ tinh chỉnh các chính sách gỡ bỏ sao cho phù hợp, chẳng hạn như cập nhật Nguyên tắc cộng đồng của YouTube và các hoạt động phát triển án lệ. Trong những trường hợp như vậy, chúng tôi cung cấp hướng dẫn mới và cả tài liệu đào tạo (nếu phù hợp) cho mọi thành viên của nhóm NetzDG.

Khiếu nại

Khiếu nại quyết định theo NetzDG: Nếu chúng tôi cho rằng một video bất hợp pháp theo một trong các tội hình sự nêu trong NetzDG (dựa trên báo cáo qua một đơn khiếu nại theo NetzDG) thì người tải lên sẽ nhận được một thông báo tương ứng kèm theo đường liên kết đến biểu mẫu để khiếu nại quyết định mà chúng tôi đưa ra. Quy tắc này cũng áp dụng cho người gửi nếu đơn khiếu nại bị từ chối do chúng tôi không nhận thấy hành vi phạm tội hình sự theo NetzDG.

Nếu có khiếu nại như vậy theo NetzDG, một thành viên trong nhóm NetzDG (người không đưa ra quyết định ban đầu) sẽ tiến hành đánh giá bổ sung theo NetzDG để đưa ra quyết định giữ nguyên hoặc thay đổi quyết định ban đầu liên quan đến hành vi vi phạm quy định hình sự nêu trong NetzDG. Kết quả của lần đánh giá bổ sung này sẽ được thông báo qua email.

Khiếu nại quyết định theo nguyên tắc cộng đồng: Khi áp dụng biện pháp xử lý đối với một video vi phạm nguyên tắc cộng đồng của chúng tôi, YouTube sẽ thông báo cho người tải lên về biện pháp đã được áp dụng cũng như lý do tương ứng. Chúng tôi cung cấp cho người dùng đó thông tin mô tả, một đường liên kết để họ có thể tìm hiểu thêm về việc gỡ bỏ nội dung và một đường liên kết đến quy trình khiếu nại để đánh giá lại nội dung theo nguyên tắc cộng đồng của chúng tôi. Từ lâu, chúng tôi đã cho phép người dùng khiếu nại một quyết định nếu họ cho rằng nội dung của mình không vi phạm nguyên tắc cộng đồng của chúng tôi. Thông tin chi tiết giải thích về quy trình này có tại đây. Khiếu nại quyết định theo nguyên tắc cộng đồng và khôi phục là một phần trong báo cáo về việc thực thi Nguyên tắc cộng đồng của YouTube. Dữ liệu chi tiết có tại trang web này.

Mặc dù công nghệ đã trở nên rất hữu ích trong việc xác định một số loại nội dung gây tranh cãi (chẳng hạn như nhanh chóng tìm số lượng lớn các đối tượng và khuôn mẫu trong hình ảnh, video và âm thanh), thì con người vẫn là bên có khả năng đánh giá ngữ cảnh tốt nhất. Ví dụ: các thuật toán không thể lúc nào cũng phân biệt được video tuyên truyền khủng bố với đoạn phim về nhân quyền hay phân biệt lời nói hận thù với một vở hài kịch mang tính khiêu khích. Thường thì phải có con người để đưa ra quyết định cuối cùng.

Hệ thống công nghệ của chúng tôi cùng với các nhân viên và nhà cung cấp thuê ngoài của Google sẽ xem xét các cờ đã gắn theo nguyên tắc cộng đồng cũng như các thông báo khác. Chúng tôi có một khung đánh giá chất lượng cực kỳ hiệu quả để đảm bảo đội ngũ nhân viên toàn cầu của chúng tôi luôn đưa ra quyết định đúng đắn đối với nội dung bị báo cáo vi phạm và nhận ý kiến phản hồi thường xuyên về kết quả làm việc của họ. Các nhóm đánh giá của chúng tôi bao gồm hàng nghìn người sử dụng thông thạo nhiều ngôn ngữ. Họ cẩn thận đánh giá các cờ báo cáo 24 giờ mỗi ngày, 7 ngày mỗi tuần, 365 ngày mỗi năm theo nhiều múi giờ trên khắp thế giới. Trong những nhóm này có nhiều người nói tiếng Đức.

Một số thành viên của các nhóm phụ trách giải quyết đơn kiện pháp lý là những chuyên gia pháp lý nói tiếng Đức và có bằng luật. Những chuyên gia này (tất cả đều đã được đào tạo về luật địa phương) sẽ tham khảo ý kiến của luật sư phía Google tại địa phương. Google có một nhóm pháp chế gồm đông đảo các luật sư sinh sống tại nhiều nước Châu Âu. Khi cần, các nhóm này sẽ tham gia phân tích tính hợp pháp của nội dung bị báo vi phạm với chúng tôi và các nhóm có thể xin thêm ý kiến tư vấn pháp lý từ luật sư bên ngoài tại địa phương.

Nhóm NetzDG. Để tiếp nhận và xử lý các yêu cầu theo NetzDG, chúng tôi đã lập một nhóm chuyên trách tại một nhà cung cấp dịch vụ bên ngoài ở Đức (nhóm NetzDG). Tuỳ thuộc vào khối lượng yêu cầu gửi đến theo NetzDG, số người đánh giá nội dung có thể thay đổi. Trong kỳ báo cáo này, có 77 thành viên trong nhóm NetzDG xử lý các yêu cầu theo NetzDG. Nhóm này có 5 trưởng nhóm giữ vai trò giám sát, 6 nhân viên đánh giá chất lượng và 2 chuyên viên đào tạo có vai trò hỗ trợ 61 nhân viên đánh giá nội dung (bao gồm cả nhân viên đánh giá cấp cao).

Để đảm bảo tính đa dạng văn hoá, nhóm nhân viên đánh giá của chúng tôi có đa dạng nền tảng chuyên môn, nói nhiều thứ tiếng và thuộc nhiều độ tuổi (từ 21 đến 55 tuổi trong kỳ báo cáo). Tất cả thành viên trong nhóm NetzDG đều nói trôi chảy tiếng Đức; đa số có tiếng mẹ đẻ là tiếng Đức. Tất cả thành viên nhóm NetzDG còn nói được tiếng Anh; từ 1 đến 30 thành viên trong nhóm NetzDG có thể nói ít nhất một ngôn ngữ như tiếng Thổ Nhĩ Kỳ, tiếng Nga, tiếng Tây Ban Nha, tiếng Bulgaria, tiếng Ý, tiếng Nhật, tiếng Serbia, tiếng Kurd và tiếng Ukraina. Việc có các thành viên nói được nhiều thứ tiếng tỏ ra rất hữu ích khi đánh giá một mối liên hệ khả dĩ với nước Đức nhưng sử dụng tiếng nước ngoài. Trong kỳ báo cáo này, 1/4 (25%) số thành viên nhóm NetzDG có trình độ Đại học (chẳng hạn như Cử nhân, Thạc sĩ) hoặc đã vượt qua Kỳ thi quốc gia trong các lĩnh vực như khoa học chính trị, nghiên cứu dịch thuật, khoa học truyền thông, quản trị kinh doanh, y học, kỹ thuật công nghiệp, khảo cổ học hoặc giảng dạy. Một thành viên trong nhóm đã hoàn thành chương trình Tiến sĩ. Khoảng 40% số thành viên trong nhóm đã hoàn thành các chương trình học việc cho những nghề nghiệp như bán lẻ, đầu bếp, thư ký quản lý trong các ngành công nghiệp, văn phòng, du lịch hoặc xuất bản, công nhân xây dựng hay trong những lĩnh vực như công nghệ thông tin và truyền thông, quản lý hậu cần hoặc công nghệ thực phẩm.

Nhóm NetzDG được đào tạo về cả cách đánh giá tội hình sự có liên quan theo NetzDG và Nguyên tắc cộng đồng của YouTube ít nhất là nửa năm một lần.

Mỗi thành viên trong nhóm NetzDG đều nhận được chương trình đào tạo tổng quan dành cho thành viên mới về Nguyên tắc cộng đồng của YouTube, các quy trình và hệ thống kỹ thuật của chúng tôi cũng như các chương trình đào tạo pháp lý về tội hình sự theo NetzDG. Ngoài chương trình đào tạo thành viên mới, cứ 6 tháng một lần, chúng tôi còn thường cung cấp các chương trình đào tạo bồi dưỡng pháp lý bắt buộc về NetzDG. Chương trình đào tạo bồi dưỡng được thực hiện bằng tiếng Đức và thường dưới sự triển khai của một nhóm gồm các luật sư bên ngoài và thành viên thuộc các nhóm pháp lý của YouTube và Google Germany GmbH. Chúng tôi cung cấp chương trình đào tạo này trong nhiều buổi và theo nhóm như ca làm việc để đảm bảo rằng tất cả thành viên nhóm, bao gồm cả trưởng nhóm, nhân viên đánh giá chất lượng và chuyên viên đào tạo đều có thể được đào tạo và có đủ cơ hội để thảo luận về các câu hỏi cũng như ví dụ đáng tranh luận đã được thu thập trước. Ngoài ra, chúng tôi cũng cung cấp các chương trình đào tạo pháp lý đặc biệt theo yêu cầu do nhóm pháp lý của YouTube thực hiện với sự hỗ trợ của các thành viên phòng pháp lý của Google Germany GmbH. Chúng tôi sử dụng mô hình “đào tạo chuyên viên đào tạo”, tức là chúng tôi đào tạo những chuyên viên đào tạo do nhóm NetzDG chỉ định, sau đó những chuyên viên này có trách nhiệm đào tạo những thành viên còn lại trong nhóm NetzDG. Cả chương trình đào tạo bồi dưỡng và chương trình đào tạo pháp lý đặc biệt đều đề cập đến các xu hướng, vấn đề đang tiến triển, án lệ mới và các loại yêu cầu khó đánh giá trong nửa năm trước. Chúng tôi cũng có các chương trình đào tạo không định kỳ về nhiều chủ đề, chẳng hạn như phỉ báng tôn giáo, nội dung bạo lực và lời lăng mạ nhắm tới người của công chúng và chính trị gia.

Những chương trình đào tạo bồi dưỡng thường xuyên về nguyên tắc cộng đồng cũng mang lại nhiều lợi ích cho nhóm NetzDG. Những chương trình đào tạo bồi dưỡng này xoay quanh các bước phát triển và xu hướng mới phù hợp với nhóm, chẳng hạn như liên quan đến lời nói hận thù và sự an toàn của trẻ em. Ngoài ra, chúng tôi còn có chương trình đào tạo chuyên biệt cho một số lĩnh vực cụ thể, chẳng hạn như nội dung có liên quan đến vũ khí, trò chơi khăm cũng như thử thách có hại và nguy hiểm, bảo mật kỹ thuật số và nội dung lừa bịp. Những chương trình đào tạo dựa trên nguyên tắc cộng đồng này là do người quản lý hoạt động thực thi chính sách phối hợp triển khai cùng với các thành viên trong nhóm pháp chế của YouTube. Ngoài ra, nhóm NetzDG còn nhận được thông tin cập nhật khẩn cấp và hằng tuần về nguyên tắc cộng đồng khi có liên quan đến họ.

Chúng tôi cung cấp cho các thành viên nhóm NetzDG chương trình nâng cao đời sống tinh thần và thể chất cũng như hỗ trợ tâm lý, chẳng hạn như chương trình đào tạo thường xuyên và đào tạo theo yêu cầu cũng như các phiên tư vấn cá nhân tại Đức thông qua một nhóm chuyên gia tâm lý, chuyên gia trị liệu và chuyên viên đào tạo dành riêng cho các chương trình đó. Những chuyên gia này đều nói tiếng Đức. Nhóm NetzDG còn có thể tiếp cận dịch vụ tư vấn 24/7 qua đường dây nóng hỗ trợ. Chúng tôi cũng cung cấp các cơ sở vật chất hỗ trợ nhu cầu về đời sống tinh thần và thể chất, trong đó có không gian theo nhóm và không gian riêng tư dành riêng cho phiên tư vấn cá nhân. Việc này phù hợp với chương trình nâng cao đời sống tinh thần và thể chất mà chúng tôi cung cấp cho mọi nhóm đánh giá của Google và YouTube. Ngoài ra, nhóm đánh giá còn được giảm giá khi mua thẻ thành viên của các trung tâm thể dục thể hình.

Google đại diện cho YouTube trong các hiệp hội liên quan đến NetzDG sau đây:

• Freiwillige Selbstkontrolle Multimedia-Diensteanbieter e.V. (FSM)
• eco - Verband der Internetwirtschaft e.V.
• Deutschland sicher im Netz e.V.
• Bitkom-Bundesverband Informationswirtschaft, Telekommunikation und neue Medien e.V.

Đường dây nóng điều hành của FSM và eco mà người tiêu dùng có thể gọi tới và gửi báo cáo, sau đó, những báo cáo này sẽ được chuyển đến nhóm đánh giá của chúng tôi để đánh giá. Trong từng trường hợp, chúng tôi sẽ gửi ý kiến phản hồi chi tiết về quyết định của mình tới đường dây nóng báo cáo.

Chúng tôi tin rằng hoạt động cộng tác đóng vai trò then chốt. Chúng tôi hợp tác chặt chẽ với các nhóm xã hội dân sự có sứ mệnh bài trừ lời nói hận thù và hành vi phân biệt đối xử, đồng thời phối hợp với các chính phủ để nâng cao hiểu biết về bối cảnh địa phương và phát triển giải pháp. Chúng tôi thường xuyên đánh giá các biện pháp thực thi chính sách cùng các đối tác và chuyên gia. Ngoài ra, chúng tôi còn mời các tổ chức phi chính phủ tham dự hội thảo ở địa phương hoặc hội thảo đa quốc gia. Tại đây, chúng tôi thông báo cho họ biết những nội dung cập nhật về sản phẩm và chính sách, đào tạo sử dụng các dịch vụ của Google cũng như các biện pháp bảo mật, đồng thời thảo luận về các thách thức và vấn đề quan trọng gần đây.

Google và YouTube có nhiều sáng kiến và dự án để xử lý lời nói căm thù trên mạng và hỗ trợ nạn nhân của nội dung bất hợp pháp.

Chương trình Impact Challenge on Safety của Google.org là một quỹ trị giá 10 triệu euro nhằm hỗ trợ các tổ chức trên khắp Châu Âu đang nỗ lực giải quyết những thách thức liên quan đến sự hận thù, chủ nghĩa cực đoan và sự an toàn của trẻ em trên cả môi trường trực tuyến và ngoài đời thực. Bằng việc tài trợ cho các dự án cộng đồng mới và hiện có trên khắp Châu Âu, Google hy vọng hỗ trợ được các sáng kiến chống lại sự hận thù và chủ nghĩa cực đoan, đồng thời giúp người trẻ trở thành những công dân kỹ thuật số đầy tự tin. Có thể kể đến những người thắng cuộc như các tổ chức HateAid và Gefangene helfen Jugendlichen e.V (hoạt động tại Đức). Với khoản tiền tài trợ này, HateAid hướng tới mục tiêu cải thiện dịch vụ hỗ trợ cho nạn nhân của lời nói hận thù và tội phạm thù ghét trên mạng, nhằm giúp những người dùng như vậy phục hồi và trao lại cho họ khả năng quay lại môi trường trực tuyến để họ không cảm thấy bị ý kiến thù ghét lấy đi tiếng nói của mình. Để giảm tỷ lệ tái phạm ở nhóm thanh thiếu niên Đức dễ bị tổn thương, đội ngũ Gefangene helfen Jugendlichen đưa ra các chương trình và dịch vụ hỗ trợ chuyên nghiệp cho thanh thiếu niên, trong đó có các chuyến thăm nhà tù và cuộc thảo luận với những người từng là phạm nhân để nhóm đối tượng thanh thiếu niên dễ bị tổn thương này hiểu được các tác hại thực tế của việc phạm tội.

Nhiều năm qua, Google cũng cam kết nâng cao kiến thức của mọi người về truyền thông, trao quyền cho người trẻ tuổi và người dùng ở mọi lứa tuổi, cũng như cung cấp tài nguyên dành cho lớp học để hỗ trợ giáo viên. Chúng tôi không ngừng nỗ lực nâng cao nhận thức về cơ chế gắn cờ và hướng dẫn người dùng về các chính sách, chế độ cài đặt cũng như các công cụ giúp hỗ trợ thể chất và tinh thần của Google và YouTube.

Kể từ năm 2013, Google đã tài trợ và hỗ trợ Hiệp hội tự quản tự nguyện của các nhà cung cấp dịch vụ truyền thông kỹ thuật số ở Đức (FSM e. V.) nhằm tạo ra và phát triển hơn nữa bộ tài liệu giảng dạy "Medien in die Schule", trong đó có các giáo án về cách định hình quan điểm trên mạng, chống lại lời nói hận thù, phân biệt sự thật và hư cấu trên phương tiện truyền thông cũng như nâng cao kiến thức về thông tin.

Năm 2009, YouTube – cùng với các đối tác tại địa phương và dưới sự bảo trợ của Thủ tướng Merkel – lần đầu ra mắt sáng kiến “361 Grad Respekt”. Sáng kiến này được triển khai nhiều lần (trừ năm 2010, người bảo trợ là Quyền Bộ trưởng Gia đình) trong giai đoạn từ năm 2009 đến năm 2014 và được khôi phục dưới tên #NichtEgal vào năm 2016 với hai lần triển khai (2016 và 2018). Mục tiêu của những sáng kiến này là cổ vũ hành vi đáng tôn trọng cả trên mạng và ngoài đời thực, đồng thời khuyến khích người trẻ tuổi thể hiện hành động chống lại lời nói hận thù và hành vi phân biệt đối xử thông qua các cuộc thi video và hội thảo ở trường học.

Được tài trợ qua chi nhánh từ thiện của Google và Google.org, Hiệp hội tự quản tự nguyện của các nhà cung cấp dịch vụ truyền thông kỹ thuật số ở Đức (FSM e. V.) đã ra mắt dự án "Weitklick" vào tháng 5 năm 2020. Mục tiêu của dự án này là phát triển một nền tảng học tập kết hợp để cung cấp kiến thức cho giáo viên về hiện tượng thông tin sai lệch và cách giải quyết vấn đề này trên lớp cũng như đưa giáo viên, nhà trường và nhà báo lại gần nhau hơn.

Chúng tôi không ngừng đầu tư vào một mạng lưới toàn cầu gồm hơn 300 học giả, đối tác chính phủ và tổ chức phi chính phủ trên toàn thế giới. Họ là những đối tác đóng góp kiến thức chuyên môn quý giá cho các hệ thống thực thi của chúng tôi, chẳng hạn như tại Đức là Quỹ Amadeu Antonio Foundation, Nummer gegen Kummer cũng như Mạng lưới phòng chống bạo lực.

Để thực thi Nguyên tắc cộng đồng của YouTube, YouTube dựa vào cơ chế “con người kết hợp với máy móc” để gắn cờ nội dung không phù hợp và tạo điều kiện cho việc đánh giá dựa trên nguyên tắc cộng đồng. Việc gắn cờ nội dung có khả năng vi phạm nguyên tắc cộng đồng có thể là nhờ hệ thống tự động gắn cờ của YouTube, thành viên của chương trình Người gắn cờ đáng tin cậy (bao gồm các tổ chức phi chính phủ, cơ quan chính phủ và cá nhân) hoặc người dùng trong cộng đồng YouTube rộng lớn.

YouTube luôn kết hợp giữa nhân viên đánh giá và công nghệ để xử lý nội dung vi phạm trên nền tảng của mình. Năm 2017, YouTube bắt đầu áp dụng công nghệ học máy tiên tiến hơn để gắn cờ nội dung cho các nhóm đánh giá xem xét. Sự kết hợp giữa công nghệ phát hiện thông minh và đội ngũ nhân viên đánh giá đã qua đào tạo bài bản này đã giúp YouTube thực thi được các chính sách một cách nhất quán với tốc độ cao hơn.

Máy móc cho phép YouTube gắn cờ nội dung cần được xem xét trên quy mô lớn, giúp chúng tôi gỡ bỏ hàng triệu video vi phạm ngay cả trước khi có người xem chúng. Và việc YouTube đầu tư vào công nghệ máy học để đẩy nhanh tốc độ gỡ bỏ đang mang lại hiệu quả trong một số lĩnh vực có rủi ro cao nhưng khối lượng thấp (chẳng hạn như chủ nghĩa bạo lực cực đoan) và cả trong các lĩnh vực có khối lượng lớn (chẳng hạn như nội dung rác).

Bạn có thể xem dữ liệu mới nhất về hoạt động gỡ bỏ video trong báo cáo về việc thực thi Nguyên tắc cộng đồng của YouTube tại đây.

Thực tế là việc triển khai công nghệ học máy đồng nghĩa với việc có nhiều người đánh giá nội dung hơn chứ không hề ít hơn. Hệ thống của chúng tôi dựa vào quy trình đánh giá thủ công để đánh giá xem nội dung có vi phạm chính sách của chúng tôi hay không.

Khi phát hiện video vi phạm nguyên tắc của chúng tôi, chúng tôi sẽ gỡ bỏ video đó và đưa ra cảnh cáo đối với kênh tương ứng. Chúng tôi sẽ chấm dứt toàn bộ kênh nếu kênh này chuyên đăng tải nội dung bị cấm theo nguyên tắc cộng đồng của chúng tôi hoặc có một lỗi vi phạm nghiêm trọng, chẳng hạn như bóc lột tình dục trẻ em. Phần lớn hành vi sai trái cố ý đều là do những đối tượng xấu tìm cách tải nội dung rác hoặc nội dung người lớn lên nền tảng của chúng tôi.

Để tìm hiểu thêm về cách chúng tôi chống lại loại nội dung này cũng như những gì mà nỗ lực đầu tư của chúng tôi mang lại, hãy nhấp vào đây.

Chúng tôi cũng xây dựng các công cụ giúp nhà sáng tạo kiểm duyệt các bình luận về video của họ. Ví dụ: nhà sáng tạo có thể chọn giữ lại để xem xét tất cả bình luận hoặc tự động giữ lại những bình luận chứa đường liên kết hoặc có thể chứa nội dung phản cảm. Hiện nay, hơn một triệu nhà sáng tạo sử dụng những công cụ này để kiểm duyệt các bình luận trên kênh của họ.

Điều khoản dịch vụ của YouTube có cấu trúc rõ ràng, trong đó có một chương về "Nội dung và hành vi của bạn". Chương này giải thích một cách dễ hiểu cho người dùng về những nội dung và hành vi bị cấm trên nền tảng này. Điều khoản dịch vụ này quy định rõ rằng việc sử dụng dịch vụ chịu sự điều chỉnh của Điều khoản dịch vụ, Nguyên tắc cộng đồng của YouTube, Chính sách của YouTube cũng như Chính sách về An toàn và Bản quyền (gọi chung là "Thoả thuận"). Theo Điều khoản dịch vụ, mọi nội dung vi phạm Thoả thuận hoặc pháp luật đều không được phép đăng tải. Nguyên tắc cộng đồng trong Thoả thuận có cấu trúc rõ ràng và dễ hiểu, bao gồm 5 vấn đề lớn: nội dung rác và thủ đoạn lừa đảo, nội dung nhạy cảm, nội dung bạo lực hoặc nguy hiểm, hàng hoá thuộc diện quản lý và thông tin sai lệch. Mỗi vấn đề lớn lại được chia thành các mục con có chính sách tương ứng. Chính sách nào trong số này cũng bắt đầu bằng phần mô tả chung về nội dung không được phép xuất hiện trên YouTube kèm theo lý do tương ứng. Trong mục "Tác động của chính sách này đối với bạn", người dùng sẽ nắm được tác động cụ thể của chính sách này đối với hành vi của họ trên nền tảng này. Tiếp theo thường là tiểu mục "Ví dụ" liệt kê một số ví dụ cụ thể về nội dung không được phép xuất hiện trên YouTube theo chính sách đó. Cuối cùng, trong mục "Điều gì xảy ra nếu nội dung vi phạm chính sách này", người dùng sẽ nắm được những hậu quả có thể xảy ra do hành vi vi phạm. Theo đó, những điều khoản này quy định điều kiện để nội dung được chấp nhận phân phối trên YouTube, theo cách thức và ngôn ngữ thân thiện với người dùng. Trong đó còn có nội dung mô tả chi tiết về hành vi không được chấp nhận và một số ví dụ trực quan. Những quy định này rất dễ tìm kiếm cũng như được diễn đạt rõ ràng và đầy đủ, theo đó đáp ứng yêu cầu tại các điều § 307 Khoản 1, § 308 và § 309 của Bộ luật Dân sự Đức (BGB). Quy định trong những nguyên tắc này được dựa trên những tiêu chí khách quan và có thể xác minh được, theo đó đáp ứng các tiêu chuẩn trong án lệ liên quan. Ngoài ra, người dùng còn được cung cấp thông tin chi tiết về cách họ được thông báo về mọi lỗi vi phạm Điều khoản dịch vụ hoặc nguyên tắc cộng đồng cũng như cách thức và nơi họ có thể gửi nội dung tuyên bố hoặc tiến hành khiếu nại.

Vào mỗi thời gian báo cáo, chúng tôi sẽ thu thập một loạt ví dụ minh họa tốt nhất cho những quyết định chúng tôi đã đưa ra về nội dung bị cáo buộc là bất hợp pháp để có cái nhìn tổng thể về phạm vi nội dung có trong NetzDG cũng như các loại nội dung mà chúng tôi được yêu cầu xóa.