طبق قوانین اجرایی شبکه‌های اجتماعی (NetzDG)، شبکه‌های اجتماعی با بیش‌از دو میلیون کاربر ثبت‌شده در آلمان موظف هستند قانون حذف محلی محتوای (برای نمونه، ویدیو یا نظرِ) «به‌طور آشکار غیرقانونی» را ظرف ۲۴ ساعت بعداز دریافت شکایت مربوط به محتوای غیرقانونی طبق NetzDG (فقط در بخش‌های «شکایت» یا «شکایت نقض NetzDG» زیر) اجرا کنند. در شرایطی‌که (غیر)قانونی بودن آشکار نیست، ارائه‌دهنده معمولاً تا هفت روز فرصت دارد درباره پرونده تصمیم‌گیری کند. در موارد استثنایی، ممکن است تصمیم‌گیری بیشتر طول بکشد، مثلاً اگر از کاربرانی که محتوا بارگذاری می‌کنند (یعنی کاربرانی که ویدیوها یا نظرهایشان در YouTube ذخیره می‌شود و «بارگذارنده» نامیده می‌شوند) درخواست شود نظرشان را بدهند یا اگر تصمیم‌گیری به یک انجمن صنفی مشترک معتبر به‌عنوان یک مؤسسه خودتنظیمی سپرده شود. برای اینکه محتوایی طبق NetzDG واجد شرایط برداشتن باشد، باید تحت یکی‌از ۲۲ بند «قانون کیفری آلمان» (StGB) که در NetzDG به آن‌ها اشاره شده است (بخش ۱ (۳) NetzDG) قرار بگیرد. ما همه شکایت‌های NetzDG را براساس تخلفات کیفری فهرست‌شده در بخش ۱ (۳) NetzDG بازبینی می‌کنیم. اگر تشخیص دهیم محتوایی طبق بخش ۱ (۳) NetzDG غیرقانونی است آن را به‌صورت محلی محدود می‌کنیم. اگر محتوا دستورالعمل‌های انجمن YouTube جهانی خودمان را به‌وضوح نقض کند، آن را به‌صورت جهانی برمی‌داریم.

«قانون مبارزه با افراط‌گرایی راست تندرو و جرایم نفرت‌محور» تخلفات کیفری فهرست‌شده در بخش ۱ (۳) NetzDG را ازلحاظ محتوا افزایش داده است. برای مثال، تخلف برهم زدن نظم عمومی به‌واسطه تهدید به ارتکاب جرم (بخش ۱۲۶) و تخلف تشویق و تأیید جرایم (بخش ۱۴۰) اصلاح شده‌اند تا اکنون تخلف وارد کردن آسیب شدید جسمانی (بخش ۲۲۴) را نیز دربرگیرند. علاوه‌براین، بخش ۱۸۹ StGB (توهین به یادبود فوت‌شدگان) در تاریخ ۱ فوریه ۲۰۲۲ به تخلفات کیفری فهرست‌شده در NetzDG اضافه شد. این تعمیم‌ها و الحاق‌ها شرایط قانونی نامشخص بیشتری را برای بررسی‌هایی که باید صورت بگیرند معرفی می‌کنند و باعث می‌شوند احتمال تصمیم‌گیری‌های نادرست بیش‌ازپیش افزایش یابد.

NetzDG همچنین شبکه‌های اجتماعی را ملزم می‌کند دو بار در سال گزارشی (گزارش شفاف‌سازی) درباره شیوه رسیدگی به این شکایت‌ها تهیه و منتشر کند. ما با انتشار این گزارش، این تعهد را برآورده می‌کنیم. این گزارش را برای دوره‌های گزارش ژانویه تا ژوئن و ژوئیه تا دسامبر هر سال به‌روزرسانی می‌کنیم. گزارش پیش‌فرضی که اینجا دردسترس است، دوره گزارش قبلی را نیز پوشش می‌دهد، اما کاربران می‌توانند داده‌های دوره‌های گزارش قبلی را نیز مشاهده کنند. همچنین می‌توان با رفتن به انتهای این گزارش، نسخه کنونی آن را بارگیری کرد.

امروزه، در هر دقیقه بیش‌از پانصد ساعت ویدیو در YouTube بارگذاری می‌شود که آن را به یکی‌از بزرگ‌ترین مجموعه‌های زنده فرهنگ انسانی که تاکنون در یک مکان گردآوری‌شده، تبدیل کرده است: جامعه‌ای که در آن افراد سراسر جهان می‌توانند به خلق و هم‌رسانی ایده و نظر بپردازند. YouTube باید مطمئن شود کاربرانش از قوانینی که برای محافظت و ابقای کل جامعه تنظیم شده است، پیروی می‌کنند. دستورالعمل‌های انجمن ما دسته‌های خاصی از مطالب را ممنوع می‌کند؛ این دسته‌ها شامل محتوای صریح جنسی، هرزنامه، سخنان مشوق عداوت و تنفر، اذیت‌وآزار، و تحریک به خشونت است. اگر محتوایی ناقض دستورالعمل‌های انجمن ما باشد، آن را به‌صورت جهانی برمی‌داریم یا دسترسی به آن را محدود می‌کنیم. YouTube بااستفاده از چارچوب «انسان + ماشین»، پیشرفت قابل‌توجهی در زمینه اجرای دستورالعمل‌های ما داشته است. برای اطلاعات بیشتر، لطفاً از گزارش اجرای «دستورالعمل‌های انجمن YouTube» بازدید کنید.

ما به قوانین آلمان و قوانین محلی دیگر احترام می‌گذاریم. وقتی شکایت‌هایی برای برداشتن محتوای به‌ظاهر غیرقانونی دریافت می‌کنیم، ما هر شکایت را به‌دقت مرور می‌کنیم. اگر محتوا ناقض قوانین محلی باشد، محتوایی را که غیرقانونی تشخیص داده‌ایم، به‌صورت محلی مسدود می‌کنیم. برای همه انواع درخواست‌های قانونی برداشتن محتوا همین رویکرد را داریم. همان‌طور که در این گزارش با جزئیات شرح داده‌ایم، تصمیم‌گیری درباره اینکه محتوایی تحت قوانین محلی غیرقانونی است می‌تواند یکی‌از دشوارترین تصمیم‌های ارزیابی قانونی باشد که بازبینان YouTube باید اتخاذ کنند.

تلاش‌های YouTube برای ایجاد جامعه جهانی آنلاین و جذاب نمی‌تواند بدون تلاش‌های یک تیم چند تخصصی (تیم متقابل عملکردی) شامل متخصصین خط‌مشی، وکلا، مهندسین، مدیران محصول، تحلیل‌گران داده، مرورکنندگان محتوا، تحلیل‌گران عملیات، تحلیل‌گران تهدیدهای نوپدید، و بسیاری تخصص‌های دیگر موفق باشد. علاوه‌براین، ورودی‌های جامعه جهانی کاربران، سازمان‌های مردم‌نهاد، دولت‌ها، و شرکای صنعتی - ازجمله دیگر شرکت‌های فناوری - در شکل‌گیری YouTube به‌عنوان پلاتفرمی که برای کاربران و محتواسازان در سراسر جهان کار می‌کند نقش مهمی دارد.

این داده‌ها فقط شامل شکایت‌های مربوط به محتوایی می‌شود که ادعا شده تحت معنای بخش ۱ بند ۳ مصوبه NetzDG غیرقانونی باشند (اما شکایت‌هایی را که ازطریق کانال‌های گزارش‌دهی دریافت می‌شوند و به‌وضوح منجر به ارزیابی براساس NetzDG نمی‌شوند دربر نمی‌گیرد).

عبارت شکایت به موارد مجزا در این «گزارش شفاف‌سازی» اشاره دارد. اگر چند مورد (مثلاً چند ویدیو یا نظر) مشمول شکایت نقض NetzDG باشند، هر مورد را یک شکایت درنظر می‌گیریم. برای مثال، اگر یک شکایت نقض NetzDG حاوی سه ویدیو متفاوت دریافت کنیم آن را سه شکایت درنظر می‌گیریم؛ یعنی یک شکایت به‌ازای هر مورد گزارش‌شده. بنابراین، هر شکایت مربوط به یک ویدیو یا نظر را به‌عنوان یک مورد مجزا در این گزارش درنظر می‌گیریم. درنتیجه، نمودارهای زیر که براساس موارد علامت‌گذاری شده‌اند، داده‌های مربوط به تعداد شکایت‌های مرتبط با موارد ارسال‌شده درطول این دوره گزارش شش‌ماهه را نشان می‌دهند.

نمودارهای پایین تعداد مواردی را نشان می‌دهند که پیرو شکایت نقض NetzDG در دوره گزارش برداشته یا مسدود شده‌اند.

NetzDG به شبکه‌های اجتماعی امکان می‌دهد در شرایطی که بیانی از واقعیت مورد بحث است یا دیگر شرایط مبتنی بر واقعیات وارد هستند، با بارگذارنده تماس بگیرند. بااین‌حال، دریافت پاسخ قابل‌قبول از بارگذارنده به شکایت دقیق و موجه قانونی ارسال‌کننده درباره اینکه چرا گفتهٔ مورد بحثْ بنابر ادعا نادرست است نیاز دارد. باتوجه‌به این واقعیت که بخش عمده شکایت‌های قانونی NetzDG غیرموجه است (حتی بعداز اینکه YouTube به‌صراحت اطلاعات بیشتری درخواست می‌کند)، در چنین مواردی زمینه کافی برای تماس با بارگذارنده وجود ندارد.

این‌ها پرونده‌هایی پیچیده در حوزه قانون کیفری هستند که به دانش حقوقی تخصصی نیاز دارند. این‌ها شرایطی هستند که ممکن است از مؤسسه‌ای خارجی، مانند مشاور حقوقی خارجی یا یکی از مؤسسات خودتنظیمی که در موارد مربوط به NetzDG تخصص دارد، مشاوره بگیریم.

ما همه شکایت‌های NetzDG درباره محتوای غیرقانونی را مطابق با قانون NetzDG بررسی می‌کنیم تا مشخص شود آیا محتوای گزارش‌شده هیچ‌یک از تخلفات کیفری فهرست‌شده در NetzDG (بخش ۱ (۳) NetzDG) را نقض می‌کند یا نه.

نمودارهای این بخش تعداد کل موارد برداشته یا مسدودشده و موارد شناسایی‌شده به‌عنوان غیرقانونی تحت یکی‌از تخلفات کیفری فهرست‌شده در NetzDG درطول این دوره گزارش را به‌ترتیب زمان گردش نشان می‌دهند. زمان گردش زمان سپری‌شده بین دریافت شکایت و برداشتن یا مسدود کردن موارد گزارش‌شده است.

سازمان‌های دولتی، دادگاه‌ها، و طرفین در دادرسی‌های مدنی معمولاً از شرکت‌های فناوری و ارتباطات درخواست می‌کنند داده‌های کاربران را دراختیارشان قرار دهند. در این گزارش، اطلاعاتی درباره تعداد و نوع درخواست‌هایی که از دولت‌ها دریافت می‌کنیم آشکار می‌کنیم.

YouTube به‌دنبال برقراری تعادل و حفظ «چهار آزادی» است — آزادی بیان، آزادی اطلاعات، آزادی فرصت، و آزادی تعلق داشتن. اجرای دستورالعمل‌های انجمن ما و/یا قوانین بخشی‌از برقراری تعادل میان این آزادی‌ها و حفظ جامعه YouTube است. دست یافتن به این تعادل هرگز آسان نیست، به‌ویژه برای پلاتفرمی جهانی که در جوامع مختلف با استانداردهای گفتار متفاوت کار می‌کند.

سازوکارهای ارسال شکایت مطابق با NetzDG برای محتوای ازقرارمعلوم غیرقانونی

YouTube برای کاربران ساکن آلمان، جریان گزارش تخلفِ درون‌محصولی برای شکایت‌های تحت NetzDG ارائه کرده است که به‌آسانی قابل‌تشخیص، مستقیماً قابل‌دسترسی، و همیشه دردسترس است. روش ارسال شکایت‌های قانونی تحت NetzDG برای کاربران واردشده به سیستم، با جریان پرچم‌گذاری که زیر هر ویدیو و در کنار هر نظر قابل‌دسترس است (منوی سه‌نقطه)، ادغام شده است. ارسال‌کننده باید در جریان پرچم‌گذاری، روی چارگوش انتخاب «معتقدم این محتوا باید تحت مصوبه بهبود قوانین اجرایی شبکه‌های اجتماعی محدود شود» کلیک کند. با این کار، فرم اینترنتی مختصری باز می‌شود تا ارسال‌کننده جزئیات بیشتری اضافه کند.

YouTube همچنین یک فرم اینترنتی حقوقی NetzDG برای همه کاربران واردشده به سیستم و خارج‌شده از سیستم ارائه می‌دهد که می‌توان ازطریق پیوند شکایت‌های NetzDG در منوی اصلی YouTube و ازطریق نقش‌بست YouTube (صفحه تماسی که برای همه کاربران ساکن آلمان دردسترس است) مستقیماً به آن دسترسی یافت.

یک کاربر معمولی به‌عنوان فردی غیرمتخصص در امور حقوقی احتمالاً هنگام مواجه شدن با مجموعه کاملی از جرایم پیچیده گیج می‌شود یا حتی از ارسال گزارش منصرف می‌شود. بعید است کاربر معمولی هنگام ارسال شکایت قانونی NetzDG بتواند قوانین مربوطه در «قانون کیفری آلمان» (StGB) را درک و به آن‌ها استناد کند. علاوه‌براین، ممکن است برخی‌از محتوای گزارش‌شده بیش‌از یک جرم فهرست‌شده را نقض کرده باشند. برای مثال، ویدیویی که تلاش می‌کند اعضا یا حامیان جدیدی برای یک سازمان جنایی یا تروریستی به‌خدمت بگیرد (بخش ۱۲۹ و ۱۲۹a ‏StGB) معمولاً حاوی نمادهایی مانند یک پرچم است که می‌تواند تحت بخش‌های ۸۶ و ۸۶a ‏StGB قابل‌مجازات باشد؛ همچنین ممکن است این ویدیو طبق بخش ۸۹a ‏StGB، شرایط جرم تدارک دیدن خشونت جدی و به‌خطر انداختن دولت را نیز داشته باشد. این نگرانی‌ها که قبلاً در گزارش‌های پیشین بر آن‌ها تأکید شده است به‌واسطه تغییرات مطرح‌شده ازسوی «قانون مبارزه با سیاست‌های راست تندرو و جرایم نفرت‌محور» به‌میزان قابل‌توجهی تشدید شده است. برای مثال، اگر یکی‌از مقاصد فرد مرتکب ارائه شفاف‌سازی به مخاطب باشد، تهدید تحت معنای بخش ۲۴۱ «قانون کیفری» می‌تواند «ازسوی اشخاص ثالث» نیز صورت گیرد. درنتیجه، تخلفات کیفری تهدید (بخش ۱۲۶ StGB) و ارعاب (بخش ۲۴۱ StGB) دقیق و گزیده نیستند، به‌خصوص وقتی که محتوای مربوطه در شبکه‌های اجتماعی منتشر شده باشد.

بنابراین، برای تسهیل کردن روند ثبت شکایت و کمک به ارسال‌کنندگان دررابطه با گزارش دادن محتوایی که معتقدند طبق NetzDG احتمالاً غیرقانونی است، هفت دسته محتوا در جریان گزارش NetzDG خود قرار داده‌ایم که منعکس‌کننده و منطبق بر ۲۲ تخلف کیفری مربوطه هستند و به شیوه‌ای قابل‌درک برای عموم دسته‌بندی شده‌اند. این رویکرد همچنین کمک می‌کند جرایمی که بسیار خلاصه هستند و دامنه گسترده‌ای دارند، عینی‌تر (ملموس‌تر) شود (به‌خصوص برای افراد غیرمتخصص). برای مثال، بخش ۱۴۰ «قانون کیفری آلمان»، پاداش دادن یا تأیید کردن جرایم متنوعی مثل خیانت، قتل، و دیگر جرایم جدی مثل جرایم جنگی، (حداقل) آسیب جسمی شدید، جرایم خاصی که عموم مردم را تهدید می‌کند، و همچنین برخی‌از جرایم جنسی جدی، و غیره را مجازات می‌کند. تجربه ما از روند اطلاع‌رسانی محتوا نشان می‌دهد کاربران از چنین رویکرد واقع‌گرایانه و با آستانه محدودی برای ارسال شکایات مؤثر درباره محتوای غیرقانونی استقبال می‌کنند. فهرست بخش ۱۲۶ «قانون کیفری» که در بخش ۱۴۰ «قانون کیفری» به آن ارجاع داده شده متعاقباً گسترش یافته است. علاوه‌براین، درباره جایگزین تأیید در بخش ۱۴۰ «قانون کیفری»، اکنون دیگر حتی ضروری نیست که عمل موردبحث قبلاً انجام شده باشد یا حداقل به شیوه‌ای سزاوارِ مجازات با آن مبادرت شده باشد. تکنیک ارجاع به فهرست‌های تخلفات و بررسی تودرتوی تخلفات به‌دلیل ویژگی آینده‌محور تهدیدها، بر افراد غیرمتخصص در زمینه حقوق بیش‌از همیشه فشار وارد کرده است. رویکرد واقع‌گرایانه و با آستانه محدودی که تاکنون به‌کار گرفته شده احتمالاً این امکان را همچنان فراهم می‌کند که اهداف NetzDG به بهترین نحو ممکن موردتوجه قرار گیرد.

این دسته‌ها — و تخلفات کیفری مربوطه که در بخش ‎۱ (۳)‎ «مصوبه بهبود قوانین اجرایی شبکه‌های اجتماعی» (NetzDG) مشخص شده‌اند و انتظار داریم اساساً پوشش داده شوند و با انتخاب کردن از میانشان گزارش شوند — عبارت‌اند از:

سخنان مشوق عداوت و تنفر یا افراط‌گرایی سیاسی

• بخش 130 «قانون کیفری آلمان»: تحریک به نفرت
• بخش 166 «قانون کیفری آلمان»: هتک حرمت ادیان و انجمن‌های مذهبی و ایدئولوژیک

محتوای تروریستی یا مغایر با قانون اساسی

• بخش 86 «قانون کیفری آلمان»: انتشار تبلیغات سیاسی سازمان‌های مغایر با قانون اساسی
• بخش 86a «قانون کیفری آلمان»: استفاده از نمادهای سازمان‌های مغایر با قانون اساسی
• بخش ۸۹a ‏StGB: تدارک اعمال خشونت جدی و به‌خطر انداختن دولت
• بخش ۹۱ «قانون کیفری آلمان»: ترغیب به انجام خشونت جدی و به‌خطر انداختن دولت
• بخش 100a «قانون کیفری آلمان»: جعل خائنانه
• بخش ۱۲۹ «قانون کیفری آلمان»: تشکیل سازمان‌های جنایی
• بخش 129a «قانون کیفری آلمان»: تشکیل سازمان‌های تروریستی
• بخش 129b «قانون کیفری آلمان»: سازمان‌های جنایی و تروریستی در خارج از کشور؛ مصادره و محرومیت طولانی
• بخش ۱۴۰ «قانون کیفری آلمان» مقارن با بخش ‏‎۱۳۸‏ (۱)‎ «قانون کیفری آلمان»: پاداش دادن و تأیید کردن تخلفات خاص فهرست‌شده در بخش ‎۱۳۸‏ (۱)‎ «قانون کیفری آلمان»
• بخش 269 «قانون کیفری آلمان»: جعل داده‌های درنظر گرفته‌شده به‌عنوان مدرک

خشونت

• بخش 131 «قانون کیفری آلمان»: انتشار تصاویری با مضمون خشونت

اقدامات مضر یا خطرناک

• بخش 111 «قانون کیفری آلمان»: تحریک عمومی به انجام جرم
• بخش 126 «قانون کیفری آلمان»: نقض نظم عمومی با تهدید به انجام جرم
• بخش ۱۴۰ «قانون کیفری آلمان» مقارن با بخش ‎۱۲۶‏ (۱)‎ «قانون کیفری آلمان»: پاداش دادن و تأیید کردن تخلفات فهرست‌شده در بخش ‎۱۲۶‏ (۱)‎ «قانون کیفری آلمان»
• بخش 241 «قانون کیفری آلمان»: تهدید به ارتکاب جرم

افترا یا توهین

• بخش ۱۸۵ «قانون کیفری آلمان»: توهین
• بخش ۱۸۶ «قانون کیفری آلمان»: افترا
• بخش ۱۸۷ «قانون کیفری آلمان»: افترای تعمدی

حریم خصوصی

• بخش 201a «قانون کیفری آلمان»: نقض حریم خصوصی با عکس گرفتن

محتوای جنسی

• بخش ۱۸۴b «قانون کیفری آلمان»: توزیع، اکتساب، و مالکیت هرزه‌نگاری کودکان
• بخش 140 مقارن با بخش‌های 176 تا 178: پاداش دادن و تأیید کردن جرایم خاص فهرست‌شده در بخش‌های 176 تا 178

براساس تجربه جهانی طولانی‌مان در زمینه پرچم‌گذاری محتوا، متقاعد شده‌ایم در کل بهترین حمایت و روش رسیدن به هدف قانونی NetzDG، استفاده از این دسته‌ها است.

بیشتر بدانیدarrow_forward

اقداماتی برای اطلاع‌رسانی به ارسال‌کننده و بارگذارنده

وقتی شکایت نقض NetzDG را ازطریق شیوه‌های گزارش شرح‌داده‌شده در بالا دریافت کنیم، ارسال‌کننده ایمیل تأییدی به‌همراه شماره مرجع دریافت خواهد کرد که نشان می‌دهد شکایت او را دریافت کرده‌ایم و آن را مرور خواهیم کرد.

بعداز مرور شکایت نقض NetzDG، اطلاعات مربوط به تصمیم خود تحت NetzDG و دلایل این تصمیم را ازطریق ایمیل برای ارسال‌کننده شکایت ارسال می‌کنیم. این اعلان همچنین حاوی اطلاعاتی در این خصوص است که می‌توان شکایت کیفری را نزد مراجع اجرای قانون به‌ثبت رساند و اطلاعات بیشتر را می‌توان در این پیوند ، که صفحه‌ای راهنما از «وزارت دادگستری فدرال و محافظت از مصرف‌کننده» به‌نشانی hilfe-info.de است پیدا کرد. اگر YouTube از شکایت نقض NetzDG درخصوص ویدیویی خاص تبعیت نکند، این اعلان همچنین حاوی پیوندی خواهد بود که ارسال‌کننده می‌تواند ازطریق آن درخواستی برای تجدیدنظر درباره این تصمیم تحت NetzDG ثبت کند.

اگر در پاسخ به شکایت نقض NetzDG، محتوایی را به‌دلیل نقض یکی‌از تخلفات مشخص‌شده در NetzDG مسدود کنیم، اعلان ایمیلی به‌همراه اطلاعاتی درباره این انسداد برای بارگذارنده ارسال خواهیم کرد. اگر ویدیو مسدود شده باشد، این اعلان همچنین حاوی پیوندی خواهد بود که بارگذارنده می‌تواند ازطریق آن درخواستی برای تجدیدنظر درخصوص این تصمیم تحت NetzDG ارسال کند. اگر ویدیویی به‌دلیل نقض دستورالعمل‌های انجمن برداشته شده باشد، بارگذارنده اعلانی دریافت خواهد که پیوندی برای درخواست بازبینی دستورالعمل‌های انجمن درخصوص این تصمیم در آن لحاظ شده است.

وقتی ویدیویی برپایه دستورالعمل‌های انجمن برداشته می‌شود یا به‌دلیل نقض قانون محلی مسدود می‌شود، به‌جای ویدیو، اعلانی عمومی نمایش می‌دهیم که به کاربران اطلاع می‌دهد این ویدیو از دسترس خارج شده است.

دیگر روش‌های گزارش

شکایت‌های حقوقی. همان‌طور که در بالا ذکر شد، ما ابزارهایی جهت گزارش تخلف تکمیلی برای افراد ساخته‌ایم تا محتوایی را که ظاهراً ناقض قوانین NetzDG (شکایت‌های NetzDG) است گزارش دهند: فرمی اینترنتی که همه کاربران می‌توانند به‌طور مستقیم ازطریق پیوند شکایت‌های NetzDG در منوی اصلی YouTube یا ازطریق نقش‌بست YouTube یا برای کاربران واردشده به سیستم، ازطریق کلیک کردن روی چارگوش انتخاب NetzDG (که طبق توضیحات بالا در جریان پرچم‌گذاری در کشور آلمان تعبیه شده است) به آن دسترسی داشته باشند. این کانال‌های گزارش‌دهی به کاربران امکان می‌دهد موارد قابل‌اعتراض را شناسایی کنند و دلیلی برای شکایت قانونی ارائه کنند. این اطلاعات «لازم» است تا بتوانیم بازبینی مناسبی داشته باشیم و اقدام مناسبی انجام دهیم. اگر منطق گزارش نامشخص باشد یا توجیه کافی برای برداشتن قانونی محتوا وجود نداشته باشد، ممکن است از ارسال‌کننده اطلاعات بیشتری درخواست کنیم.

ارائه جریان گزارش تخلفی که شهودی و به‌آسانی در نزدیکی محتوا قابل‌دسترس است به تعداد بالای کلیک و گزارش منجر می‌شود. بااین‌حال، گزارش کاربران همیشه قابل‌اعتماد نیست. بسیاری از گزارش‌ها خارج از موضوع یا بی‌اساس هستند و بنابراین نمی‌توان اقدامی برای آن‌ها انجام داد. سایر کاربران گزارشی ارسال می‌کنند که اطلاعات مربوط به اینکه چرا فکر می‌کنند محتوا غیرقانونی است در آن وجود ندارد. این موضوع به‌ویژه در شرایطی که غیرقانونی بودن محتوا به‌طور آشکار مشخص نیست مشکل‌ساز است.

به‌غیراز سازوکارهای تنظیم شکایت‌های NetzDG، کاربران YouTube به چندین فرم اینترنتی قانونی دسترسی دارند (مثلاً برای شکایت‌های حقوق شهرت، شکایت‌های حق نشر، شکایت‌های علامت تجاری) که از چندین سال پیش‌از تصویب NetzDG وجود داشته و قابل‌استفاده بوده است. بنابراین NetzDG روند حذف قانونی را به سیستم ما وارد نکرده است؛ این مصوبه صرفاً پیوند میان سازوکارهای گزارش تخلفِ ازقبل موجودِ ما، پرچم‌گذاری موارد ازقرارمعلوم نقض‌کنندهٔ دستورالعمل‌های انجمن، و شکایت‌های قانونی از محتوای ازقرارمعلوم غیرقانونی را به هم نزدیک‌تر می‌کند.

پرچم‌گذاری انسانی. یک سیستم پرچم‌گذاری داریم که به کاربران واردشده به سیستم امکان می‌دهد ما را از محتوایی مطلع کنند که به‌طور بالقوه دستورالعمل‌های انجمن ما را نقض می‌کند. این سیستم پرچم‌گذاری در زیر هر ویدیو و در کنار هر نظر قابل‌دسترس است. کاربر می‌تواند با انتخاب ازمیان دسته‌های مختلف محتوا، دلیل گزارش دادن محتوا را مشخص کند. اگر چارگوش انتخاب NetzDG علامت زده نشود، این پرچم‌ها صرفاً براساس دستورالعمل‌های انجمن ما مورد ارزیابی قرار می‌گیرند. این یک سیستم خودتنظیمی داوطلبانه است که خارج از هرگونه تعهد قانونی وجود دارد. همچنین برنامه‌ای با نام «پرچم‌گذار معتمد» توسعه داده‌ایم تا فرایندها و ابزارهای قدرتمندی را برای گزارش دادن چند قطعه محتوا به سازمان‌هایی ارائه دهیم که در اطلاع‌رسانی به ما درباره محتوای ناقض «دستورالعمل‌های انجمن» ما تأثیر به‌سزایی دارند. پرچم‌های «پرچم‌گذاران معتمد» کاملاً براساس دستورالعمل‌های انجمن ما ارزیابی می‌شوند. «پرچم‌گذاران معتمد» سازمان‌های دولتی و سازمان‌های مردم‌نهاد با نرخ دقت معمولاً بالا و کارشناسان دامنه هستند که پرچم‌گذاری‌شان ورودی ارزشمندی برای سیستم کلی است. اطلاعات دقیق درباره برنامه «پرچم‌گذار معتمد» در گزارش اجرای «دستورالعمل‌های انجمن YouTube» دردسترس است.

تطبیق خودکار ماشینی. سیستم اجرایی YouTube از نقطه‌ای شروع می‌شود که کاربر ویدیویی بارگذاری می‌کند. YouTube بااستفاده از فناوری از بارگذاری مجدد محتوای ناقض شناخته‌شده جلوگیری می‌کند؛ این استفاده شامل استفاده از درهم‌سازها (یا «اثرانگشت‌های دیجیتال») است. درهم‌سازها، اثرانگشت‌های دیجیتالی متمایز برای تصاویر و ویدیوها هستند و به ما کمک می‌کنند از بارگذاری مجدد کپی‌های دقیق ویدیوهایی جلوگیری کنیم که به‌علت نقض دستورالعمل‌های انجمن برداشته شده‌اند. برای برخی محتوا، مانند تصاویر سوءاستفاده جنسی از کودکان (CSAI) و ویدیوهای جذب نیرو برای سازمان‌های تروریستی، YouTube از پایگاه‌های داده درهم‌سازهای مشترک در صنعت نیز استفاده می‌کند تا حجم محتوایی که ماشین‌های ما می‌توانند در زمان بارگذاری به دام بیندازند افزایش یابد.

پرچم‌گذاری خودکار توسط ماشین. در ژوئن ۲۰۱۷، اجرای فناوری یادگیری ماشینی را شروع کردیم تا محتوای افراطی در خشونت را برای بازبینی انسانی پرچم بزند. YouTube از مجموعه‌ای از ویدیوهایی که قبلاً ازنظر خشونت افراطی بازبینی و برداشته شده‌اند برای تعلیم فناوری یادگیری ماشینی استفاده می‌کند تا این فناوری بتواند محتوای جدیدی را که شاید ناقض دستورالعمل‌های انجمن ما باشد پرچم بزند. استفاده از فناوری یادگیری ماشینی که با تصمیمات انسانی آموزش داده شده به این معنی است که سیستم‌های اجرایی با گذشت زمان سازگار و هوشمندتر می‌شوند. چون این نتایج مثبت را دیده‌ایم، آموزش فناوری یادگیری ماشینی را در سایر زمینه‌های محتوای چالش‌انگیز، ازجمله ایمنی کودک و سخنان مشوق عداوت و تنفر، شروع کرده‌ایم. بااین‌حال، درک می‌کنیم که مؤثرترین عملکرد این سیستم‌ها زمانی است که هدفِ به‌وضوح تعریف‌شده‌ای وجود داشته باشد که در هر زمینه‌ای نقض‌کننده است. به‌صراحت می‌توان گفت خودکارسازی ماشینی نمی‌تواند جایگزین قضاوت و نازک‌اندیشی انسان شود. برای دریافت اطلاعات بیشتر، لطفاً به گزارش اجرای «دستورالعمل‌های انجمن YouTube» مراجعه کنید.

روند ارزیابی

پرچم‌گذاری نقض دستورالعمل‌های انجمن. «دستورالعمل‌های انجمن YouTube» که به‌صورت جهانی قابل‌اجرا هستند قوانین مشخص و سطح بالایی‌اند که می‌توانید آن‌ها را در اینجا مطالعه کنید. با گذشت زمان و همگام با رشد YouTube و تغییر رفتار کاربر، این دستورالعمل‌ها تکامل یافته است. کاربران پیش‌از افتتاح کانال YouTube موافقت می‌کنند از این دستورالعمل‌ها پیروی کنند.

ما موارد پرچم زده‌شده را (همان‌طور که در بالا آمده است) با درنظر گرفتن همه دستورالعمل‌های انجمن خود مرور می‌کنیم، اما دستورالعمل‌ها موارد زیر را، در کنار سایر موارد، ممنوع کرده است: برهنگی یا محتوای جنسی؛ محتوای مضر یا خطرناک؛ محتوای مشوق تنفر؛ محتوای ناهنجار یا خشن؛ آزارواذیت یا زورگیری مجازی؛ تهدید؛ و کودک‌آزاری.

YouTube ازطریق مجموعه‌ای پویا و دقیق‌تر از دستورالعمل‌های تفسیری اطمینان حاصل می‌کند که دستورالعمل‌های انجمن به‌طور مداوم اجرا می‌شود. برای مثال، دستورالعمل‌های انجمن محتوای مشوق تروریسم را ممنوع می‌داند. اگر گروهی تروریستی شاخه‌ای جدید ایجاد کند، ممکن است دستورالعمل‌های اجرایی داخلی با اطلاعاتی درباره آن گروه خاص به‌روزرسانی شود تا مرورکنندگان راهنمایی‌های لازم را برای برداشتن محتوای ترویج‌کنده آن گروه دراختیار داشته باشند. YouTube همیشه این نوع از به‌روزرسانی‌ها را دراختیار عموم قرار نمی‌دهد زیرا انجام این کار به کاربرانی که اصول اخلاقی را رعایت نمی‌کنند کمک می‌کند آسان‌تر از روند شناسایی فرار کنند.

تیم‌های بازبینی می‌توانند درطول مرور، زمینه اطراف محتوای گزارش‌شده را ببینند، ازجمله شرح ویدیو، سایر محتوای بارگذاری‌شده در کانال و فراداده‌ها (عناوین، برچسب‌ها، برنگاشت‌ها). این نشانه‌های متنی برای ارزیابی هدف بارگذاری مهم هستند. علاوه‌براین، ابزار مرور ما مُهر زمانی را که ویدیو پرچم زده شده است ثبت می‌کند و فرم‌های اینترنتی ما اضافه کردن مُهر زمان را از ارسال‌کنندگان درخواست می‌کند. با این کار، مرورکنندگان ما می‌توانند بر روی لحظات به‌طور بالقوه مشکل‌ساز ویدیو تمرکز کنند.

استثنائاتی برای مطالبی که آموزشی، مستند، علمی و/یا هنری (EDSA) هستند در نظر گرفته‌ایم. ویدیوها و نظرهایی که در دسته این استثنائات قرار می‌گیرند برای درک جهان و شرح وقایع تاریخی ضروری هستند، خواه مستندی از جنگ و انقلاب باشند، خواه اثری هنری که دربردارنده برهنگی است. به‌همین‌دلیل، در دستورالعمل‌های اجرایی YouTube دقت زیادی شده تا مرورکنندگان بتوانند هنگام مرور ویدیوهای پرچم‌گذاری‌شده، استثنائات EDSA را درک کنند. اگرچه، حتی با وجود دستورالعمل‌های مفصل، تعیین اینکه کدام ویدیوها و نظرها مشمول استثنائات EDSA هستند می‌تواند یکی‌از دشوارترین تصمیم‌گیری‌هایی باشد که مرورکنندگان YouTube باید در زمینه اجرای خط‌مشی اتخاذ کنند.

به‌طورکلی، اگر محتوایی نقض‌کننده دستورالعمل‌های انجمن ما باشد، تیم‌های بازبینی ما آن را به‌صورت جهانی برمی‌دارند. همچنین ممکن است تیم ما یکی‌از چندین اقدام جایگزین را انجام دهد:

• محدودیت سنی. بعضی‌از ویدیوها خط‌مشی‌های ما را نقض نمی‌کنند و غیرقانونی نیستند اما ممکن است برای همه مخاطبان مناسب نباشند. در این موارد، ممکن است تیم بازبینی ما بعداز مطلع شدن از محتوا، محدودیت سنی بر ویدیو اعمال کند. ویدیوهای دارای محدودیت سنی برای کاربرانی که به سیستم وارد نشده‌اند، زیر ۱۸ سال هستند، یا حالت محدود برایشان فعال شده است، قابل مشاهده نیست. وقتی این تصمیم را می‌گیریم، با ارسال ایمیلی به بارگذارنده اطلاع می‌دهیم که محدودیت سنی برای ویدیوِ او اعمال شده است و می‌تواند برای این تصمیم پژوهش‌خواهی ارسال کند. بیشتر بدانید.
• ویژگی‌های محدود. اگر تیم‌های مرور ما تشخیص دهند ویدیو ی براساس خط‌مشی‌های ما حالت بینابینی دارد، ممکن است برخی ویژگی‌های آن غیرفعال شود. این ویدیوها در YouTube دردسترس باقی می‌مانند، اما پیام اخطاری روی آن‌ها قرار داده می‌شود و برخی ویژگی‌هایشان (ازجمله هم‌رسانی، نظرات، ویدیوهای پیشنهادی، و پسندها) غیرفعال می‌شوند. این ویدیوها برای درآمدزایی نیز واجدشرایط نیستند. وقتی چنین تصمیمی بگیریم، ازطریق ایمیل به بارگذارنده اطلاع می‌دهیم که ویدیو او فقط ویژگی‌های محدودی خواهد داشت و او می‌تواند برای این تصمیم پژوهش‌خواهی ارائه کند. بیشتر بدانید.
• قفل‌شده به‌عنوان «خصوصی». اگر ویدیویی ازلحاظ فراداده گمراه‌کننده ناقض خط‌مشی ما تشخیص داده شود، ممکن است به‌عنوان «خصوصی» قفل شود. اگر ویدیویی به‌عنوان «خصوصی» قفل شود، برای عموم قابل‌مشاهده نیست. اگر بیننده‌ای پیوندی به این ویدیو داشته باشد، غیرقابل‌دسترسی نشان داده می‌شود. وقتی چنین تصمیمی بگیریم، با ایمیل به بارگذارنده اطلاع می‌دهیم که ویدیو او دیگر دردسترس عموم نیست و او می‌تواند برای این تصمیم پژوهش‌خواهی ارائه کند. بیشتر بدانید.

درباره سوءاستفاده مکرر یا نقض‌های فاحش‌تر، ممکن است کاربر را با غیرفعال کردن بعضی‌از ویژگی‌ها یا با فسخ کردن حساب تنبیه کنیم. در اکثر موارد، اولین مورد نقض دستورالعمل‌های انجمن ما به ارسال هشدار برای کاربر منجر می‌شود. در موارد بعدی، از قانون عمومی «سه ضربه‌ای» تبعیت می‌کنیم که طبق آن سه بار نقض خط‌مشی به فسخ حساب منجر می‌شود، اما ممکن است با اولین نقض فاحش نیز حساب را فسخ کنیم (مانند ایجاد رعب و وحشت).

شکایت‌های حقوقی. وقتی یک درخواست قانونی دریافت می‌کنیم، تیم مرور ما براساس اطلاعات موجود در درخواست (شامل شکایت مطرح‌شده توسط ارسال‌کننده) بازبینی قانونی انجام خواهد داد. علاوه‌براین، تیم ما به زمینه اطراف محتوای گزارش‌شده (مانند فراداده، عنوان، و غیره) نیز توجه خواهد کرد. اگر اطلاعات مهمی در درخواست ارائه نشده باشد، (برای مثال، هویت شخص در شکایت افترا)، تیم ما برای دریافت اطلاعات بیشتری که برای ارزیابی قانونی ضروری است با ارسال‌کننده تماس خواهد گرفت. اگر تشخیص دهیم محتوا غیرقانونی است، آن را به‌صورت محلی مسدود می‌کنیم.

شکایت‌های NetzDG. باتوجه‌به روند بررسی‌مان، وقتی درخواست NetzDG دریافت می‌کنیم، تیم تخصصی بازبینی NetzDG ما (به بخش «تیم‌های بازبینی» مراجعه کنید) که اطلاعات زمینه‌ای مرتبط با محتوای گزارش‌شده را می‌بیند محتوا را ازلحاظ مطابقت با تخلفات کیفری فهرست‌شده در NetzDG ارزیابی می‌کند. اگر محتوا دستورالعمل‌های انجمن ما را به‌وضوح نقض کند، تیم بازبینی NetzDG آن را به‌صورت جهانی برمی‌دارد. برهمین اساس، می‌توانیم دو تصمیم برای محتوای گزارش‌شده تحت NetzDG اتخاذ کنیم. درنتیجه، اگر ویدیویی فقط دستورالعمل‌های ما یا علاوه‌برآن قانون آلمان را نیز نقض کند، به‌صورت جهانی برداشته می‌شود. اگر دستورالعمل‌ها نقض نشده باشد، اما نتیجه بگیریم ویدیو طبق بخش ۱ (۳) NetzDG یا دیگر ضوابط قانونی محلی غیرقانونی است، آن را به‌صورت محلی مسدود خواهیم کرد.

ارزیابی شکایت‌ها اغلب دشوار است. تعیین برخی‌از جرایم کیفری حتی برای وکلا دشوار است - برای نمونه، جعل داده‌های درنظرگرفته‌شده به‌عنوان مدرک (بخش ۲۶۹ «قانون کیفری آلمان»). و به‌عنوان مثالی دیگر، کل دسته افترا و توهین زمینه‌ای است که درطول دهه‌های گذشته و به‌خصوص از زمان تصویب «قانون اساسی آلمان»، قانون پرونده‌ای مفصلی برای آن معین شده است. بنابراین، هنگامی که پای افترا و توهین به‌میان می‌آید، فقط اقلیت پرونده‌ها آشکارا غیرقانونی هستند. گاهی اوقات دادگاه‌ها سال‌ها درباره قانونی بودن قطعه‌ای محتوا کنکاش می‌کنند و درنهایت به نتیجه‌های متفاوتی می‌رسند. برای مثال، «دادگاه قانون اساسی فدرال آلمان» در مواردی قضاوت‌های «دادگاه عالی فدرال» را برگردانده (لغو کرده) است که نشان می‌دهد آزمون‌های تعادل پیچیده‌ای باید اجرا شود و قانونی بودن همیشه ضمنی است و به عوامل هر پرونده مجزا بستگی دارد. برخلاف روندهای دادگاهی، شبکه اجتماعی همیشه همه اطلاعات ضروری را دراختیار ندارد. به‌علاوه، هیچ روند اصلی که ملزم‌کننده قوانین دلالت‌کننده باشد وجود ندارد. در چنین مواردی قضاوت درمورد قابل‌قبول بودن محتوا (وقتی توسط عناصر جرم به‌خصوصی اندازه‌گیری می‌شود) بسیار دشوار است و معمولاً باید توسط دادگاه‌های مسئول تعیین شود.

رویه‌های واقعی هم این ملاحظات را حمایت می‌کنند: بسیاری از شکایت‌های NetzDG در زمینه افترا و توهین توسط فرد تحت‌تأثیر قرارگرفته ارسال نمی‌شوند، بلکه اشخاص ثالثی که فکر می‌کنند شخص متأثر احتمالاً احساس بدنامی می‌کند این موارد را ارسال می‌کنند. اینکه در عمل شخص ثالثی شکایت را ارسال کرده است یا شخص تحت‌تأثیر قرارگرفته واقعاً نزد مقامات مربوطهٔ مجری قانونْ شکایت کیفری تشکیل داده است، برای شبکه اجتماعی مشخص نیست، زیرا در موقعیتی نیستیم که هویت ارسال‌کننده را به‌تأیید برسانیم (تعقیب قانونی این جرایم به شکایت شخص اول («Antragsdelikt») نیاز دارد).

درخواست‌های NetzDG توسط تیم NetzDG ما در دو شیفت کاری، هفت روز هفته، ۳۶۵ روز سال بررسی می‌شوند تا فرصت پاک کردن جهانی یا مسدود کردن محلی محتوا در حدود زمانی تعیین‌شده در NetzDG وجود داشته باشد. اگر درخواستی آشکارا بی‌اساس باشد، بلافاصله و بنابر ملزومات قانونی به درخواست‌کننده اطلاع داده می‌شود (به بخش «اقداماتی که براساس NetzDG برای اطلاع‌رسانی به ارسال‌کننده و بارگذارنده انجام می‌شود» مراجعه کنید). اگر محتوا به‌طور واضح ناقض دستورالعمل‌های جهانی انجمن YouTube یا قوانین کیفریِ مربوطه نباشد، یا محتوا به‌صورت دیگری پیچیده باشد یا ارتباط آشکاری با آلمان نداشته باشد، مرورکننده محتوایِ NetzDG مسئول درخواست را برای بررسی فوری به سطح بالاتر ارجاع می‌دهد و به‌این‌ترتیب، مرورکنندگان ارشد محتوا اقدام مناسب را انجام می‌دهند. درخواست‌های پیچیده به تیم حقوقی YouTube انتقال داده می‌شود، و اگر تیم حقوقی نیز برای تصمیم‌گیری درباره پرونده‌های دشوار و مرزی دچار شک و تردید شود، آن‌ها را به بخش حقوقی Google Germany GmbH ارجاع می‌دهد، که این بخش نیز می‌تواند پرونده‌های به‌طور خاص دشوار را به مؤسسه‌های حقوقی خارجی با تخصص ویژه در زمینه قوانین کیفری ارجاع دهد. این روند معمولاً تا هفت روز زمان می‌برد.

برای اطمینان از اینکه عملکرد تیم NetzDG طبق انتظار است و «دستورالعمل‌های انجمن YouTube» و جرایم کیفری تحت NetzDG را به‌درستی و پیوسته اجرا می‌کند، روند ارزیابی کیفیت سخت‌گیرانه‌ای را به‌کار گرفته‌ایم. در این دوره گزارش، به‌طور میانگین حدود ۳۰٪ از محتوای بازبینی‌شده از هفته گذشته را به‌عنوان نمونه انتخاب کرده‌ایم. ممکن است حجم ارزیابی کیفیت از هفته‌ای به هفته دیگر و بسته به حجم شکایت‌های ورودی تغییر کند. درطول این روند، تیم بررسی کیفیت تصمیم‌های گرفته‌شده توسط هریک از مرورکنندگان محتوا را ارزیابی می‌کند، بازخورد انفرادی به هر یک از آن‌ها ارائه می‌دهد، و از نتایج حاصل از بررسی کیفیت یک تجزیه‌وتحلیل کلی تهیه می‌کند. نمونه کیفیت انتخاب‌شده اساس مرور هفتگی داده‌های کیفیت است. بازرسان کیفیت تیم مجزایی در تیم اصلی NetzDG هستند و از اعضای ارشد تیم تشکیل شده‌اند که قبلاً در بخش بازبینی محتوا فعالیت کرده‌اند و تجربه قابل‌توجهی در زمینه قوانین کیفری که در NetzDG مشخص شده است و «دستورالعمل‌های انجمن YouTube» دارند. در جلسه‌های هفتگی که میان تیم حقوقی YouTube و تیم NetzDG برگزار می‌شود، نه تنها درباره جدیدترین نتایج ارزیابی کیفیت گفتگو می‌کنیم، بلکه پرونده‌های به‌طور ویژه جالب، دشوار، و پیچیده را واسنجی می‌کنیم. علاوه‌براین، هرگونه گرایش قابل‌توجه، «موضوعات داغ» کنونی، و تکامل قانون پرونده‌ای را مطرح و به‌طور کامل مورد بحث‌وگفتگو قرار می‌دهیم تا رویکرد هماهنگ در تیم NetzDG تضمین شود. در شرایط مقتضی، خط‌مشی‌های برداشتن محتوا را پالایش می‌کنیم تا برای مثال، با به‌روزرسانی‌های صورت‌گرفته در «دستورالعمل‌های انجمن YouTube» و تکامل قانون پرونده‌ای مطابقت یابد. در چنین مواردی، راهنمایی‌های جدید، و درصورت نیاز، مطالب آموزشی دراختیار همه اعضای تیم NetzDG قرار می‌گیرد.

درخواست‌های تجدیدنظر

پژوهش‌خواهی برای تصمیم‌های NetzDG: اگر ویدیویی گزارش‌شده ازطریق شکایت نقض NetzDG را، تحت یکی‌از تخلفات کیفری فهرست‌شده در NetzDG، به‌عنوان غیرقانونی شناسایی کنیم، بارگذارنده پیام مشابهی را به‌همراه پیوندی به فرم مخصوص پژوهش‌خواهی دادن برای تصمیم دریافت می‌کند. اگر شکایت به‌دلیل اینکه هیچ مورد نقضی از شکایت کیفری فهرست‌شده در NetzDG پیدا نکرده باشیم رد شود، همین روال برای ارسال‌کننده شکایت نیز اعمال می‌شود.

اگر چنین پژوهش‌خواهی‌ای براساس NetzDG ارسال شود، یکی‌از اعضای تیم NetzDG که تصمیم‌گیری اولیه را برعهده نداشته است بازبینی‌های بیشتری تحت NetzDG انجام می‌دهد و تعیین می‌کند که آیا تصمیم اولیه درخصوص نقض قوانین کیفری فهرست‌شده در NetzDG باید حفظ شود یا تغییر کند. نتیجه این بازبینی اضافی ازطریق ایمیل اعلام می‌شود.

درخواست‌های تجدیدنظر دستورالعمل‌های انجمن: وقتی YouTube درخصوص ویدیویی که دستورالعمل‌های انجمن ما را نقض می‌کند اقدامی انجام دهد، اقدام انجام‌شده و دلیل انجام آن را به بارگذرنده ویدیو اطلاع می‌دهد. شرحی از پرونده، پیوندی به جایی‌که می‌توان اطلاعات بیشتری درباره برداشتن محتوا کسب کرد، و پیوندی به روند پژوهش‌خواهی برای ارزیابی مجدد محتوا براساس دستورالعمل‌های انجمن ما دراختیار کاربر قرار می‌دهیم. مدت‌زمان زیادی است که به کاربران اجازه می‌دهیم اگر معتقدند محتوایشان نقض‌کننده دستورالعمل‌های انجمن ما نیست، پژوهش‌خواهی برای تصمیم ارائه دهند. این روند به‌طور دقیق در اینجا شرح داده شده است. درخواست‌های تجدیدنظر و بازگرداندن‌های محتوای دستورالعمل‌های انجمن بخشی‌از گزارش اجرای دستورالعمل‌های انجمن YouTube است. داده‌های دقیق در این صفحه وب دردسترس است.

اگرچه فناوری در شناسایی برخی انواع محتوای بحث‌آفرین بسیار مفید بوده است برای نمونه، پیدا کردن سریع اشیا و الگوها و در مقیاس تصویر، ویدیو و صوت — انسان‌ها درزمینه ارزیابی «بهترین» هستند. برای مثال، الگوریتم‌ها همیشه نمی‌توانند تفاوت میان تبلیغات تروریستی با فیلمی درباره حقوق انسانی و یا سخنان مشوق عداوت و تنفر با کمدی تحریک‌آمیز را تشخیص دهند. معمولاً انسان‌ها باید تصمیم نهایی را بگیرند.

بازبینی پرچم‌های نقض دستورالعمل‌های انجمن و اعلامیه‌های دیگر توسط سیستم‌های فناوری ما و همراه با کارمندان Google یا کارگزاران استخدام‌شده انجام می‌شود. ما چارچوب بازبینی با کیفیت بالایی تهیه کرده‌ایم تا تضمین کند کارکنانمان در سراسر جهان پیوسته تصمیمات درستی درباره محتوای پرچم‌گذاری‌شده می‌گیرند، و بازخورد منظمی درباره عملکرد آن‌ها دریافت می‌کنیم. تیم‌های بازبینی ما از هزاران فرد مسلط به چند زبان تشکیل شده است که به‌صورت شبانه‌روزی، هفت روز هفته، ۳۶۵ روز سال، و در مناطق زمانی سراسر جهان پرچم‌های تخلف را بادقت ارزیابی می‌کنند. این تیم‌ها چندین عضو آلمانی‌زبان دارند.

برخی از اعضای تیم‌هایی که در زمینه رسیدگی به شکایت‌های قانونی فعالیت می‌کنند، متخصصین حقوقی آلمانی‌زبان با مدرک دانشگاهی حقوق هستند. این افراد متخصص که همگی در زمینه قوانین محلی آموزش دیده‌اند، با انجمن مشاوران محلی Google رایزنی می‌کنند. Google تیم حقوقی بزرگی از مشاوران حقوقی ساکن در بسیاری از کشورهای اروپایی به‌کار گرفته است. درصورت لزوم، این افراد در تجزیه‌وتحلیل حقوقی محتوای گزارش‌شده به ما کمک می‌کنند، و ممکن است از مشاوران حقوقی محلی خارجی نیز مشاوره حقوقی بیشتری بگیرند.

تیم NetzDG. برای درخواست‌های NetzDG تیمی تخصصی واقع در آلمان در یکی از ارائه‌دهندگان خارجی خدمات تشکیل داده‌ایم (تیم NetzDG). بسته به تعداد درخواست‌های NetzDG ورودی، تعداد بازبینان محتوا تغییر می‌کند. در این دوره گزارش، ۷۷ نفر از اعضای تیم NetzDG روی درخواست‌های NetzDG کار می‌کردند. از این تیم، ۶۱ نفر بازبین محتوا (ازجمله بازبین ارشد محتوا) بودند، پنج سرگروه بر کار آن‌ها نظارت داشتند و شش بازبین کیفی و دو مربی آن‌ها را پشتیبانی می‌کردند.

برای تضمین تنوع فرهنگی، بازبینان ما زمینه‌های حرفه‌ای متفاوتی دارند، به زبان‌های مختلف صحبت می‌کنند و از رده‌های سنی متفاوتی هستند (در این دوره گزارش، رده سنی آن‌ها بین ۲۱ تا ۵۵ سال بود). همه اعضای تیم NetzDG به زبان آلمانی مسلط هستند؛ زبان اصلی اکثر آن‌ها آلمانی است. همه اعضای تیم NetzDG به زبان انگلیسی نیز صحبت می‌کنند؛ ۱ تا ۳۰ نفر از اعضای تیم NetzDG به یک یا چند زبان زیر نیز صحبت می‌کنند: ترکی، روسی، اسپانیایی، بلغاری، ایتالیایی، ژاپنی، صربستانی، کردی، اوکراینی. در عمل ثابت شده است که این تنوع زبانی برای ارزیابی پیوندهای بالقوه به کشور آلمان که به زبان‌های دیگر هستند مفید واقع می‌شود. در این دوره گزارش، تقریباً یک‌چهارم (۲۵٪) اعضای تیم NetzDG مدرک دانشگاهی مثل کارشناسی، کارشناسی ارشد، یا گواهی دولتی در رشته‌هایی مثل علوم سیاسی، مطالعات ترجمه، علوم رسانه‌ای، مدیریت اجرایی کسب‌وکار، علوم بهداشتی، مهندسی صنعتی، باستان شناسی، یا آموزش داشتند. یک نفر از اعضای تیم مدرک دکتری (PhD) داشت. تقریباً ۴۰ درصد از اعضای تیم به‌عنوان کارآموز در نقش‌هایی مثل خرده‌فروش، آشپز، آجرچین، کارمند بخش مدیریت صنعتی، دفتری، مسافرتی، یا نشر، یا در رشته‌هایی مثل فناوری اطلاعات و رسانه، مدیریت لجستیک، یا فناوری غذا فعالیت داشته‌اند.

تیم NetzDG حداقل دو بار در سال، هم برای ارزیابی جرایم کیفری مربوطهٔ تحت NetzDG و هم «دستورالعمل‌های انجمن» YouTube آموزش می‌بیند.

دوره عمومی آماده‌سازی با کلیه «دستورالعمل‌های انجمن YouTube»، پردازش‌ها، و سیستم‌های فنی ما و همچنین جلسه‌های آموزشی حقوقی درباره جرایم مشخص‌شده در NetzDG برای همه اعضای تیم NetzDG برگزار می‌شود. علاوه‌بر دوره آماده‌سازی، معمولاً هر شش ماه یک‌بار جلسه‌های اجباری بازآموزی قوانین NetzDG ترتیب می‌دهیم. جلسه‌های بازآموزی توسط تیمی که عموماً از وکلای خارجی و اعضای تیم حقوقی YouTube و Google Germany GmbH تشکیل می‌شود به زبان آلمانی برگزار می‌شود. بااستفاده از اندازه گروه الگوهای شیفت کاری، این دوره‌های آموزشی را در چند جلسه برگزار می‌کنیم تا مطمئن شویم همه اعضای تیم، شامل رهبران تیم، بازبین‌های کیفی، و مربیان، آموزش لازم را دریافت می‌کنند و فرصت کافی برای مطرح کردن پرسش و مثال‌های قابل‌بحث (که ازقبل جمع‌آوری می‌شود) وجود دارد. علاوه‌براین، درصورت لزوم آموزش‌های ویژه حقوقی ترتیب می‌دهیم که توسط تیم حقوقی YouTube با همکاری اعضای بخش حقوقی Google Germany GmbH برگزار می‌شود. ما از مدل «آموزش مربی» استفاده می‌کنیم، یعنی مربیان تعیین‌شده در تیم NetzDG را آموزش می‌دهیم و سپس این مربیان مسئول ارائه آموزش به بقیه اعضای تیم NetzDG خواهند بود. هم جلسه‌های بازآموزی و هم آموزش‌های حقوقی ویژه به پیشرفت‌های کنونی، گرایش‌ها، رویه‌های قضایی جدید، و انواع درخواست‌هایی که ارزیابی آن‌ها در نیم‌سال گذشته دشوار بوده است می‌پردازند. آموزش‌های حقوقی ویژه ما شامل موضوعاتی مانند افترای مذهبی، محتوای خشونت‌آمیز، و توهین به چهره‌های معروف و سیاست‌مداران می‌شود.

دوره‌های بازآموزی دستورالعمل‌های انجمن نیز مکرراً برای تیم NetzDG برگزار می‌شود. در این دوره‌های بازآموزی، پیشرفت‌ها و گرایش‌های جدید مربوط به تیم، مانند موارد مربوط به سخنان مشوق عداوت و تنفر و امنیت کودکان، به اعضا آموزش داده می‌شود. علاوه‌براین، جلسه‌های آموزشی ویژه‌ای برای زمینه‌های خاص مانند محتوای مرتبط با سلاح، شوخی‌ها و چالش‌های آسیب‌رسان و خطرناک، امنیت دیجیتال، و شایعه برگزار می‌شود. جلسه‌های آموزشی با محوریت دستورالعمل‌های انجمن، توسط مدیران اجرای خط‌مشی و با همکاری اعضای تیم حقوقی YouTube ارائه می‌شود. علاوه‌براین، تیم NetzDG در شرایط مقتضی، به‌روزرسانی‌های هفتگی و فوری درباره دستورالعمل‌های انجمن دریافت می‌کند.

برنامه‌های سلامتی باکیفیت و حمایت روانی برای اعضای تیم NetzDG ارائه می‌شود، مثل جلسه‌های آموزشی که به‌صورت منظم یا بنابر درخواست برگزار می‌شود و جلسه‌های مشاوره فردی که به آلمانی و ازطریق تیم اختصاصی روان‌شناسان، درمان‌گران، و مربیان آلمانی‌زبان برگزار می‌شود. تیم ازطریق خط مستقیم تلفنی به مشاوره شبانه‌روزی در هفت روز هفته دسترسی دارد. همچنین امکاناتی برای حمایت از سلامتی فراهم کرده‌ایم، شامل فضاهای استراحت و فضای اختصاصی و خصوصی برای جلسه‌های مشاوره انفرادی. این برنامه‌ها و امکانات با برنامه سلامتی که برای همه تیم‌های بازبینی Google و YouTube ارائه می‌کنیم هماهنگ است. علاوه‌براین، اعضای تیم می‌توانند با نرخ‌های تخفیف‌دار به عضویت باشگاه‌های تناسب‌اندام و بدن‌سازی درآیند.

Google در انجمن‌های زیر که مرتبط با NetzDG هستند نماینده YouTube است:

• Freiwillige Selbstkontrolle Multimedia-Diensteanbieter e.V. (FSM)
• eco - Verband der Internetwirtschaft e.V.
• Deutschland sicher im Netz e.V.
• Bitkom-Bundesverband Informationswirtschaft, Telekommunikation und neue Medien e.V.

FSM و eco خطوط تلفن مستقیمی دارند که مشتریان می‌توانند با آن‌ها تماس بگیرند و تخلف‌ها را گزارش دهند،‌ این گزارش‌ها سپس برای ارزیابی به تیم‌های بازبینی ما ارسال می‌شود. برای هر مورد، بازخورد دقیقی درباره تصمیمی که گرفته‌ایم به خط تلفن قرمز گزارش تخلف ارسال می‌کنیم.

معتقدیم همکاری کلید موفقیت است. ما با گروه‌های مدنی که هدفشان ریشه‌کن کردن سخنان مشوق عداوت و تنفر و تبعیض است و با دولت‌ها برای ایجاد درکی از زمینه‌های محلی و توسعه راه‌کارها، همکاری نزدیکی داریم. به‌طور منظم شیوه‌های اجرای خط‌مشی‌هایمان را با شریکان و کارشناسان مرور می‌کنیم. همین‌طور از سازمان‌های مردم‌نهاد دعوت می‌کنیم در کارگاه‌های محلی یا کشوری ما شرکت کنند. هدف از این کارگاه‌ها آموزش خط‌مشی‌ها و به‌روزرسانی‌های محصول، آموزش استفاده از سرویس‌های Google و همچنین اقدامات امنیتی و بحث و گفتگو درباره چالش‌های اخیر و مشکلات اصلی امنیتی است.

ابتکارها و پروژه‌های مختلفی وجود دارد که Google و YouTube به‌وسیله آن‌ها سخنان مشوق عداوت و تنفر در فضای آنلاین را مهار و از قربانیان محتوای غیرقانونی حمایت می‌کنند.

چالش تأثیر بر ایمنی Google.org صندوقی ۱۰ میلیون یورویی است که از سازمان‌های اروپایی که درزمینه چالش‌های مرتبط با تنفر، افراط‌گرایی، و ایمنی کودکان، هم در فضای آنلاین و هم در فضای آفلاین فعالیت می‌کنند پشتیبانی می‌کند. با تأمین مالی پروژه‌های انجمن موجود و جدید در سراسر اروپا، Google امیدوار است از ابتکار عمل‌هایی برای مقابله با تنفر و افراط‌گرایی حمایت کند، و به جوانان و نوجوانان کمک کند به شهروندان دیجیتال مطمئنی تبدیل شوند. سازمان‌های آلمانی HateAid و Gefangene helfen Jugendlichen e.V جزو برندگان هستند. HateAid بااستفاده از این کمک هزینه قصد دارد حمایت‌های دردسترس برای قربانیان سخنان مشوق عداوت و تنفر و جرایم تنفر‌محور در فضای آنلاین را بهبود ببخشد، در بین کاربرانی که این جرایم را تجربه کرده‌اند مقاومت ایجاد کند، و آن‌ها را تشویق کند به فضای آنلاین برگردند تا احساس نکنند صدایشان با رویکردهای نفرت‌محور خاموش شده است. برای کاهش نرخ تکرار جرایم در بین نوجوانان آسیب‌پذیر آلمانی، تیمی از Gefangene helfen Jugendlichen برنامه‌ها و حمایت حرفه‌ای به نوجوانان ارائه می‌دهد، مثلاً بازدید از زندان‌ها و گفتگو با محکومان پیشین، تا نوجوانان آسیب‌پذیر با جرایم و آسیب‌های دنیای واقعی آشنا شوند.

برای سال‌های متمادی، Google نیز این تعهد را داشته است تا سواد رسانه‌ای را ترویج کند، نوجوانان و کاربران را در همه گروه‌های سنی توانمند سازد، و با ارائه منابعی برای کلاس‌های درس از معلمان حمایت کند. همواره درتلاشیم آگاهی درباره سازوکارهای پرچم‌گذاری را افزایش دهیم و ابزارهای بهزیستی، تنظیمات، و خط‌مشی‌های Google و YouTube را به کاربران آموزش دهیم.

Google از سال ۲۰۱۳ «انجمن آلمانی برای خودتنظیمی داوطلبانه ارائه‌دهندگان خدمات رسانه‌های دیجیتال» (FSM e.V.‎) را حمایت و تأمین مالی می‌کند تا گزیده منابع آموزشی «Medien in die Schule» را که حاوی طرح‌های درسی درزمینه شکل‌دهی دیدگاه‌ها در فضای آنلاین، مقابله با سخنان مشوق عداوت و تنفر، واقعیت درمقایسه با تخیل در رسانه‌ها، و سواد اطلاعاتی است، ایجاد و بیش‌از گذشته توسعه دهد.

در سال ۲۰۰۹، YouTube همراه با شرکای محلی‌اش و تحت حمایت صدراعظم مرکل، طرح «‎361 Grad Respekt» را برای اولین‌بار شروع کرد؛ این طرح چند بار دیگر بین سال‌های ۲۰۰۹ تا ۲۰۱۴ اجرا شد (از سال ۲۰۱۰ تحت حمایت «وزیر خانواده») و در سال ۲۰۱۶ با دو تکرار (۲۰۱۶ و ۲۰۱۸)، تحت نام ‎#NichtEgal احیا شد. هدف این طرح‌ها پرورش رفتارهای محترمانه هم در فضای آنلاین و هم فضای آفلاین، و تشویق نوجوانان برای ایستادگی دربرابر تبعیض و تنفر ازطریق برگزاری کارگاه‌های مدارس و مسابقات ویدیویی است.

«انجمن آلمانی برای خودتنظیمی داوطلبانه ارائه‌دهندگان خدمات رسانه‌های دیجیتال» (FSM e.V.‎) با تأمین مالی ازسوی بازوی بشردوستانه Google ‏(Google.org)، پروژه «Weitklick» را در مه ۲۰۲۰ راه‌اندازی کرد؛ هدف این پروژه توسعه پلاتفرم یادگیری ترکیبی برای آموزش به معلمان درخصوص پدیده گمراه‌سازی و نحوه رسیدگی به این پدیده در کلاس و همچنین نزدیک‌تر کردن معلمان، مدارس، و روزنامه‌نگاران به یکدیگر بود.

سرمایه‌گذاری روی شبکه‌ای جهانی متشکل از بیش‌از ۳۰۰ همکار دانشگاهی، شریک دولتی، و سازمان مردم‌نهاد جهانی (NGO) را که افراد متخصص ارزشمندی به سیستم‌های اجرایی ما می‌آورند ادامه می‌دهیم، مثلاً در آلمان، Amadeu Antonio Foundation، ‏Nummer gegen Kummer و همچنین «شبکه جلوگیری از خشونت» جزو این شبکه هستند.

YouTube برای اجرای «دستورالعمل‌های انجمن YouTube» به چارچوب «انسان + ماشین» متکی است تا بتواند محتوای نامناسب را پرچم‌گذاری کند و اجازه دهد ارزیابی‌ای براساس دستورالعمل‌های انجمن انجام شود. منبع پرچم‌هایی که براساس موارد نقض احتمالی دستورالعمل‌های انجمن گذاشته شده‌اند می‌تواند سیستم‌های پرچم‌گذاری خودکار YouTube، اعضای برنامه «پرچم‌گذار معتمد» (متشکل از NGO، سازمان دولتی، و شخص)، یا کاربران انجمن وسیع‌تر YouTube باشد.

YouTube همیشه از ترکیبی از بازبین‌های انسانی و فناوری برای رسیدگی به محتوای ناقض در پلاتفرم استفاده کرده است، و در سال ۲۰۱۷، YouTube شروع به اعمال فناوری یادگیری ماشینی پیشرفته‌تری برای پرچم زدن محتوا برای بررسی توسط تیم‌های بازبین کرد. این ترکیبِ فناوری تشخیص هوشمند و بازبین‌های انسانیِ کاملاً آموزش‌دیده به YouTube امکان داده است خط‌مشی‌ها را به‌طور مداوم و با سرعت بالا اجرا کند.

ماشین‌ها به YouTube امکان می‌دهند محتوا را در مقیاس بالا برای بازبینی پرچم بزند، و به ما کمک می‌کنند میلیون‌ها ویدیو نقض‌کننده را پیش‌از اینکه کسی آن‌ها را مشاهده کند برداریم. و سرمایه‌گذاری YouTube در یادگیری ماشین برای سرعت دادن به برداشتن‌ها در میان ناحیه‌های پرخطر با مقدار کم (مثلاً افراط‌گرایی خشونت‌آمیز) و در ناحیه‌هایی با مقدار بالا (مثلاً هرزنامه) بی‌نتیجه نبوده است.

در اینجا می‌توانید به داده‌های به‌روز برداشتن در گزارش اجرای «دستورالعمل‌های انجمن YouTube» دسترسی داشته باشید.

استقرار یادگیری ماشینی در حقیقت به معنی بیشتر شدن افرادی است که محتوا را بازبینی می‌کنند، نه کمتر شدن آن‌ها. سیستم‌های ما برای ارزیابی اینکه محتوا خط‌مشی‌های ما را نقض می‌کند یا نه به بازبینی انسانی متکی هستند.

وقتی تشخیص دهیم ویدیویی دستورالعمل‌های ما را نقض می‌کند، ویدیو را برمی‌داریم و اخطاری به کانال آن اعمال می‌کنیم. اگر گردانندگان کانال بخواهند به پست کردن محتوای ممنوع‌شده توسط دستورالعمل‌های انجمن ما ادامه دهند یا تنها یک مورد نقض فاحش مثل بهره‌کشی جنسی از کودکان داشته باشند، کل کانال آن‌ها را فسخ می‌کنیم. اکثر سوءاستفاده‌های صورت‌گرفته ازطرف افراد فریب‌کاری است که قصد دارند هرزنامه یا محتوای بزرگسالان بارگذاری کنند.

برای کسب اطلاعات بیشتر درباره نحوه مبارزه ما با این نوع محتوا و تأثیر سرمایه‌گذاری‌هایمان، روی اینجا کلیک کنید.

همچنین ابزارهایی ساخته‌ایم که به سازندگان محتوا امکان می‌دهد نظرهای روی ویدیوهایشان را میان‌داری کنند. برای مثال، سازندگان محتوا می‌توانند انتخاب کنند که همه نظرها برای بازبینی نگه داشته شود یا نظرهایی که حاوی پیوند یا محتوای توهین‌آمیز باشند به‌طور خودکار نگه داشته شوند. بیش‌از یک میلیون سازنده محتوا اکنون برای میان‌داری نظرهای کانال خود از این ابزارها استفاده می‌کنند.

شرایط خدمات YouTube به‌وضوح ساختاربندی شده است و در کنار موارد دیگر، شامل فصل «محتوا و رفتار شما» می‌شود که با زبانی کاربرپسند به کاربران توضیح می‌دهد چه محتوا و چه رفتاری در این پلاتفرم ممنوع است. «شرایط خدمات» صریحاً بیان می‌کند که استفاده از این سرویس تحت کنترل «شرایط خدمات»، «دستورالعمل‌های انجمن YouTube»، «خط‌مشی YouTube»، «خط‌مشی‌های ایمنی و حق نشر» (باهم «قرارداد» نامیده می‌شوند) است. طبق «شرایط خدمات»، هیچ محتوایی که این «قرارداد» یا قانون را نقض کند قابل پست شدن نیست. دستورالعمل‌های انجمن ادغام‌شده در این «قرارداد» به‌شکلی واضح و قابل‌درک ساختاربندی شده است و پنج حیطه مباحث را پوشش می‌دهد: هرزنامه و اقدامات فریبکارانه، محتوای حساس، محتوای خطرناک و خشونت‌آمیز، کالاهای تحت نظارت، و کژاطلاعات. هرکدام از این حیطه‌های مباحث به بخش‌های بیشتری که حاوی خط‌مشی‌های مربوط به خود هستند تقسیم می‌شوند. هرکدام از این خط‌مشی‌ها با شرحی کلی از محتوایی که در YouTube مجاز نیست و دلایل آن شروع می‌شود. در زیر سرصفحه «معنی این خط‌مشی برای شما چیست»، خط‌مشی به کاربران اطلاع می‌دهد که معنی دقیق این خط‌مشی دررابطه با رفتار کاربران در این پلاتفرم چیست. این قسمت معمولاً با زیربخش «مثال‌ها» ادامه پیدا می‌کند که نمونه‌های خاصی از محتوا را که تحت این خط‌مشی در YouTube مجاز نیست فهرست می‌کند. در آخر، در فصل «اگر محتوا این خط‌مشی را نقض کند چه اتفاقی روی می‌دهد»، عواقب نقض احتمالی خط‌مشی به کاربران توضیح داده می‌شود. درنتیجه، این شروط قابل‌پذیرش بودن توزیع محتوا در YouTube را با زبان و طراحی کاربرپسندی مدیریت می‌کنند. این شروط حاوی توضیحات دقیقی درباره رفتار غیرقابل‌قبول هستند و نمونه‌های واضحی از آن را نشان می‌دهند. پیدا کردن شروط آسان است، به‌شکلی واضح و قابل‌درک نوشته شده‌اند، و درنتیجه با الزامات بخش ۳۰۷ پاراگراف ۱، ۳۰۸، و ۳۰۹ BGB مطابقت دارند. شروط درج‌شده در این دستورالعمل‌ها براساس هدف، معیارهای قابل‌تأیید، و درنتیجه مطابق با استانداردهای قانون مورد مربوطه هستند. به‌علاوه، به‌طور دقیق به کاربران اطلاع داده می‌شود که اعلان‌های مربوط به هرگونه موارد نقض «شرایط خدمات» یا دستورالعمل‌های انجمن را چگونه دریافت می‌کنند و اینکه در کجا و چگونه می‌توانند بیانیه‌ها یا کنش‌های پژوهش‌خواهی خود را ارسال کنند.

در هر دوره گزارش، مجموعه مثال‌هایی را جمع‌آوری می‌کنیم تا تصمیمات گرفته‌شده در رابطه با محتوای منتسب به غیرقانونی بودن را بهتر نشان دهد. با این کار سعی داریم تصویری از وسعت محتوای تحت NetzDG و انواع محتوایی که درخواست حذفشان را دریافت می‌کنیم ترسیم کنیم.