חוק האכיפה ברשת (NetzDG) מחייב רשתות חברתיות עם יותר משני מיליון משתמשים רשומים בגרמניה להסיר תוכן 'לא חוקי בעליל' (למשל: סרטון או תגובה) תוך 24 שעות מקבלת התלונה על תוכן לא חוקי לפי NetzDG (בהמשך תצוין כ'תלונה' או כ'תלונה במסגרת NetzDG'). במקרים שבהם לא ברור אם החוק הופר או לא, בדרך כלל הספק צריך לקבל החלטה תוך שבעה ימים. במקרים יוצאים מן הכלל התהליך יכול להימשך יותר זמן. למשל, אם פונים למשתמשים שמעלים תוכן – המשתמשים שעבורם שמורים ב-YouTube סרטונים או תגובות (מעלה התוכן) – כדי לברר מולם את הסוגיה, או אם ההחלטה מועברת לישות משותפת בתחום שמוכרת כמוסד לרגולציה עצמית. במסגרת חוק NetzDG, כדי שנחויב להסיר את התוכן, הוא צריך להפר את אחת מ-22 ההוראות בחוק העונשין הגרמני (StGB) שאליהן מתייחס חוק NetzDG‏ (סעיף מס' ‎1 (3) של NetzDG). אנחנו בודקים את כל התלונות במסגרת NetzDG לפי העבירות הפליליות שמפורטות בסעיף מס' ‎1 (3) של NetzDG. אם אנחנו מזהים שהתוכן לא חוקי לפי סעיף מס' ‎1 (3) של NetzDG, אנחנו מגבילים אותו באופן מקומי. אם התוכן מפר בצורה ברורה את הנחיות הקהילה הגלובליות של YouTube, אנחנו מסירים אותו באופן גלובלי.

במסגרת חוק המאבק בימין הקיצוני ובפשעי שנאה הורחב היקף התוכן של העבירות הפליליות שמפורטות בסעיף מס' ‎1 (3) של NetzDG. לדוגמה, נערכו תיקונים לעבירה מסוג הפרעה לשלום הציבור על ידי איום בביצוע עבירות (סעיף 126) ולעבירה מסוג תגמול על עבירות ואישור שלהן (סעיף 140), ועכשיו הן כוללות גם עבירה מסוג גרימת נזק גופני חמור (סעיף 224). בנוסף, ב-1 בפברואר 2022 נוסף סעיף 189 (חילול זכר המת) של חוק העונשין הגרמני (StGB) לעבירות הפליליות שמפורטות ב-NetzDG. בעקבות ההרחבות והתוספות האלה, נוספים עוד תנאים משפטיים לא מוגדרים לבדיקות שיש לבצע, וכך גדל הסיכון לקבלת החלטות שגויות.

לפי NetzDG, רשתות חברתיות מחויבות ליצור ולפרסם דוח על הטיפול בתלונות כאלו (דוח שקיפות) מדי שנתיים. אנחנו מצייתים למחויבות זו על ידי פרסום דוח זה. אנחנו מעדכנים את הדוח הזה לתקופות הדיווח שמינואר עד יוני ומיולי עד דצמבר של כל שנה. דוח ברירת המחדל שזמין כאן מפרט על תקופת הדיווח הקודמת, אבל המשתמשים יכולים להציג גם נתונים מתקופות דיווח קודמות. הגרסה הנוכחית של הדוח זמינה גם להורדה בסוף הדוח.

כיום, מדי דקה מעלים ל-YouTube יותר מ-500 שעות של סרטונים. זהו אחד מהאוספים הגדולים ביותר של תרבות אנושית, שמרוכז במקום אחד: קהילה שבה אנשים מכל העולם יכולים ליצור ולשתף רעיונות ודעות. כדי להגן ולשמור על הקהילה הזו, קבענו ל-YouTube כללים ואנחנו מוודאים שהמשתמשים מצייתים להם. הנחיות הקהילה שלנו אוסרות להעלות קטגוריות מסוימות של חומרים, כולל תוכן מיני בוטה, ספאם, דברי שטנה, הטרדה והסתה לאלימות. כשתוכן מפר את הנחיות הקהילה שלנו, נסיר אותו או נגביל את הגישה אליו באופן גלובלי. מסגרת העבודה המשלבת בין אנשים למכונות מאפשרת ל-YouTube להתקדם באופן משמעותי ביכולת לאכוף את ההנחיות שלנו. מידע נוסף זמין בדוח אכיפת הנחיות הקהילה של YouTube.

אנחנו מצייתים לחוק הגרמני ולחוקים מקומיים אחרים. כשאנחנו מקבלים תלונות עם בקשה להסרת תוכן לא חוקי לכאורה, אנחנו בודקים כל תלונה בקפידה. אם התוכן מפר חוק מקומי, נחסום באופן מקומי את התוכן שנזהה כלא חוקי. אנחנו נוקטים גישה זהה כשאנחנו מטפלים בכל הבקשות המשפטיות להסרת תוכן. כפי שמפורט בדוח הזה, אחת המשימות הקשות ביותר של צוות הבודקים של YouTube היא להחליט אם התוכן מפר את אחד החוקים המקומיים.

כדי שנצליח ליצור קהילה גלובלית ומעורבת אונליין ב-YouTube, אנחנו זקוקים לשיתוף פעולה של צוות רחב, שכולל מומחי מדיניות, עורכי דין, מהנדסי תוכנה, מנהלי מוצרים, אנליסטים של נתונים, בודקי תוכן, אנליסטים לענייני תפעול, אנליסטים לזיהוי איומים חדשים ועוד רבים וטובים. בנוסף, המשוב שאנחנו מקבלים מקהילת המשתמשים הגלובלית שלנו, מארגונים לא ממשלתיים, מממשלות ומשותפות בתחום – בהן חברות טכנולוגיה אחרות – תורם באופן משמעותי להתפתחות של YouTube כפלטפורמה מצליחה למשתמשים וליוצרי תוכן מכל העולם.

הנתונים האלה כוללים רק תלונות שמתייחסות לתוכן לא חוקי לכאורה, כפי שמוגדר בסעיף מס' 1, פסקה 3 במסגרת חוק NetzDG (לא מספר התלונות הכולל שהתקבלו באמצעות ערוצי הדיווח, שבפירוש לא מובילות להערכה לפי NetzDG).

המונח 'תלונה' שמופיע בדוח השקיפות הזה מתייחס לפריטים בודדים. אם מספר פריטים (למשל, מספר סרטונים או תגובות) כפופים לתלונה במסגרת NetzDG, אנחנו סופרים תלונה אחת לפריט. לדוגמה, אם אנחנו מקבלים תלונה במסגרת NetzDG שמכילה 3 סרטונים שונים, אנחנו סופרים 3 תלונות בהתאמה. כלומר, תלונה אחת לכל פריט שדווח. לפיכך, אנחנו סופרים כל תלונה בודדת לגבי סרטון או תגובה כפריט בודד בדוח הזה. התרשימים שבהמשך, שמסומנים כפריטים, מספקים נתונים לגבי מספר התלונות בנוגע לפריטים שהוגשו במהלך 6 החודשים של תקופת הדיווח.

בתרשימים שבהמשך רואים את מספר הפריטים שהוסרו או נחסמו בעקבות תלונה במסגרת NetzDG בתקופת הדיווח.

לפי NetzDG, נציגים של רשתות חברתיות רשאים לפנות למעלה התוכן לצורך בירור של הצהרת עובדה כלשהי או נסיבות עובדתיות רלוונטיות אחרות. עם זאת, כדי לקבל תשובה סבירה ממעלה התוכן, יש צורך בתלונה מפורטת ומנומקת מבחינה משפטית ממגיש התלונה, שבה מוסבר מדוע ההצהרה המדוברת אינה נכונה לכאורה. מכיוון שרוב התלונות המשפטיות שקשורות ל-NetzDG אינן מנומקות מבחינה משפטית (גם לאחר בקשה מפורשת מ-YouTube לקבלת מידע נוסף), אין עילה מספקת לפנות למעלי התוכן במקרים האלו.

בחוק העונשין יש תחומים מסוימים שדורשים מומחיות משפטית ספציפית. בנסיבות האלה, לפעמים אנחנו צריכים ייעוץ ממוסד חיצוני, כמו יועץ חיצוני או אחד מהמוסדות לרגולציה עצמית שמתמחים בנושאים הקשורים ל-NetzDG.

אנחנו בודקים את כל התלונות במסגרת NetzDG לגבי תוכן שאינו חוקי לפי NetzDG, כדי לקבוע אם התוכן המדווח מהווה הפרה לפי העבירות הפליליות שמפורטות ב-NetzDG (סעיף ‎1 (3) של NetzDG).

בתרשימים שבחלק הזה מוצג המספר הכולל של הפריטים שהסרנו או חסמנו, שזוהו כלא חוקיים בהתאם לאחת מהעבירות הפליליות שמפורטות ב-NetzDG במהלך תקופת הדיווח, לפי משך הטיפול. משך הטיפול הוא פרק הזמן שעבר מקבלת התלונה עד להסרה או לחסימה של הפריטים המדווחים.

רשויות ממשלתיות, בתי משפט וצדדים בהתדיינות בבית משפט אזרחי מבקשים מחברות טכנולוגיה ותקשורת למסור נתוני משתמשים. בדוח הזה אנחנו חושפים מידע בנוגע לסוג ולמספר הבקשות שאנחנו מקבלים מרשויות ממשלתיות.

אנחנו שואפים לאזן ולשמור על 'ארבע החירויות' ב-YouTube – חופש הביטוי, חופש המידע, חופש ההזדמנויות וחופש ההשתייכות. אכיפה של הנחיות הקהילה ו/או של החוק היא חלק מהניסיון שלנו לאזן בין החירויות האלה ולשמור על הקהילה של YouTube‏. אף פעם לא קל להגיע לאיזון כזה, במיוחד בפלטפורמה כלל-עולמית שפועלת בחברות עם אמות מידה שונות בנוגע לחופש הדיבור.

מנגנונים להגשת תלונות על תוכן לא חוקי לכאורה לפי ה-NetzDG

כדי להתלונן על הפרות של חוק NetzDG, המשתמשים של YouTube בגרמניה יכולים לדווח על תכנים ישירות מהפלטפורמה, באמצעות תהליך שפשוט לזהותו ותמיד עומד לרשותם. משתמשים מחוברים יכולים להגיש תלונות בנושאים משפטיים לפי NetzDG במסגרת תהליך הסימון. פונקציית הסימון נמצאת מתחת לכל סרטון וליד כל תגובה (שלוש נקודות). מגיש התלונה צריך לסמן את התיבה 'לדעתי, התוכן הזה צריך להיות מוגבל בהתאם לחוק האכיפה ברשת' בתהליך הסימון, ולמלא מידע נוסף בטופס אינטרנט משפטי קצר שנפתח.

בנוסף, ב-YouTube יש טופס אינטרנט משפטי של NetzDG לכל המשתמשים, מחוברים ולא מחוברים. ניתן לגשת לטופס ישירות מהקישור תלונות של NetzDG בתפריט הראשי של YouTube‏ ומהלוגו של YouTube‏ (דף ליצירת קשר שזמין לכל המשתמשים בגרמניה).

רוב המשתמשים אינם מומחים במשפטים וסביר להניח שלא ידעו מה לעשות כשיוצג להם מבחר גדול של עבירות מורכבות. ייתכן שאפילו יימנעו מדיווח מרוב רתיעה. רוב המשתמשים כנראה לא יבינו ולא יוכלו לצטט את ההוראות הרלוונטיות של StGB בעת הגשת תלונה משפטית שקשורה ל-NetzDG. מעבר לכך, ייתכן שתוכן מדווח מכיל יותר מעבירה אחת מהרשימה. למשל, סרטון לגיוס חברים או תומכים חדשים לארגון פשע או טרור (סעיפים 129, ‏129a ב-StGB‏) לרוב יכיל סמלים כמו דגל. לפי סעיפים 86 ו-86a ב-StGB, פרסום הסרטון עשוי להיחשב לפעולה שגוררת ענישה, וייתכן שהוא גם ייחשב לעבירה של הכנת פשע אלים וחמור שמסכן את המדינה לפי סעיף 89a ב-StGB. החששות האלה, שכבר הודגשו בדוחות קודמים, קיבלו חיזוק ניכר בזכות השינויים שנערכו בחוק המאבק בימין הקיצוני ובפשעי שנאה. לדוגמה, איום במסגרת המשמעות של סעיף 241 בחוק העונשין יכול להיעשות גם 'באמצעות צדדים שלישיים' אם הפושע התכוון שהקורבן ייחשף לאיום. העבירות הפליליות של איום (סעיף 126 ב-StGB) וסכנה (סעיף 241 ב-StGB) נעדרות, לפיכך, מוחלטות ובררניות, במיוחד כשהתוכן המדובר מתפרסם ברשתות החברתיות.

לכן, כדי להקל על תהליך הגשת התלונה ולעזור למגישי התלונות לדווח על תוכן שהם סבורים שאינו חוקי לפי NetzDG, הגדרנו 7 קטגוריות תוכן בתהליך הדיווח של NetzDG. הקטגוריות האלו מובנות באופן כללי ותואמות ל-22 העבירות הפליליות הרלוונטיות, משקפות אותן ומוגדרות לפיהן. הגישה הזו גם עוזרת בהבנה המעשית של עבירות מופשטות מאוד עם היקף רחב מאוד (במיוחד לאנשים שאינם מומחים בתחום המשפטים). לדוגמה, בסעיף 140 של StGB מוגדרת ענישה על עידוד או אישור של מגוון רחב מאוד של עבירות כמו בגידה, רצח ופשעים חמורים נוספים כמו פשעי מלחמה, נזק גופני חמור, פשעים מסוימים המסכנים את הציבור וכן עבירות מיניות חמורות מסוימות. מניסיוננו עם תהליכי התראה על תוכן, נראה שהמשתמשים מעריכים גישה עם סף נמוך שמבוססת על החיים האמיתיים לצורך הגשת תלונות אפקטיביות על תוכן לא חוקי. הקטלוג של סעיף 126 של חוק העונשין, שאליו מתייחס סעיף 140 בחוק העונשין, הורחב בהתאם. יתרה מכך, לצורך החלופה באישור של סעיף 140 של חוק העונשין, עכשיו אין יותר דרישה לגבי ביצוע בעבר של המעשה המדובר, או לכל הפחות ניסיון לבצע אותו, באופן שדינו עונש. הטכניקה של התייחסות אל רשימות של עבירות והבדיקה המדוקדקת של עבירות מטילות לחץ רב על אנשים שלא בקיאים בתחום המשפטי, כיום יותר מבעבר, במיוחד בגלל אופי האיומים שמכוון לעתיד. הגישה של הנאמנות למציאות והסף הנמוך שנקטנו עד עכשיו תמשיך לאפשר לנו, כפי הנראה, לקחת בחשבון את היעדים של חוק NetzDG בצורה טובה ככל האפשר.

אנחנו מצפים שהקטגוריות הבאות יכסו את עיקר העבירות הפליליות הרלוונטיות שאליהן מתייחס סעיף ‎1 (3) בחוק NetzDG, ושהדיווח ייעשה על ידי בחירה באחת מהן:

דברי שטנה או קיצוניות פוליטית

• ‎§ 130 StGB: הסתה לשנאה
• ‎§ 166 StGB: השמצת איגודים דתיים ואידיאולוגיים

תוכן שקשור לפעילות טרור או נוגד את החוקה

• ‎§ 86 StGB: הפצת חומרי תעמולה של ארגונים הנוגדים את החוקה
• ‎§ 86a StGB: שימוש בסמלים של ארגונים הנוגדים את החוקה
• סעיף 89a של StGB: הכנות לפשע אלים וחמור שמסכן את המדינה
• סעיף 91 של StGB: עידוד לביצוע של פשע אלים וחמור שמסכן את המדינה
• ‎§ 100a StGB: זיוף לצורך בגידה
• סעיף 129 של StGB: הקמת ארגוני פשע
• ‎§ 129a StGB: הקמת ארגוני טרור
• § 129b StGB: ארגוני טרור ופשע בחו"ל; החרמה ומניעה מורחבות
• סעיף 140 ב-StGB בקשר לסעיף ‎138 (1) ב-StGB: תגמול ואישור של עבירות מסוימות שרשומות בסעיף ‎138 (1) ב-StGB
• ‎§ 269 StGB: זיוף נתונים בכוונה לספקם כהוכחה

אלימות

• ‎§ 131 StGB: הפצת תיאורים של אלימות

פעולות מזיקות או מסוכנות

• ‎§ 111 StGB: הסתה גלויה לפשע
• ‎§ 126 StGB: הפרת הסדר הציבורי על ידי איום לבצע עבירות
• סעיף 140 ב-StGB בקשר לסעיף ‎126 (1) ב-StGB: תגמול ואישור של עבירות שרשומות בסעיף ‎126 (1) ב-StGB
• ‎§ 241 StGB: איום לבצע דבר עבירה

השמצה או העלבה

• ‎§185 StGB: העלבה
• ‎§186 StGB: השמצה
• ‎§187 StGB: השמצה בינלאומית

פרטיות

• ‎§ 201a StGB: הפרה של פרטיות אינטימית על ידי צילום תמונות

תוכן מיני

• סעיף 184b של StGB: הפצה, רכישה והחזקה של פורנוגרפיה של ילדים
• § 140 בקשר אל §§ 176 עד 178: תגמול ואישור של עבירות מסוימות שרשומות בסעיפים §§ 176 עד 178

מניסיוננו הגלובלי והממושך עם סימון תוכן, אנחנו משוכנעים שהקטגוריות האלו יעזרו לתמוך במטרה המשפטית של NetzDG ולהשיג אותה במלואה.

למידע נוסףarrow_forward

אמצעים לעדכון מגיש התלונה ומעלה התוכן

כשאנחנו מקבלים תלונה במסגרת NetzDG דרך נוהלי הדיווח שתוארו למעלה, מגיש הבקשה מקבל הודעת אישור באימייל עם מספר אסמכתה והצהרה כי קיבלנו את התלונה והיא תיבדק.

לאחר בדיקה של תלונה במסגרת NetzDG, אנחנו שולחים למגיש התלונה אימייל עם מידע לגבי ההחלטה שלנו לפי NetzDG והסיבות לכך. בהודעה הזו מפורטים גם מידע על האפשרות להגיש תלונה פלילית לרשויות אכיפת החוק, ומידע נוסף שזמין בקישור הזה. הקישור מפנה לדף עזרה של המשרד הפדרלי למשפטים והגנת הצרכן בכתובת hilfe-info.de. אם ב-YouTube לא ננקטו פעולות בנוגע לתלונה על סרטון במסגרת NetzDG, ההודעה תכיל גם קישור שדרכו מגיש התלונה יוכל להגיש בקשה לבדיקה מחדש של ההחלטה בכפוף ל-NetzDG.

במקרה שנגיב לתלונה במסגרת NetzDG בחסימת תוכן שמהווה הפרה בהתאם לאחת מהעבירות המפורטות ב-NetzDG, נשלח התראה באימייל למעלה התוכן עם מידע על החסימה. אם סרטון נחסם, ההתראה הזו תכיל גם קישור שדרכו מעלה התוכן יכול לשלוח בקשה לבדיקה מחדש של ההחלטה בכפוף ל-NetzDG. אם סרטון הוסר עקב הפרה של הנחיות הקהילה, מעלה התוכן יקבל התראה עם קישור לבקשה לבדיקת ההחלטה בהתאם להנחיות הקהילה.

במקרה שסרטון מוסר על סמך הנחיות הקהילה או נחסם עקב הפרה של החוק המקומי, אנחנו מציגים במקומו הודעה לכל המשתמשים על כך שהסרטון לא זמין יותר.

שיטות דיווח אחרות

תלונות בנושאים משפטיים. כפי שתיארנו קודם, יצרנו כלים נוספים לדיווח שבאמצעותם אנשים פרטיים יכולים לדווח על תוכן שמפר לכאורה את ההוראות של חוק NetzDG (תלונות של NetzDG)‏: טופס אינטרנט שזמין לכל המשתמשים ואפשר להגיע אליו ישירות באמצעות הקישור תלונות של NetzDG בתפריט הראשי של YouTube או דרך הלוגו של YouTube. בפני משתמשים מחוברים עומדת אפשרות נוספת: באמצעות לחיצה על תיבת הסימון של NetzDG שכלולה בתהליך של סימון התוכן בגרמניה, כפי שמתואר למעלה. ערוצי הדיווח האלה מאפשרים למשתמשים לזהות פריט פוגעני ולציין את הסיבה לתלונה בנושא המשפטי. אנחנו זקוקים למידע הזה כדי לערוך בדיקה מקיפה ולנקוט פעולה מתאימה. אם הנימוק לא יהיה ברור מספיק או שלא תהיה הצדקה משפטית מספקת להסרה מקומית, ייתכן שנבקש ממגיש התלונה לספק לנו מידע נוסף.

מכיוון שקל למצוא את כלי הדיווח בסמוך לתוכן ושתהליך הדיווח הוא אינטואיטיבי ונגיש, אנחנו מקבלים מספר רב של קליקים ותלונות. עם זאת, הדיווחים של המשתמשים לא תמיד אמינים. תלונות רבות אינן רלוונטיות או לא מגובות בעובדות ולכן לא ננקטת לגביהן אף פעולה. משתמשים אחרים מגישים תלונות בלי לציין למה התוכן אינו חוקי לדעתם. הדבר בעייתי במיוחד כשהתוכן אינו 'לא חוקי בעליל'.

מלבד הכלים להגשת תלונות שקשורות ל-NetzDG, סיפקנו טופסי אינטרנט משפטיים למשתמשי YouTube‏ (למשל, לתלונות על הפרת זכויות אישיות, תלונות על הפרת זכויות יוצרים, תלונות בנושא סימנים מסחריים וכו') במשך שנים רבות לפני NetzDG. כלומר, תהליך ההסרה מטעמים משפטיים התקיים עוד לפני חוק NetzDG‏. החוק בסך הכול חיבר בין כלי הדיווח הקיימים – סימון הפרות לכאורה של הנחיות הקהילה ותלונות משפטיות על תוכן לא חוקי לכאורה.

סימון ידני. באמצעות מערכת הסימון שלנו, משתמשים מחוברים יכולים להתריע לנו לגבי תוכן שייתכן שמפר את הנחיות הקהילה שלנו. יש גישה למערכת הסימון מתחת לכל סרטון ולצד כל תגובה. המשתמש יכול לבחור מתוך קטגוריות התוכן השונות כדי לבחור את הסיבה לדיווח על התוכן. אם תיבת הסימון של NetzDG לא תסומן, תתבצע הערכה של הסימונים האלה אך ורק על סמך הנחיות הקהילה שלנו. זו מערכת רגולציה עצמית שמתקיימת במנותק מחובה משפטית כלשהי. יצרנו גם תוכנית בשם Trusted Flagger כדי לספק תהליכים וכלים חזקים לדיווח על קטעי תוכן מרובים לארגונים שיעילים במיוחד בדיווח על תוכן שמפר את הנחיות הקהילה שלנו. סימונים שמתקבלים מחברים בתוכנית Trusted Flagger מוערכים אך ורק על סמך הנחיות הקהילה שלנו. החברים בתוכנית Trusted Flagger הם ארגונים לא ממשלתיים ורשויות ממשלתיות שלרוב מדורגים ברמת דיוק גבוהה ויש להם מומחיות בתחום, ולכן לסימון שלהם יש ערך גבוה לכלל המערכת. ניתן למצוא מידע מפורט על תוכנית Trusted Flagger בדוח אכיפת הנחיות הקהילה של YouTube.

התאמה אוטומטית על ידי מכונה. מערכת האכיפה של YouTube מתחילה מהנקודה שבה משתמש מעלה סרטון. הפלטפורמה של YouTube משתמשת בטכנולוגיה שמונעת ממשתמשים להעלות מחדש תוכן שכבר סומן כמנוגד להנחיות, בין היתר באמצעות נתוני גיבוב (או 'טביעות אצבע דיגיטליות'). נתוני הגיבוב הם טביעות אצבע דיגיטליות ייחודיות של תמונות וסרטונים, ובעזרתם ניתן לזהות התאמות מדויקות לסרטונים שהוסרו כי הם הפרו את הנחיות הקהילה, וכך למנוע ממשתמשים להעלות אותם מחדש. בחלק מסוגי התכנים, כמו תמונות של התעללות מינית בילדים וסרטונים לגיוס פעילי טרור, הפלטפורמה של YouTube משתמשת גם במסד נתונים משותף בתחום של נתוני גיבוב, שמגדיל את נפח התוכן שהמערכות שלנו יכולות לתפוס בזמן ההעלאה.

סימון אוטומטי באמצעות מכונה. ביוני 2017 התחלנו להשתמש בטכנולוגיה של למידת מכונה כדי לסמן תוכן המכיל אלימות קיצונית ולהעביר אותו לבדיקה אנושית. בפלטפורמה של YouTube נעשה שימוש במאגר של סרטונים שנבדקו והוסרו כי הכילו אלימות קיצונית. באמצעותו, הטכנולוגיה של למידת המכונה לומדת לסמן תוכן חדש שעלול גם להפר את הנחיות הקהילה. מכיוון שאנשים מחליטים אם להסיר את הסרטונים האלה, מערכות האכיפה האוטומטיות שלנו מתפתחות ונעשות חכמות יותר עם הזמן. לאור התוצאות החיוביות, התחלנו לאמן את טכנולוגיית למידת המכונה בתחומי תוכן מאתגרים נוספים, כולל בטיחות ילדים ודברי שטנה. עם זאת, גילינו שהמערכות האלה פועלות בצורה היעילה ביותר כשיש יעד המוגדר בבירור שמפר את ההנחיות בכל הקשר שהוא. מערכות אוטומטיות לא יכולות להחליף לגמרי את שיקול הדעת האנושי ולזהות ניואנסים. למידע נוסף, אפשר לעיין בדוח אכיפת הנחיות הקהילה של YouTube.

תהליך הבדיקה

סימון הפרות של הנחיות הקהילה. בהנחיות הקהילה של YouTube, שחלות באופן גלובלי, מפורטים כללים ברורים ברמה גבוהה ואפשר לעיין בהם כאן. ההנחיות האלה התפתחו עם הזמן ככל שהפלטפורמה של YouTube גדלה וההתנהגות של המשתמשים השתנתה. המשתמשים נדרשים להסכים לציית להנחיות האלו כדי לפתוח ערוץ YouTube.

כפי שצוין קודם, אנחנו בודקים אם הפריטים שדווחו מצייתים לכל הנחיות הקהילה שלנו אבל ההנחיות אוסרות, בין השאר, על עירום או תוכן מיני, תוכן מזיק או מסוכן, תוכן המכיל דברי שטנה, תוכן אלים או גרפי, הטרדה או בריונות ברשת, איומים וסיכון ילדים.

כדי להבטיח אכיפה עקבית של הנחיות הקהילה, ב-YouTube מקפידים לפעול לפי הנחיות מפורטות ודינמיות יותר לפרשנות. לדוגמה, הנחיות הקהילה אוסרות על תוכן שמקדם טרור. אם בארגון טרור יוצרים סניף חדש, יכול להיות שהנחיות האכיפה הפנימיות יעודכנו עם מידע לגבי הארגון הספציפי הזה, כדי להדריך את הבודקים בהסרת תוכן שמקדם את אותו ארגון. צוות YouTube לא תמיד חושף את העדכונים האלה לכולם, כי חשיפה כזו תקל על משתמשים שמנסים להתחמק מזיהוי.

במסגרת הבדיקה, הצוותים שלנו מסוגלים לראות את ההקשר הרחב של התוכן שדווח – כולל תיאור הסרטון, תוכן אחר שהועלה לערוץ ומטא-נתונים (שמות סרטונים, תגיות או כתוביות). הרמזים תלויי ההקשר משמשים כגורמים חשובים שעוזרים להכריע מה הייתה כוונת ההעלאה. בנוסף, כלי הבדיקה שלנו שומר חותמת זמן של רגע סימון הסרטון, ובטופסי האינטרנט אנחנו מבקשים מהמדווחים לצרף חותמות זמן. כך הבודקים שלנו יכולים להתמקד ברגעים הבעייתיים לכאורה בסרטון.

הנחיות הקהילה שלנו כוללות יוצאים מן הכלל לחומרים חינוכיים, תיעודיים, מדעיים או אומנותיים (EDSA‏). תגובות וסרטונים שיוצאים מן הכלל לפי הקטגוריות האלו חיוניים להבנת העולם ותיעוד ההיסטוריה, למשל, לתיעוד מלחמות ומהפכות, או מכילים עירום במסגרת חופש ביטוי אומנותי. לכן, בהנחיות האכיפה של YouTube אנחנו מפרטים בקפידה על EDSA, כדי שבודקים יוכלו להבין אילו סרטונים מסומנים עשויים להיחשב ליוצאים מן הכלל במובן הזה. עם זאת, עד כמה שההנחיות מפורטות ומנוסחות בבירור, לבודקים של YouTube קשה מאוד לקבוע אילו תגובות וסרטונים נחשבים ליוצאים מן הכלל מסוגי EDSA במסגרת מדיניות האכיפה.

באופן כללי, צוותי הבדיקה שלנו יסירו תוכן באופן גלובלי אם הוא מפר את הנחיות הקהילה שלנו. עובדי הצוותים עשויים גם לנקוט פעולה אחת מתוך האפשרויות הבאות:

• הגבלת גיל. חלק מהסרטונים לא מפירים את המדיניות שלנו ואינם בלתי חוקיים, אבל ייתכן שהם לא מתאימים לכל הקהלים. במקרים האלה, צוות הבדיקה שלנו עשוי להציב הגבלת גיל על הסרטון כשאנחנו מקבלים הודעה לגבי התוכן. סרטונים שחלה עליהם הגבלת גיל לא מוצגים למשתמשים שלא מחוברים, למשתמשים מתחת לגיל 18 או למשתמשים שהמצב סינון תוכן מופעל בחשבון שלהם. כאשר אנחנו מקבלים את ההחלטה הזו, אנחנו שולחים למעלה הסרטון אימייל על כך שהצבנו הגבלת גיל על הסרטון שלו ושניתן לערער על ההחלטה הזו. למידע נוסף
• תכונות מוגבלות. אם חברים בצוותי הבדיקה שלנו מחליטים שסרטון מסוים הוא גבולי לפי המדיניות שלנו, ייתכן שחלק מהתכונות שלו יושבתו. הסרטונים האלה יישארו זמינים ב-YouTube אבל יוצבו מאחורי הודעת אזהרה וחלק מהתכונות יושבתו, כולל שיתוף, תגובות, סרטונים מוצעים ולייקים. סרטונים כאלה גם אינם עומדים בקריטריונים לייצור הכנסות. כאשר אנחנו מקבלים את ההחלטה הזו, אנחנו שולחים למעלה הסרטון אימייל על כך שהסרטון שלו יכלול תכונות מוגבלות בלבד ושניתן לערער על ההחלטה הזו. למידע נוסף
• נעול כפרטי. אם נזהה שסרטון מסוים מפר את המדיניות שלנו לגבי מטא-נתונים מטעים, יכול להיות שהוא יינעל ויוגדר כסרטון פרטי. סרטון שנעול בסטטוס פרטי לא גלוי לציבור הרחב. אם צופים יפתחו קישור לסרטון, תוצג הודעה שהסרטון לא זמין. כאשר אנחנו מקבלים את ההחלטה הזו, אנחנו שולחים למעלה התוכן אימייל על כך שהסרטון כבר לא גלוי לכולם ושניתן לערער על ההחלטה הזו. למידע נוסף

במקרים של פגיעות חוזרות ונשנות או הפרות חמורות יותר, אנחנו עשויים להעניש את המשתמש על ידי השבתת תכונות מסוימות או סגירת החשבון שלו. ברוב המקרים, הפרה ראשונה של הנחיות הקהילה שלנו תוביל לשליחת אזהרה. באופן כללי, אם משתמש מפר את המדיניות 3 פעמים החשבון שלו נסגר. עם זאת, אנחנו עשויים לסגור את החשבון כבר אחרי ההפרה הראשונה אם היא חמורה, למשל אם התוכן קשור לטרור.

תלונות בנושאים משפטיים. כשאנחנו מקבלים בקשה משפטית, צוותי הבדיקות שלנו עורכים בדיקה משפטית על סמך פרטי הבקשה, כולל ההתנגדות שהועלתה על ידי מגיש הבקשה. בנוסף, הצוותים יבדקו את ההקשר של התוכן המדווח (למשל, מטא-נתונים, כותרת וכו'). אם חסרים פרטים חשובים בבקשה – לדוגמה, זהותו של אדם בתלונה על השמצה – חברי הצוות יפנו אל מגיש הבקשה כדי לקבל מידע נוסף הנחוץ להערכה המשפטית. אם אנחנו מזהים את התוכן כלא חוקי, אנחנו חוסמים אותו באופן מקומי.

תלונות של NetzDG. במסגרת תהליך הבדיקה, כשאנחנו מקבלים בקשה שקשורה ל-NetzDG, הבודקים בצוות המתמחה ב-NetzDG (ניתן למצוא מידע נוסף בקטע 'צוותי הבדיקה'), יכולים לראות את ההקשר של התוכן שעליו דווח. הם בוחנים את התוכן מול העבירות הפליליות המפורטות ב-NetzDG. אם התוכן מפר בצורה ברורה את הנחיות הקהילה שלנו, צוות הבדיקה המתמחה ב-NetzDG מסיר אותו באופן גלובלי. בהתאם לכך, אנחנו יכולים להחיל שתי החלטות על תוכן שדווח בכפוף ל-NetzDG. הדבר עשוי לגרום לכך שסרטונים יוסרו באופן גלובלי אם הם מפירים רק את ההנחיות שלנו, או שהם מפירים גם את החוק הגרמני. אם אין הפרה של ההנחיות שלנו, אבל לדעתנו הסרטון לא חוקי לפי סעיף ‎1 (3) של NetzDG או לפי נורמות משפטיות מקומיות אחרות, הוא ייחסם באופן מקומי.

לרוב, לא קל להעריך את התלונות. אפילו לעורכי דין קשה להעריך חלק מהעבירות הפליליות, למשל, זיוף נתונים בכוונה לספק אותם כהוכחה (סעיף 269 ב-StGB). דוגמה נוספת היא קטגוריית ההשמצה והעלבונות. כל הקטגוריה הזו היא תחום משפטי מורכב שהתקבלו בו פסקי דין שונים בעשורים האחרונים, במיוחד מאז שחוקת גרמניה נכנסה לתוקף. לכן, בכל הנוגע לתחום ההשמצה והעלבונות, מעט מאוד מהמקרים הם לא חוקיים בעליל. לפעמים, בבתי משפט מתדיינים במשך שנים על מידת החוקיות של תוכן מסוים, ובכל זאת מגיעים למסקנות שונות. לדוגמה, בית המשפט החוקתי הפדרלי של גרמניה הפך פסקי דין שהתקבלו בבית המשפט העליון הפדרלי. הוא גם קבע פעמים רבות שצריך לערוך מבחני איזון מורכבים, ושמידת החוקיות תמיד נסיבתית, ותיקבע בהתאם לנסיבות הספציפיות של כל מקרה. בניגוד להליכים משפטיים, לא תמיד כל המידע הנחוץ זמין לנציגים של הרשתות החברתיות. בנוסף, אין הליך משפטי מרכזי שמחייב דיני ראיות. במקרים האלה, קשה מאוד לקבוע את קבילות התוכן – כאשר היא נמדדת לפי רכיבים ספציפיים של עבירות – והקבילות נקבעת על ידי בתי המשפט האחראים.

ההתלבטויות האלה קשות גם מבחינה פרקטית: תלונות רבות הקשורות לתחום של השמצה ועלבונות ב-NetzDG לא מוגשות על ידי האדם שנפגע, אלא על ידי צד שלישי שמניח שאדם כלשהו נפגע מהשמצה. לנציגים של הרשתות החברתיות לא הייתה אפשרות לדעת אם זה אכן המקרה, או אם האדם שנפגע הגיש תלונה פלילית לרשויות אכיפת החוק (כדי לתבוע אנשים על עבירות כאלה, האדם שנפגע צריך להגיש תלונה, Antragsdelikt בגרמנית), כי אין להם יכולת לאמת את הזהות של מגיש התלונה.

בקשות שקשורות ל-NetzDG נבדקות על ידי צוות NetzDG שלנו שחבריו עובדים בשתי משמרות, 7 ימים בשבוע, 365 ימים בשנה. הדבר מאפשר להסיר באופן גלובלי או לחסום באופן מקומי תוכן בהתאם למגבלות הזמן שחלות בחוק NetzDG. אם ברור שהבקשה חסרת בסיס, מגיש הבקשה מקבל הודעה מיד בהתאם לדרישות המשפטיות (ניתן לעיין בקטע 'אמצעים לעדכון מגיש התלונה ומעלה התוכן לפי NetzDG‏'). אם התוכן לא מפר בבירור את הנחיות הקהילה של YouTube או את ההוראות הרלוונטיות בחוק העונשין, התוכן מורכב מבחינה אחרת או שאינו מתייחס בבירור לגרמניה, בודק התוכן האחראי בצוות NetzDG‏ מסלים את התלונה לרמה הבאה לצורך בדיקה מהירה. לאחר מכן, ננקטת הפעולה המתאימה על ידי בודקי תוכן בכירים. בקשות מורכבות מועברות לצוות המשפטי של YouTube. אם יש לחברי הצוות ספקות לגבי המקרים הקשים והבעייתיים, הם מסלימים אותם למחלקה המשפטית של Google Germany GmbH. משם יש אפשרות להסלים מקרים קשים במיוחד למשרד עורכי דין חיצוני שמתמחה בחוק העונשין. לרוב, התהליך הזה נמשך עד 7 ימים.

כדי להבטיח שצוות NetzDG פועל כהלכה ושהעובדים מיישמים באופן תקין ועקבי את הנחיות הקהילה של YouTube ואת ההוראות המפורטות בחוק NetzDG לגבי עבירות פליליות, דאגנו שעבודתם תעבור תהליך קפדני של מבדק איכות. בתקופת הדיווח בדקנו דגימות של 30% בממוצע מתוך התכנים שנבדקו מהשבוע הקודם. הנפח של מבדק האיכות עשוי להשתנות מדי שבוע בהתאם לנפח התלונות שמגיעות. במסגרת התהליך הזה, עובדי הצוות של מבדק האיכות מעריכים את ההחלטות של כל אחד מבודקי התוכן, מספקים משוב אישי ומבצעים ניתוח כללי של תוצאות מבדק האיכות. דגימת הבדיקה שנבחרה משמשת כבסיס לסקירה כללית של נתוני האיכות השבועיים. בודקי האיכות עובדים בצוות נפרד כחלק מצוות NetzDG. הצוות כולל חברים בכירים שעבדו בבדיקת תוכן בעבר ויש להם ידע נרחב בנושא ההוראות בחוק NetzDG ובהנחיות הקהילה של YouTube. במהלך הפגישות השבועיות בין הצוות המשפטי של YouTube לבין צוות NetzDG, אנחנו דנים בתוצאות העדכניות ביותר של מבדק האיכות, וכן מתאמים גישה לטיפול במקרים מעניינים, קשים ומורכבים במיוחד. בנוסף, אנחנו דנים בהרחבה במגמות בולטות, ב'נושאים חמים' ובהתפתחויות בפסקי דין כדי להבטיח שהגישה של כל החברים בצוות NetzDG תהיה עקבית. בעת הצורך, אנחנו מחדדים את תנאי המדיניות להסרה כך שיתאימו, למשל, לעדכונים בהנחיות הקהילה של YouTube ולהתפתחויות בפסקי דין. במקרים כאלה, אנחנו מספקים הדרכות חדשות וחומרי הדרכה, לפי הצורך, לכל החברים בצוות NetzDG.

ערעורים

ערעורים על החלטות בכפוף ל-NetzDG: אם נזהה סרטון שדווח כלא חוקי בתלונה במסגרת NetzDG לפי אחת מהעבירות הפליליות שמפורטות ב-NetzDG, מעלה התוכן יקבל הודעה דומה עם קישור לטופס להגשת ערעור על ההחלטה. גם מגיש התלונה מקבל הודעה כזו במקרה שהתלונה נדחתה כי לא מצאנו הפרה לפי עבירה פלילית הרשומה ב-NetzDG.

אם יוגש ערעור כזה על סמך NetzDG, אחד מהחברים בצוות NetzDG שלא קיבל את ההחלטה המקורית יערוך בדיקה נוספת לפי חוק NetzDG, שבסופה הוא עשוי להשאיר בתוקף או לשנות את ההחלטה המקורית בנוגע להפרה של הוראות בחוק העונשין המפורטות ב-NetzDG. תוצאת הבדיקה הנוספת הזו נשלחת באימייל.

ערעורים על הפרות של הנחיות הקהילה: כשצוות YouTube נוקט פעולה לגבי סרטון שמפר את הנחיות הקהילה, נשלחת הודעה מ-YouTube למעלה התוכן לגבי הפעולה שננקטה והסיבה לכך. אנחנו שולחים למשתמש תיאור, קישור למידע נוסף על הסרת התוכן וקישור לתהליך הערעור לצורך בדיקת התוכן מחדש בהתאם להנחיות הקהילה שלנו. מאז ומתמיד אפשרנו למשתמשים לערער על ההחלטות שלנו אם הם סבורים שהתוכן שלהם לא מפר את הנחיות הקהילה. התהליך מוסבר כאן בפירוט. ערעורים והחזרות תוכן בהתאם להנחיות הקהילה מפורטים בדוח האכיפה של הנחיות הקהילה של YouTube. בדף האינטרנט הזה יש גישה לנתונים מפורטים.

הטכנולוגיה עוזרת מאוד לזהות סוגים מסוימים של תכנים שנויים במחלוקת. למשל, בעזרתה אפשר לאתר אובייקטים ודפוסים במהירות ובהיקף רחב בתמונות, בסרטונים ובקטעי אודיו. עם זאת, כדי לבחון היטב את ההקשר, דרושים בודקים אנושיים. לדוגמה: אלגוריתמים לא תמיד יודעים להבדיל בין חומרי תעמולה של ארגוני טרור לבין סרטונים של ארגוני זכויות אדם, או בין דברי שטנה לקומדיה פרובוקטיבית. לכן, בדרך כלל צריך התערבות אנושית כדאי להכריע לכאן או לכאן.

הסימונים של הנחיות הקהילה והודעות אחרות נבדקים על ידי המערכות הטכנולוגיות שלנו, יחד עם עובדי Google וספקי שירות שמועסקים על ידינו. אנחנו דואגים לבדיקת איכות דקדקנית כדי להבטיח שהצוות הגלובלי מקבל את ההחלטות הנכונות באופן עקבי בנוגע לתוכן מדווח, והעובדים מקבלים משוב שוטף על הביצועים שלהם. בצוותי הבדיקה שלנו יש אלפי אנשים, דוברי כמה שפות, שמעריכים בזהירות סימוני תוכן 24 שעות ביממה, 7 ימים בשבוע, 365 ימים בשנה באזורי זמן ברחבי העולם. הצוותים האלה כוללים מספר דוברי גרמנית.

חלק מהחברים בצוותים שעובדים על תלונות משפטיות הם מומחים משפטיים דוברי גרמנית בעלי תואר במשפטים. המומחים האלו בקיאים בחוקים המקומיים ומתייעצים לפעמים עם עורכי דין מקומיים של Google. Google מעסיקה צוות משפטי גדול של עורכי דין ממדינות רבות באירופה. הם מעורבים בניתוח המשפטי של התוכן המדווח, במידת הצורך. הם גם יכולים לפנות לעורכי דין מקומיים אחרים כדי לקבל חוות דעת משפטית נוספת.

צוות NetzDG. הרכבנו צוות מומחים לטיפול בבקשות שקשורות ל-NetzDG אצל ספק שירות חיצוני בגרמניה (צוות NetzDG). המספר של בודקי התוכן משתנה בהתאם למספר הבקשות הנכנסות שקשורות ל-NetzDG. בתקופת הדיווח, 77 חברים בצוות NetzDG עבדו על בקשות שקשורות ל-NetzDG. בצוות הזה, 61 מחברי הצוות היו בודקי תוכן (כולל בודקי תוכן בכירים), שעליהם פיקחו 5 מנהלי צוות עם תמיכה נוספת מ-6 בודקי איכות ומ-2 מדריכים.

כדי להבטיח שיהיה גיוון תרבותי, הבודקים שלנו מגיעים מרקעים מקצועיים שונים, הם דוברי שפות שונות וטווח הגילאים שלהם נע בין 21 ל-55 בתקופת הדיווח. כל החברים בצוות NetzDG דוברים גרמנית שוטפת, רובם דוברי גרמנית כשפת אם. כל החברים בצוות NetzDG הם גם דוברי אנגלית. אחד עד 30 מהחברים בצוות NetzDG דוברים גם אחת או יותר מהשפות הבאות: טורקית, רוסית, ספרדית, בולגרית, איטלקית, יפנית, סרבית, כורדית ואוקראינית. כך אפשר להעריך קשר אפשרי לגרמניה בשפה זרה. בתקופת הדיווח, לרבע (25%) מהחברים בצוות NetzDG יש תואר אקדמי כמו תואר ראשון או שני, או תעודה מטעם המדינה, בתחומים כמו מדעי המדינה, תרגום, תקשורת, מנהל עסקים, מדעי הבריאות, הנדסת תעשייה וניהול, ארכיאולוגיה או הוראה. חבר צוות אחד הוא בעל דוקטורט. כ-40% מחברי הצוות השלימו התמחויות במסחר קמעונאי, בטבחות, בפקידות בתעשייה, בעבודה משרדית, בנסיעות או בניהול הוצאה לאור, בבניין או בתחומים כמו טכנולוגיית מידע ומדיה, ניהול לוגיסטי או טכנולוגיית מזון.

צוות NetzDG מקבל הדרכות להערכת העבירות הפליליות הרלוונטיות לפי NetzDG וגם להנחיות הקהילה של YouTube מדי חצי שנה לפחות.

כל חבר שנקלט לצוות NetzDG מקבל הדרכה כללית על כל הנחיות הקהילה של YouTube, תהליכי העבודה והמערכות הטכניות שלנו, וכן הדרכה משפטית על העבירות הפליליות שמפורטות בחוק NetzDG. בנוסף להדרכות האלה, לרוב אנחנו מעבירים הדרכת רענון בנושא NetzDG כנדרש בחוק מדי 6 חודשים. הדרכות הרענון מועברות בשפה הגרמנית על ידי צוות שלרוב כולל עורכי דין חיצוניים וחברים מהצוותים המשפטיים של YouTube ושל Google Germany GmbH. אנחנו מחלקים את הצוות לקבוצות לפי דפוסי עבודה במשמרות, ומעבירים את ההדרכות האלו במספר שיעורים. מטרת הפעולות האלה היא להבטיח שכל חברי הצוות, כולל ראשי הצוותים, בודקי האיכות והמדריכים, יוכלו להשתתף בהדרכות ותהיה להם הזדמנות לדון בשאלות ובדוגמאות לדיון (שנאספו מראש). בנוסף, אנחנו מעבירים הדרכות משפטיות אד הוק כנדרש, שמועברות על ידי הצוות המשפטי של YouTube עם תמיכה מעובדים במחלקה המשפטית של Google Germany GmbH. אנחנו משתמשים במודל של 'הדרכת המדריכים'. כלומר, אנחנו מדריכים את המדריכים שהוקצו לצוות NetzDG, והם אחראים להעביר הדרכות לאחר מכן לשאר צוות NetzDG. בהדרכות הרענון ובהדרכות המשפטיות אד הוק עוסקים בהתפתחויות נוכחיות, במגמות, בפסקי דין חדשים ובסוגי בקשות שקשה היה להעריך בתקופה של חצי השנה שעברה. אנחנו מעבירים הדרכות משפטיות אד הוק, למשל, לגבי נושאים כמו השמצה על רקע דתי, תוכן אלים והעלבה של אנשי ציבור ופוליטיקאים.

העובדים בצוות NetzDG גם מקבלים הדרכות רענון על הנחיות הקהילה לעיתים קרובות. בהדרכות הרענון האלו עוסקים בהתפתחויות ובמגמות חדשות שרלוונטיות לעבודת הצוות. למשל, בתחומים של דברי שטנה ובטיחות ילדים. בנוסף, מתקיימות הדרכות בתחומים ספציפיים. לדוגמה: תוכן שקשור לכלי נשק, לתרמיות, למתיחות ולאתגרים מסוכנים ומזיקים, וכן אבטחה דיגיטלית. ההדרכות שמבוססות על הנחיות הקהילה מועברות על ידי מנהלי אכיפת המדיניות בשיתוף עם עובדים מהצוות המשפטי של YouTube. בנוסף, העובדים בצוות NetzDG מקבלים עדכונים דחופים מדי שבוע לגבי הנחיות הקהילה לפי הרלוונטיות לעבודתם.

לרשות חברי הצוות של NetzDG עומדות תוכניות סיוע ותמיכה פסיכולוגית, כמו הכשרות קבועות ולפי בקשה ומפגשי ייעוץ אישיים הנערכים בגרמנית, עם צוות ייעודי של פסיכולוגים, מטפלים ומדריכים דוברי גרמנית. לצוות יש גישה לייעוץ מסביב לשעון דרך מוקד תמיכה טלפוני. אנחנו מספקים להם גם מתקנים שמיועדים לקידום הבריאות והרווחה, כולל חדרי מנוחה וחדר פרטי למפגשים של הייעוץ הפסיכולוגי. האפשרויות האלה ניתנות במסגרת תוכנית הסיוע שאנחנו מספקים לכל צוותי הבדיקה של שירותי Google ו-YouTube. בנוסף, חברי הצוות מקבלים מינויים לחדר כושר ולאימונים בתעריפים מופחתים.

הפלטפורמה של YouTube מיוצגת דרך Google באיגודים הבאים שרלוונטיים ל-NetzDG:

• Freiwillige Selbstkontrolle Multimedia-Diensteanbieter e.V. (FSM)
• eco - Verband der Internetwirtschaft e.V.
• Deutschland sicher im Netz e.V.
• Bitkom-Bundesverband Informationswirtschaft, Telekommunikation und neue Medien e.V.

ל-FSM ול-eco יש מוקדים טלפוניים שאליהם לקוחות יכולים להתקשר כדי לדווח על מקרים. הדיווחים האלה מועברים לבדיקת הצוות שלנו. אנחנו שולחים למוקד המדווח משוב מפורט על החלטתנו בכל אחד מהמקרים.

שיתוף פעולה הוא מפתח להצלחה. יש לנו שיתוף פעולה הדוק עם ארגונים חברתיים שחרטו על דגלם לעקור מן השורש דברי שטנה ואפליה. אנחנו גם משתפים פעולה עם ממשלות כדי להעמיק את הבנתנו בהקשרים מקומיים ולהרחיב את יכולתנו לפתח פתרונות. אנחנו בוחנים מחדש באופן שוטף את הנהלים לאכיפת המדיניות שלנו בעזרת שותפים ומומחים. אנחנו גם מזמינים ארגונים לא ממשלתיים להשתתף בסדנאות מקומיות או אזוריות, שבהן אנחנו מסבירים על המדיניות ועדכוני המוצרים שלנו, מלמדים איך להשתמש בשירותי Google ובמנגנוני אבטחה ודנים באתגרים חדשים ובסוגיות מרכזיות.

יש מגוון יוזמות ופרויקטים שבעזרתם נאבקים ב-Google וב-YouTube בדברי שטנה אונליין, ותומכים בקורבנות של תוכן לא חוקי.

היוזמה Impact Challenge on Safety של Google.org היא קרן בשווי 10 מיליון אירו לתמיכה בארגונים ברחבי אירופה, שמתמודדים עם אתגרים הקשורים לשנאה, לקיצוניות ולבטיחות של ילדים, אונליין ואופליין. Google מממנת פרויקטים קהילתיים קיימים וחדשים ברחבי אירופה בשאיפה לתמוך ביוזמות להתמודדות עם שנאה וקיצוניות, ולעזור לאנשים צעירים להפוך לאזרחים דיגיטליים שמתנהלים בביטחון. בין הזוכים: הארגונים בגרמניה HateAid ו-Gefangene helfen Jugendlichen e.V. ב-HateAid מתכוונים להיעזר במענק כדי לשפר את התמיכה הניתנת לקורבנות של דברי שטנה ופשעי שנאה אונליין, וכן לעזור למשתמשים שעברו זאת לפתח חוסן ולהעצים אותם כך שיחזרו להשתמש באינטרנט ולא ירגישו מושתקים בעקבות הבעת שנאה. כדי לצמצם את שיעורי החזרה לפשיעה בקרב צעירים גרמנים פגיעים, הצוות של Gefangene helfen Jugendlichen מעניק לצעירים תמיכה מקצועית ומפעיל תוכניות, כולל ביקורים בבתי כלא ודיונים עם אסירים לשעבר. כך הארגון מאפשר לצעירים פגיעים ללמוד על הנזקים של פשעים בחיים האמיתיים.

כבר שנים רבות Google מחויבת לקדם את האוריינות במדיה, לחזק אנשים צעירים ומשתמשים בכל הגילאים ולתמוך במורים ובמקורות מידע שמיועדים ללימודים. אנחנו תמיד שואפים להגביר את המוּדעוּת לגבי מנגנוני הסימון ולתת למשתמשים מידע לגבי המדיניות, ההגדרות והכלים של Google ושל YouTube לשימוש חכם בדיגיטל.

משנת 2013, Google מספקת מימון ותמיכה לאיגוד הגרמני לרגולציה עצמית בהתנדבות בקרב ספקי שירות של מדיה דיגיטלית (FSM e.V.‎) כדי ליצור ולפתח את הסיכום של מקורות הלימוד Medien in die Schule, הכולל מערכי שיעורים בנושא עיצוב דעות באינטרנט, מאבק בדברי שטנה, מציאות לעומת בדיון במדיה ואוריינות מידע.

בשנת 2009 נוצר שיתוף פעולה בין YouTube לבין שותפים מקומיים, בחסות הקנצלרית מרקל, והושקה לראשונה היוזמה ‎361 Grad Respekt, שהופעלה מספר פעמים בין 2009 ל-2014 (מ-2010 בחסות השרה המכהנת בראש המשרד למשפחות), וחודשה בשם ‎#NichtEgal בשנת 2016 עם שתי גרסאות (2016 ו-2018). היוזמות האלה נועדו לקדם התנהגות מכבדת אונליין ואופליין ולעודד בני נוער לפעול נגד שנאה ואפליה, דרך תחרויות לפרסום סרטונים וסדנאות בבתי ספר.

האיגוד הגרמני לרגולציה עצמית בהתנדבות בקרב ספקי שירות של מדיה דיגיטלית (FSM e.V.‎), במימון מענק מ-Google.org, הזרוע הפילנטרופית של Google, השיק את פרויקט Weitklick במאי 2020. מטרת הפרויקט היא לפתח פלטפורמה ללמידה מעורבת כדי ללמד מורים על התופעה של הפצת מידע כוזב והדרכים לדיון בתופעה בכיתה, וכדי ליצור שיתוף פעולה בין מורים, בתי ספר ועיתונאים.

אנחנו ממשיכים להשקיע ברשת גלובלית של יותר מ-300 אנשי אקדמיה, שותפים ממשלתיים וארגונים לא ממשלתיים ברחבי העולם, שהמומחיות שלהם תורמת המון למערכות האכיפה שלנו. למשל, בגרמניה, קרן אמדאו אנטוניו (Amadeu Antonio Foundation), הארגון Nummer gegen Kummer והרשת למניעת אלימות.

כדי לאכוף את הנחיות הקהילה של YouTube, ב-YouTube מסתמכים על מסגרת עבודה המשלבת בין אנשים למכונות כדי לסמן תוכן בלתי הולם ולאפשר בדיקות בהתאם להנחיות הקהילה. סימונים המבוססים על הפרות אפשריות של הנחיות הקהילה יכולים להתבצע על ידי מערכות הסימון האוטומטי של YouTube, חברים בתוכנית Trusted Flagger (ארגונים לא ממשלתיים, רשויות ממשלתיות ואנשים פרטיים) או משתמשים בקהילה הרחבה יותר של YouTube.

ב-YouTube תמיד משתמשים בשילוב של בודקים אנושיים וטכנולוגיה כדי לטפל בתוכן שמפר את ההנחיות בפלטפורמה. בשנת 2017, התחילו ליישם ב-YouTube טכנולוגיה מתקדמת יותר של למידת מכונה כדי לסמן תוכן לבדיקה של צוותי הבודקים. השילוב בין טכנולוגיה לזיהוי חכם לבין בודקים אנושיים מיומנים מאפשר לאכוף ב-YouTube בעקביות את כללי המדיניות במהירות שהולכת ומתגברת.

מכונות מאפשרות ל-YouTube לסמן תוכן לבדיקה בהיקף נרחב, וכך אנחנו יכולים להסיר מיליוני סרטונים שמפירים את המדיניות שלנו לפני שמספיקים לצפות בהם. בנוסף, ההשקעה של YouTube בלמידת מכונה שעוזרת להאיץ את תהליך ההסרות נושאת פירות בתחומים בהיקף קטן עם סיכון גבוה (כמו קיצוניות אלימה) ובתחומים בהיקף גדול (כמו ספאם).

כאן ניתן לגשת לנתונים עדכניים על הסרות בדוח אכיפת הנחיות הקהילה של YouTube.

בניגוד לציפייה, כשפורסים למידת מכונה, יותר אנשים בודקים תוכן ולא פחות. המערכות שלנו מסתמכות על בדיקה אנושית כדי לקבוע אם התוכן מפר את כללי המדיניות שלנו.

כשאנחנו מזהים סרטון שמפר את ההנחיות שלנו, אנחנו מסירים אותו ורושמים שהערוץ קיבל התראה. אנחנו סוגרים ערוצים שלמים אם הם מתמקדים בפרסום תוכן שאסור לפי הנחיות הקהילה שלנו, או אם הם מכילים הפרה אחת חמורה ביותר, כגון ניצול מיני של ילדים. הרוב הגדול של ניסיונות ניצול לרעה מגיע מגורמים זדוניים שמנסים להעלות ספאם או תוכן למבוגרים בלבד.

כאן מוסבר בפירוט איך אנחנו נאבקים בתוכן מהסוג הזה ואיזו השפעה יש להשקעה שלנו.

פיתחנו גם כלים שמאפשרים ליוצרים לנהל את התגובות בסרטונים שלהם. לדוגמה, יוצרים יכולים להשהות את הפרסום של כל התגובות עד שיעברו בדיקה, או להשהות באופן אוטומטי תגובות שכוללות קישורים או עשויות לכלול תוכן פוגעני. כיום, יותר ממיליון יוצרים משתמשים בכלים לניהול התגובות בערוץ שלהם.

התנאים וההגבלות של YouTube מובְנים בצורה ברורה וכוללים, בין היתר, את הפרק 'התוכן וההתנהלות שלך', שבו מוסבר למשתמשים בשפה ידידותית למשתמש איזה תוכן ואיזו התנהגות אסורים בפלטפורמה. בתנאים ובהגבלות מצוין במפורש שהשימוש בשירות כפוף לתנאים ולהגבלות, להנחיות הקהילה של YouTube, למדיניות YouTube ולמדיניות בנושא בטיחות וזכויות יוצרים (ביחד, 'ההסכם'). לפי התנאים וההגבלות, אסור לפרסם תוכן שמפר את ההסכם או את החוק. הנחיות הקהילה המשולבות בהסכם מובנות בצורה ברורה ומקיפה, ומתייחסות ל-5 תחומים: ספאם ושיטות מטעות, תוכן רגיש, תוכן אלים או מסוכן, מוצרים בפיקוח ומידע מוטעה. כל אחד מהתחומים האלה מחולק לקטעים עם פירוט על כללי המדיניות הרלוונטיים. כל אחד מכללי המדיניות האלה מתחיל בתיאור כללי של סוג התוכן שאסור לפרסם ב-YouTube והסיבות לכך. במדיניות, מתחת לכותרת 'מה המשמעות של המדיניות הזו עבורך', מוסבר למשתמשים מה המשמעות מבחינת ההתנהגות שלהם בפלטפורמה. לרוב, אחרי ההסבר הזה מופיע סעיף משנה של 'דוגמאות' עם דוגמאות ספציפיות לתוכן שאסור לפרסם ב-YouTube לפי המדיניות הזו. לבסוף, בפרק 'מה קורה כשיש בתוכן הפרה של המדיניות הזו', המשתמשים מקבלים מידע על ההשלכות האפשריות של הפרות. לפיכך, ההוראות האלה מסדירות את קבילות ההפצה של תוכן ב-YouTube בניסוח ובעיצוב ידידותיים למשתמש. הן מכילות תיאורים מפורטים של התנהגות לא קבילה וגם דוגמאות מובהקות. קל למצוא את ההוראות והן מנוסחות בצורה ברורה ומקיפה, בהתאם לדרישות של הסעיפים 307 פסקה 1, 308 ו-309 ב-BGB. ההוראות בהנחיות האלה מבוססות על קריטריונים אובייקטיביים שניתן לאמת, בהתאם לתקנים בפסקי הדין הרלוונטיים. בנוסף, המשתמשים מקבלים הסבר מפורט על האופן שבו יקבלו הודעה על הפרה כלשהי של התנאים וההגבלות או של הנחיות הקהילה, וכן על הדרכים והמקומות שבהם יוכלו להגיש הצהרות או ערעורים.

בכל תקופת דיווח אנחנו אוספים דוגמאות שממחישות טוב יותר את ההחלטות שקיבלנו בנוגע לתוכן לא חוקי לכאורה, כדי להראות את רוחב היריעה של התוכן המכוסה על ידי ה-NetzDG ושל סוגי התכנים שאנחנו מתבקשים להסיר.