דוח שקיפות

איך Google נלחמת בפרסום תוכן שמתאר התעללות מינית בילדים באינטרנט

Google מחויבת למאבק בתוכן שמתאר התעללות מינית בילדים (CSAM) באינטרנט. תוכן שמתאר התעללות מינית בילדים אינו חוקי, והתנאים וההגבלות שלנו אוסרים לאחסן או לשתף תוכן מהסוג הזה בכל הפלטפורמות והשירותים של Google. צוותי Google עובדים מסביב לשעון כדי לזהות תוכן כזה, להסיר אותו ולדווח עליו, באמצעות שילוב של כלי גילוי אוטומטיים מובילים בתחום ובודקים שעברו הכשרה מיוחדת לשם כך. בנוסף, אנחנו מקבלים דיווחים מצדדים שלישיים וממשתמשים, שמשלימים את העבודה המתמשכת שלנו. אנחנו מדווחים על תוכן שמתאר התעללות מינית בילדים לארגון National Center for Missing and Exploited Children ‏(NCMEC). זהו מרכז מקיף למידע ולדיווח בארה"ב, שמוקדש לבעיות הקשורות לניצול ילדים. אנשי NCMEC מעבירים את הדוחות האלה לרשויות הרלוונטיות לאכיפת החוק ברחבי העולם.

הדוח הזה מכיל נתונים בנוגע למאמצים של Google ולמשאבים שהיא מקדישה למאבק בפרסום תוכן שמתאר התעללות מינית בילדים בפלטפורמות שלה.

סך כל קטעי התוכן שדווחו ל-NCMEC

כשאנחנו מזהים תוכן שמתאר התעללות מינית בילדים בפלטפורמות שלנו, אנחנו יוצרים דוח 'CyberTipline' עבור NCMEC. דוח יחיד עשוי להכיל קטע תוכן או מספר קטעים, בהתאם לנסיבות. לדוגמה, התוכן עשוי להכיל תמונות, סרטונים, כתובות URL ו/או טקסט לשידול ל-CSAM. ייתכן שקטע תוכן מסוים יזוהה במספר חשבונות או מקרים, לכן המדד הזה עשוי לכלול קטעי תוכן שדווחו כמה פעמים.

סה"כ תוכן שדווח
2,829,178

דוחות CyberTipline שנשלחו אל NCMEC

דוח שנשלח אל NCMEC עשוי לכלול מידע שמזהה את המשתמש שאחראי להפצת התוכן הלא חוקי, את הקטין הקורבן, את התוכן הלא חוקי הנדון ו/או עובדות אחרות שמספקות הקשר. יכול להיות שיישלחו כמה דוחות לגבי משתמש מסוים או תוכן מסוים. לדוגמה, במקרים שבהם התוכן מזוהה במספר מקורות מידע. ב-NCMEC ממיינים את הדוחות האלה כדי לשלוח אותם לרשויות לאכיפת החוק ברחבי העולם.

המדד הזה כולל גם דוחות CyberTipline משלימים ש-Google מעבירה אל NCMEC לטיפול ברמה גבוהה יותר. בדוחות האלה מפורט מידע נוסף על מקרים חמורים במיוחד של התעללות מינית בילדים, כולל פגיעה גופנית או התעללות מינית מתמשכת בילדים, וכן הפקת CSAM.

דוגמאות להשפעה של דוחות CyberTipline ומידע משלים שאנחנו שולחים אל NCMEC מפורטים בשאלות הנפוצות.

סה"כ דוחות
599,046

חשבונות שהוטלה עליהם אריכפה עקב הפרות שקשורות לתוכן שמתאר התעללות מינית בילדים

כשאנחנו מזהים תוכן שמתאר התעללות מינית בילדים בחשבון Google של משתמש כלשהו, אנחנו נוקטים בפעולה המתאימה, כולל שליחת דוח CyberTipline אל NCMEC. אנחנו עשויים גם לנקוט פעולות אכיפה אחרות בחשבון, כולל, בין היתר, השבתת הגישה לשירותים או הגבלת הגישה. משתמשים שמושפעים מכך מקבלים הודעה על פעולות האכיפה וכן הזדמנות להגיש ערעור.

סה"כ חשבונות שהוחלה עליהם אכיפה
360,375

חשבונות שהוחלה עליהם אכיפה לפי מדינה (10 המדינות המובילות)

המדד הזה מייצג את 10 המדינות המובילות שבהן Google ביצעה פעולות אכיפה בחשבונות בקשר לתוכן ויזואלי של התעללות מינית בילדים (CSAM). הנתונים האלה מבוססים על שיוך של מדינות למשתמשים. בדרך כלל אנחנו משייכים למשתמשים את המדינה שבה הם יצרו את החשבון, או את המדינה שממנה הם ניגשים הכי הרבה לשירותי Google.

אינדונזיה
הודו
ברזיל
רוסיה
ארצות הברית
מקסיקו
הפיליפינים
תאילנד
וייטנאם
בנגלדש

כתובות URL שדווחו והוסרו מהאינדקס של חיפוש Google כי הן מכילות תוכן שמתאר התעללות מינית בילדים

המדד הזה מייצג את מספר כתובות ה-URL שעליהן דיווחנו ושאותן הסרנו מאינדקס החיפוש. בחיפוש Google נצברים ומאורגנים פרטים שמתפרסמים באינטרנט. אין לנו שליטה על התוכן שמופיע בדפי אינטרנט של צדדים שלישיים. כשאנחנו מזהים תוכן שמתאר התעללות מינית בילדים בדפי אינטרנט של צדדים שלישיים, אנחנו מדווחים על כתובת ה-URL הרלוונטית, ומסירים אותה מתוצאות החיפוש ומהאינדקס. עם זאת, אין לנו אפשרות להסיר את התוכן מאותו דף של צד שלישי. המדד הזה מייצג שילוב של ההסרות האוטומטיות והידניות.

כתובות URL שדווחו והוסרו מהאינדקס
402,839

הוספת ערכי גיבוב למסד הנתונים של NCMEC לגבי תוכן שמתאר התעללות מינית בילדים

כשאנחנו מזהים תוכן חדש שמתאר התעללות מינית בילדים, ייתכן שניצור לו ערך גיבוב ונוסיף אותו למאגר הפנימי שלנו. טכנולוגיית הגיבוב מאפשרת לנו למצוא תוכן שמתאר התעללות מינית בילדים שזוהה בעבר. כמו כן, אנחנו משתפים ערכי גיבוב עם NCMEC כדי שגם ספקים אחרים יוכלו לגשת אליהם. ההוספה של ערכי גיבוב למסד נתוני הגיבוב של NCMEC היא אחת הדרכים המרכזיות למאבק בפרסום תוכן שמתאר התעללות מינית בילדים באינטרנט. המדד הזה מייצג את המספר המצטבר של ערכי הגיבוב ש-Google הוסיפה במסגרת המאבק.

סה"כ גיבובים (hash) ששותפו
2,643,419

איך Google נלחמת בפרסום תוכן שמתאר התעללות מינית בילדים באינטרנט

Google מחויבת לשתף פעולה עם מומחים ועם קובעי מדיניות ברחבי העולם כדי להיאבק בהפצת תוכן שמתאר התעללות מינית בילדים באינטרנט.

מידע נוסף על האופן שבו Google מזהה ומסירה תוכן שמתאר התעללות מינית בילדים ומדווחת עליו