हिंसक चरमपंथियाें के ख़िलाफ़ बनी हमारी नीतियाें का उल्लंघन करने वाले वीडियाे, वे वीडियाे हाेते हैं जिनमें सरकार की आेर से घाेषित किए गए विदेशी आतंकवादी संगठनाें की बनाई हुई सामग्री हाेती है. हम आतंकवादी संगठनाें काे, आतंकवादियाें की भर्ती जैसे किसी भी काम के लिए YouTube का इस्तेमाल नहीं करने देते. YouTube कड़े ताैर पर ऐसी सामग्री पर भी राेक लगाता है, जाे आतंकवाद का प्रचार करती हाे, जैसे आतंकवादी घटनाआें या हिंसा काे बढ़ावा देने वाली सामग्री. हम ऐसी सामग्री YouTube पर डालने की अनुमति तभी देते हैं, जब वीडियाे शिक्षा, डॉक्युमेंट्री, विज्ञान या कला से जुड़े किसी मकसद से डाला गया हो.

जाे हिंसक उग्रवादी समूह, सरकार की आेर से घाेषित किए गए विदेशी आतंकवादी संगठनाें की सूची में नहीं हैं, उनके ख़िलाफ़ हमारी दूसरी नीतियाें के तहत कार्रवाई की जाती है. इन नीतियाें में नफ़रत भरी सामग्री या हिंसक या घिनौनी सामग्री आैर ऐसी सामग्री के लिए कार्रवाई तय है, जाे पहली बार में ही किसी काे चाैंका दे, सनसनी फैला दे या जिसमें बेवजह हिंसा हाे. हमारी टीम के लाेग YouTube की नीतियाें आैर ग्रुप दिशा-निर्देशाें के हिसाब से ही, फ़्लैग की गई सामग्री की समीक्षा करते हैं. इस सेक्शन में हमने सिर्फ़ उन्हीं वीडियो की संख्या दी है, जो हिंसक चरमपंथियाें से जुड़ी नीतियों का उल्लंघन करने की वजह से हटाए गए थे.

हैश शेयरिंग: हिंसक अतिवाद

YouTube, टेक्नोलॉजी का इस्तेमाल करके, पहले नीतियों का उल्लंघन कर चुके कॉन्टेंट को फिर से अपलोड होने से रोकता है. ऐसा, YouTube पर लोगों को कॉन्टेंट दिखने से पहले ही हो जाता है. हम बच्चों का यौन शोषण दिखाने वाली तस्वीरों को YouTube पर फैलने से रोकने के लिए, इस टेक्नोलॉजी का इस्तेमाल लंबे समय से करते आ रहे हैं. साल 2016 में, हमने कई इंडस्ट्री पार्टनर के साथ एक हैश शेयर करने वाला डेटाबेस बनाया. इसमें हम आतंकवाद से जुड़े कॉन्टेंट के हैश (या “डिजिटल फ़िंगरप्रिंट”) शेयर करते हैं, ताकि ऐसे कॉन्टेंट को फैलने से रोका जा सके. शेयर किए गए इस डेटाबेस में, फ़िलहाल Undefined parameter - FormatNumber से ज़्यादा यूनीक हैश मौजूद हैं. इन्हें देखने पर, ये काफ़ी हद तक एक जैसे दिखते हैं.

हैश शेयर करने वाले डेटाबेस के लिए, हैश का योगदान देने में हमारी अहम भूमिका है. ऐसा YouTube की बड़ी मीडिया लाइब्रेरी और हिंसक चरमपंथ वाले कॉन्टेंट की पहचान करने वाले हमारे ऑटोमेटेड सिस्टम की वजह से मुमकिन हुआ है. 'ग्लोबल इंटरनेट फ़ोरम टू काउंटर टेररिज़म' के तहत कॉन्टेंट शेयर करने की शर्तों के मुताबिक, 2023 में YouTube ने हैश शेयर करने वाले डेटाबेस के लिए Undefined parameter - FormatNumber से ज़्यादा यूनीक हैश का योगदान दिया.

कॉन्टेंट को हैश किए जाने के बाद, दूसरे प्लैटफ़ॉर्म इन हैश का इस्तेमाल कर सकते हैं. वे इनका इस्तेमाल, अपने प्लैटफ़ॉर्म पर आतंकवाद से जुड़े कॉन्टेंट की पहचान करने के लिए कर सकते हैं. साथ ही, वे अपने कॉन्टेंट की नीतियों के हिसाब से उस कॉन्टेंट का आकलन कर सकते हैं. साल 2017 में, इस डेटाबेस में योगदान देने वाली और इससे फ़ायदा पाने वाली कंपनियों की संख्या 4 थी, जो अब बढ़कर 13 हो गई है. इस व्यवस्थित पहल को अब आधिकारिक तौर पर 'ग्लोबल इंटरनेट फ़ोरम टू काउंटर टेररिज़म' (जीआईएफ़सीटी) चला रहा है.

आतंकवाद से लड़ने वाला ग्लोबल इंटरनेट फ़ोरम: हिंसक अतिवाद

साल 2017 में, YouTube, Facebook, Microsoft, और Twitter ने, कंपनियों के ग्रुप के तौर पर 'ग्लोबल इंटरनेट फ़ोरम टू काउंटर टेररिज़म' (जीआईएफ़सीटी) की स्थापना की. इसका मकसद है कि कोई भी आतंकवादी समूह, इस ग्रुप में शामिल कंपनियों के डिजिटल प्लैटफ़ॉर्म का गलत इस्तेमाल न कर पाए. हालांकि, हमारी कंपनियां आतंकवाद की रोकथाम के लिए, सबसे सही तरीकों के बारे में कई सालों से लोगों को जागरूक करती आ रही हैं. फिर भी, जीआईएफ़सीटी की मदद से, यह काम तेज़ी से और व्यवस्थित तरीके से मुमकिन हो पाया है. साथ ही, इसकी मदद से सभी कंपनियां एकजुट होकर, इंटरनेट पर आतंकवाद से जुड़े कॉन्टेंट को ज़्यादा लोगों तक पहुंचने से रोक सकती हैं. टेक अगेंस्ट टेररिज़म पहल के साथ मिलकर, जीआईएफ़सीटी एक ग्लोबल वर्कशॉप को होस्ट करता है. इस वर्कशॉप में, टेक्नोलॉजी से जुड़ी कंपनियां, गैर-सरकारी संगठन, और अंतरराष्ट्रीय सरकारी विभाग शामिल होते हैं.

हैश शेयर करने वाले डेटाबेस का इस्तेमाल, अलग-अलग सदस्य और इंडस्ट्री पार्टनर करते हैं. इसलिए, इस बात पर सभी की आम सहमति ज़रूरी थी कि कॉन्टेंट के हैश की समीक्षा या उसे शेयर करने के लिए, किस तरह के कॉन्टेंट को आतंकवाद या चरमपंथ से जुड़ा माना जाए. साल 2021 की जीआईएफ़सीटी की सालाना पारदर्शिता रिपोर्ट के मुताबिक, “हैश शेयर करने वाले डेटाबेस का मूल दायरा, संयुक्त राष्ट्र सुरक्षा परिषद के सभी प्रतिबंधों की सूची में शामिल संगठनों से जुड़े कॉन्टेंट तक सीमित है.”

YouTube और जीआईएफ़सीटी के अन्य संस्थापक सदस्यों ने, इंटरनेट पर मौजूद आतंकवाद और हिंसक चरमपंथी विचारधारा वाले कॉन्टेंट को हटाने के लिए क्राइस्टचर्च कॉल को सहमति दी. क्राइस्टचर्च कॉल के अलावा, जीआईएफ़सीटी ने एक नया कॉन्टेंट इंसिडेंट प्रोटोकॉल (सीआईपी) बनाया. यह प्रोटोकॉल, जीआईएफ़सीटी की सदस्य कंपनियों के लिए बनाया गया, ताकि वे किसी हिंसक हमले के बाद, अपराधियों के बनाए गए लाइव स्ट्रीम वाले कॉन्टेंट के ख़िलाफ़ बेहतर कार्रवाई कर सकें. इस प्रोटोकॉल को टेस्ट किया गया और यह असरदार साबित हुआ. जैसे, जर्मनी के हैली शहर में एक सिनेगाग पर हुआ हमला (अक्टूबर 2019), एरिज़ोना (अमेरिका) के ग्लैंडेल शहर में हुई गोलीबारी (मई 2020), न्यूयॉर्क (अमेरिका) के बफ़लो शहर में हुई गोलीबारी (जून 2022), और टेनेसी (अमेरिका) के मेंफ़िस शहर में हुई गोलीबारी के बाद इस प्रोटोकॉल को लागू किया गया. सीआईपी के बनने के बाद से, जीआईएफ़सीटी ने अपने इंसिडेंट रिस्पॉन्स फ़्रेमवर्क को ज़्यादा बेहतर बनाया है, ताकि किसी हिंसक हमले के बाद अपराधियों के बनाए गए, बिना लाइव स्ट्रीम वाले वीडियो और इमेज के ख़िलाफ़ कार्रवाई करते समय कॉन्टेंट इंसिडेंट टियर को शामिल किया जा सके. राजस्थान (भारत) के उदयपुर शहर में हुए हमले (जुलाई 2022) के बाद, इसे पहली बार लागू किया गया.

जीआईएफ़सीटी धीरे-धीरे बेहतर होकर एक स्वतंत्र संगठन बन गया है. अब इसके पास एक इंडिपेंडेंट एक्ज़ीक्यूटिव डायरेक्टर और स्टाफ़ है. जीआईएफ़सीटी में सरकारी प्रतिनिधियों और गैर-सरकारी सदस्यों की एक स्वतंत्र सलाहकार समिति भी शामिल है. इसमें एडवोकेसी ग्रुप के सदस्य, मानवाधिकार विशेषज्ञ, शोधकर्ता, और तकनीकी विशेषज्ञ भी शामिल हैं. संस्था के नए गवर्नेंस फ़्रेमवर्क के तहत YouTube, जीआईएफ़सीटी के एक्ज़ीक्यूटिव ऑपरेटिंग बोर्ड का हिस्सा है.

शिक्षा, डॉक्यूमेंट्री, विज्ञान और कला से जुड़े वीडियो: हिंसक अतिवाद

अगर उपयोगकर्ता कुछ सिखाने के लिए, डॉक्यूमेंट्री के तौर पर, वैज्ञानिक आधारों या कला से जोड़कर भी आंतकवाद वाले वीडियो डाल रहे हैं, तो हमारा सुझाव है कि वे इस बारे में पूरी जानकारी दें, जिससे दर्शक वीडियो डालने की सही मकसद समझ सकें. ऐसे हिंसक या खून-खराबे वाले वीडियो नहीं पोस्ट किए जाने चाहिए, जिनका मुख्य उद्देश्य डर पैदा करना, सनसनी फैलाना या कोई गलत इरादा हो. अगर वीडियो में साफ़ तौर पर खून-खराबा दिखाया गया है, तो उसमें ऐसा दिखाने के मकसद के बारे में जानकारी होनी चाहिए और दर्शकों को समझाया जाना चाहिए कि उन्हें यह सब क्यों दिखाया जा रहा है. ऐसा शुरुआत में एक लेख जोड़कर, वीडियो में बोलकर या वीडियो में टेक्स्ट ओवरले डालकर किया जा सकता है. साथ-ही सही टाइटल और जानकारी की मदद से भी ऐसा किया जा सकता है. डॉक्यूमेंट्री या शिक्षा से जुड़े मकसद की जानकारी देने से दर्शकों और समीक्षकों को समझने में मदद मिल सकती है कि कभी- कभी YouTube पर हिंसा दिखाने वाले वीडियो क्यों डाले जाते हैं. उदाहरण के लिए, अगर कोई पत्रकार ऐसा वीडियो रिकॉर्ड करता है, जिसमें धरना देने वाले लोगों को मारते हुए दिखाया जा रहा है और यह वीडियो वह पूरी जानकारी (तारीख, जगह, मकसद, वगैरह) के साथ YouTube पर डालता है, तो यह वीडियो YouTube से नहीं हटाया जाएगा. हालांकि, अगर यही वीडियो बिना किसी जानकारी के अपलोड किया जाता है, तो माना जाएगा कि वीडियो गलत इरादे से डाला गया है और उसे YouTube से हटा दिया जाएगा. हिंसा दिखाने वाले या संवेदनशील वीडियो पर उम्र से जुड़ी पाबंदी या चेतावनी वाली स्क्रीन जोड़ी जा सकती है.

भरोसेमंद फ़्लैगर: हिंसक चरमपंथ

हमारी नीतियां अलग-अलग तरह के कॉन्टेंट पर लागू होती हैं. हम 300 से ज़्यादा शिक्षा से जुड़ी संस्थाओं, सरकारी पार्टनर, और एनजीओ के नेटवर्क में निवेश करना जारी रखेंगे. ये पार्टनर और संस्थाएं, नीति लागू करने के हमारे सिस्टम में, अपनी विशेषज्ञता के चलते अहम योगदान करती हैं. इसमें हमारे Priority Flagger Program के तहत किए गए योगदान भी शामिल हैं. Priority Flagger Program में हिस्सा लेने वाले लोगों को YouTube के कम्यूनिटी दिशा-निर्देश लागू करने की ट्रेनिंग दी जाती है. YouTube इस्तेमाल करने वाले आम उपयोगकर्ताओं की तुलना में, हम इस प्रोग्राम में शामिल हुए लोगों के फ़्लैग किए गए ज़्यादा वीडियो पर कार्रवाई करते हैं. इसलिए, हम इन वीडियो की समीक्षा सामान्य वीडियो से पहले करते हैं. Priority Flagger Program में हिस्सा लेने वाले लोग, हमारी 'भरोसा और सुरक्षा टीमों' से सीधे बातचीत करके, अपनी समस्याओं को तेज़ी से हल कर सकते हैं. किसी आम उपयोगकर्ता के फ़्लैग किए गए वीडियो की तरह, भरोसेमंद फ़्लैगर के फ़्लैग किए गए वीडियो पर भी समान नीतियां लागू होती हैं. हमारी टीम फ़्लैग किए गए वीडियो की समीक्षा करती है. इस टीम के सदस्यों को यह तय करने की ट्रेनिंग दी जाती है कि किस वीडियो को हमारे कम्यूनिटी दिशा-निर्देशों का उल्लंघन करने की वजह से हटाया जाना चाहिए और किसे नहीं.