YouTube नीतियों का उल्लंघन करने वाली सामग्री(कंटेंट) को हटा देगा, चाहे वह किसी भी तरह से बनाई गई हो

ऑनलाइन वीडियो-शेयरिंग प्लेटफ़ॉर्म के निदेशक और जिम्मेदारी के वैश्विक प्रमुख टिमोथी काट्ज़ ने कहा है कि YouTube गलत सूचना की प्रकृति और प्रभाव के आधार पर कंटेंट को लेबल करता है, हटाता है या डी-एम्प्लीफाई करता है। उन्होंने कहा कि नीतियों का उल्लंघन करने वाली कोई भी सामग्री, चाहे वह कैसे भी बनाई गई हो, मंच से हटा दी जाएगी।

“गलत सूचना के रूप में पहचानी गई सभी सामग्री हमारी सामग्री नीतियों का उल्लंघन कर भी सकती है और नहीं भी। ... यदि आप ऐसा वीडियो अपलोड करना चाहते हैं, जिसे पहले कभी कोई इंसान चंद्रमा पर नहीं ले गया हो, तो हमें लगता है कि शायद यह एक ऐसा वीडियो है जिसे यूट्यूब पर रखने की अनुमति दी जानी चाहिए क्योंकि इससे वास्तविक दुनिया में गंभीर नुकसान का कोई खतरा नहीं है। लेकिन इसका मतलब यह नहीं है कि हम उस सामग्री की अनुशंसा करना चाहते हैं। ...लेकिन वोट कब और कैसे करना है, इसके बारे में गलत सूचना हो सकती है, जिसकी गंभीर भूमिका और परिणाम हो सकते हैं। यह कुछ ऐसा होगा जिसे हम मंच से हटाना चाहेंगे। ...यह सामग्री के प्रकार की प्रकृति पर निर्भर करता है।”

गलत सूचना पर YouTube के दिशानिर्देश उपयोगकर्ताओं को "तकनीकी रूप से हेरफेर या छेड़छाड़ की गई" कंटेंट पोस्ट करने से रोकते हैं जो "उपयोगकर्ताओं को गुमराह करती है और गंभीर नुकसान का गंभीर खतरा पैदा कर सकती है"। Google की विज्ञापन नीति उपयोगकर्ताओं को धोखा देने, धोखाधड़ी करने या गुमराह करने के लिए हेरफेर किए गए मीडिया, डीपफेक और अन्य परिवर्तित कंटेंट पर रोक लगाती है।

यूट्यूब (भारत) के निदेशक इशान जॉन चटर्जी ने कहा कि उनका कोई भी प्रमुख हितधारक फर्जी समाचार, गलत सूचना या डीपफेक की अनुमति देने वाले मंच से जुड़ना नहीं चाहता है। "हमारे प्रोत्साहन सरकारों और प्रमुख हितधारकों के साथ जुड़े हुए हैं जिन्हें हमें संबोधित करना है।"

काट्ज़ ने कहा कि जबकि Google और YouTube लंबे समय से AI का उपयोग कर रहे हैं, विशेष रूप से बड़े पैमाने पर सामग्री को मॉडरेट करने के लिए, जेनरेटिव AI ने कुछ चीजें बदल दी हैं। उन्होंने कहा, "सामग्री तैयार करने में प्रवेश की बाधाएं [जनरेटिव एआई के साथ] काफी कम हो जाती हैं।"

कैट्ज़ ने कहा कि एआई उनके लिए बेहतर सामग्री मॉडरेशन के लिए मॉडलों को प्रशिक्षित करने का एक शानदार तरीका है। "हम जितनी अधिक सामग्री देखते हैं और जब हम लोगों को विभिन्न प्रकार के मीडिया आदि में हेरफेर करने की कोशिश करते देखते हैं, तो यह हमारे सिस्टम को बेहतर और मजबूत बनाता है।"

अब सभी रचनाकारों के लिए यह खुलासा करना अनिवार्य है कि उन्होंने कोई परिवर्तित या सिंथेटिक सामग्री बनाई है जो यथार्थवादी है, जिसमें एआई टूल का उपयोग करना शामिल है, विशेष रूप से चुनाव, संघर्ष और सार्वजनिक स्वास्थ्य संकट या सार्वजनिक अधिकारियों जैसे संवेदनशील विषयों के लिए। जो निर्माता लगातार इसमें चूक करते हैं, उन्हें अपनी सामग्री हटाए जाने, YouTube पार्टनर प्रोग्राम से निलंबित होने (और इस प्रकार राजस्व की हानि) आदि का जोखिम उठाना पड़ता है।