भारत ने सोशल मीडिया प्लेटफार्मों को डीपफेक और अन्य एआई-जनित प्रतिरूपणों की पुलिसिंग बढ़ाने का आदेश दिया है, जबकि उन्हें टेकडाउन आदेशों का पालन करने में लगने वाले समय को तेजी से कम करना है। यह एक ऐसा कदम है जो वैश्विक तकनीकी कंपनियों द्वारा इंटरनेट सेवाओं के लिए दुनिया के सबसे बड़े और सबसे तेजी से बढ़ते बाजारों में से एक में सामग्री को मॉडरेट करने के तरीके को नया आकार दे सकता है।
भारत के 2021 आईटी नियमों में संशोधन के रूप में मंगलवार को प्रकाशित (पीडीएफ) परिवर्तन, डीपफेक को औपचारिक नियामक ढांचे के तहत लाते हैं, सिंथेटिक ऑडियो और विज़ुअल सामग्री की लेबलिंग और ट्रेसबिलिटी को अनिवार्य करते हैं, जबकि प्लेटफार्मों के लिए अनुपालन समयसीमा में भी कटौती करते हैं, जिसमें आधिकारिक निष्कासन आदेशों के लिए तीन घंटे की समय सीमा और कुछ जरूरी उपयोगकर्ता शिकायतों के लिए दो घंटे की समय सीमा शामिल है।
डिजिटल बाजार के रूप में भारत का महत्व नए नियमों के प्रभाव को बढ़ाता है। एक अरब से अधिक इंटरनेट उपयोगकर्ताओं और मुख्य रूप से युवा आबादी के साथ, दक्षिण एशियाई राष्ट्र मेटा और यूट्यूब जैसे प्लेटफार्मों के लिए एक महत्वपूर्ण बाजार है, जिससे यह संभावना है कि भारत में अपनाए गए अनुपालन उपाय वैश्विक उत्पाद और मॉडरेशन प्रथाओं को प्रभावित करेंगे।
संशोधित नियमों के तहत, सोशल मीडिया प्लेटफ़ॉर्म जो उपयोगकर्ताओं को ऑडियो-विज़ुअल सामग्री अपलोड करने या साझा करने की अनुमति देते हैं, उन्हें इस बात का खुलासा करना होगा कि क्या सामग्री कृत्रिम रूप से उत्पन्न हुई है, उन दावों को सत्यापित करने के लिए उपकरण तैनात करें, और यह सुनिश्चित करें कि डीपफेक को स्पष्ट रूप से लेबल किया गया है और पता लगाने योग्य स्रोत डेटा के साथ एम्बेड किया गया है।
सिंथेटिक सामग्री की कुछ श्रेणियां – जिनमें भ्रामक प्रतिरूपण, गैर-सहमति वाली अंतरंग कल्पना और गंभीर अपराधों से जुड़ी सामग्री शामिल हैं – को नियमों में पूरी तरह से वर्जित किया गया है। गैर-अनुपालन, विशेष रूप से अधिकारियों या उपयोगकर्ताओं द्वारा चिह्नित मामलों में, भारतीय कानून के तहत उनकी सुरक्षित-आश्रय सुरक्षा को खतरे में डालकर कंपनियों को अधिक कानूनी दायित्व में डाल सकता है।
उन दायित्वों को पूरा करने के लिए नियम स्वचालित प्रणालियों पर बहुत अधिक निर्भर हैं। प्लेटफ़ॉर्म से अपेक्षा की जाती है कि वे उपयोगकर्ता के खुलासे को सत्यापित करने, डीपफेक की पहचान करने और लेबल करने और सबसे पहले निषिद्ध सिंथेटिक सामग्री के निर्माण या साझाकरण को रोकने के लिए तकनीकी उपकरण तैनात करें।
नई दिल्ली स्थित पॉलिसी कंसल्टिंग फर्म द क्वांटम हब के संस्थापक भागीदार रोहित कुमार ने कहा, “संशोधित आईटी नियम एआई-जनित डीपफेक को विनियमित करने के लिए एक अधिक कैलिब्रेटेड दृष्टिकोण को चिह्नित करते हैं।” “काफ़ी हद तक संकुचित शिकायत समयसीमा – जैसे कि दो से तीन घंटे की टेकडाउन विंडो – भौतिक रूप से अनुपालन बोझ बढ़ाएगी और बारीकी से जांच की जाएगी, विशेष रूप से यह देखते हुए कि गैर-अनुपालन सुरक्षित बंदरगाह सुरक्षा के नुकसान से जुड़ा हुआ है।”
अग्रणी भारतीय कॉरपोरेट लॉ फर्म एजेडबी एंड पार्टनर्स की पार्टनर अपराजिता राणा ने कहा कि नियम अब सभी ऑनलाइन सूचनाओं के बजाय एआई-जनरेटेड ऑडियो-विजुअल सामग्री पर ध्यान केंद्रित करते हैं, जबकि एआई के नियमित, कॉस्मेटिक या दक्षता-संबंधी उपयोगों के लिए अपवाद बनाए गए हैं। हालाँकि, उन्होंने आगाह किया कि बिचौलियों को इसके बारे में पता चलने पर तीन घंटे के भीतर सामग्री हटाने की आवश्यकता स्थापित मुक्त-भाषण सिद्धांतों से हटकर है।
राणा ने कहा, ”हालांकि, कानून में बिचौलियों को जागरूक होने या वास्तविक ज्ञान प्राप्त करने पर सामग्री को हटाने की आवश्यकता होती है, वह भी तीन घंटे के भीतर।” उन्होंने कहा कि बाल यौन शोषण सामग्री और भ्रामक सामग्री के प्रसार को रोकने के लिए लेबलिंग आवश्यकताएं सभी प्रारूपों पर लागू होंगी।
नई दिल्ली स्थित डिजिटल वकालत समूह इंटरनेट फ्रीडम फाउंडेशन ने कहा कि नियम टेकडाउन समयसीमा को काफी हद तक कम करके सेंसरशिप को तेज करने का जोखिम उठाते हैं, मानव समीक्षा के लिए बहुत कम गुंजाइश छोड़ते हैं और प्लेटफार्मों को स्वचालित अति-निष्कासन की ओर धकेलते हैं। एक्स पर पोस्ट किए गए एक बयान में, समूह ने निषिद्ध सामग्री श्रेणियों और प्रावधानों के विस्तार के बारे में भी चिंता जताई, जो प्लेटफार्मों को न्यायिक निरीक्षण के बिना निजी शिकायतकर्ताओं को उपयोगकर्ताओं की पहचान का खुलासा करने की अनुमति देते हैं।
समूह ने चेतावनी देते हुए कहा, “ये असंभव रूप से छोटी समयसीमा किसी भी सार्थक मानवीय समीक्षा को खत्म कर देती है,” यह चेतावनी देते हुए कि परिवर्तन मुक्त-भाषण सुरक्षा और उचित प्रक्रिया को कमजोर कर सकते हैं।
दो उद्योग सूत्रों ने टेकक्रंच को बताया कि संशोधनों में एक सीमित परामर्श प्रक्रिया का पालन किया गया, जिसमें अंतिम नियमों में केवल सुझावों का एक संकीर्ण सेट परिलक्षित हुआ। जबकि ऐसा प्रतीत होता है कि भारत सरकार ने कवर की गई जानकारी के दायरे को कम करने के लिए बोर्ड प्रस्तावों पर विचार किया है – सभी ऑनलाइन सामग्री के बजाय एआई-जनरेटेड ऑडियो-विज़ुअल सामग्री पर ध्यान केंद्रित करते हुए – अन्य सिफारिशों को नहीं अपनाया गया। सूत्रों ने कहा कि मसौदे और अंतिम नियमों के बीच बदलाव के पैमाने के कारण कंपनियों को अनुपालन अपेक्षाओं पर स्पष्ट मार्गदर्शन देने के लिए परामर्श के एक और दौर की आवश्यकता पड़ी।
भारत में सरकारी निष्कासन शक्तियां पहले से ही विवाद का मुद्दा रही हैं। सोशल मीडिया प्लेटफ़ॉर्म और नागरिक-समाज समूहों ने लंबे समय से सामग्री हटाने के आदेशों की व्यापकता और अस्पष्टता की आलोचना की है, और यहां तक कि एलोन मस्क के एक्स ने पोस्ट को ब्लॉक करने या हटाने के निर्देशों पर नई दिल्ली को अदालत में चुनौती दी है, यह तर्क देते हुए कि वे अतिशयोक्तिपूर्ण हैं और पर्याप्त सुरक्षा उपायों का अभाव है।
मेटा, गूगल, स्नैप, एक्स और भारतीय आईटी मंत्रालय ने टिप्पणियों के अनुरोधों का जवाब नहीं दिया।
नवीनतम परिवर्तन भारत सरकार द्वारा अक्टूबर 2025 में, निष्कासन शक्तियों के दायरे और पारदर्शिता पर एक्स द्वारा कानूनी चुनौती के जवाब में इंटरनेट से सामग्री हटाने का आदेश देने के लिए अधिकृत अधिकारियों की संख्या कम करने के कुछ ही महीने बाद आए हैं।
संशोधित नियम 20 फरवरी को लागू होंगे, जिससे प्लेटफार्मों को अनुपालन प्रणालियों को समायोजित करने के लिए बहुत कम समय मिलेगा। यह रोलआउट 16 से 20 फरवरी तक नई दिल्ली में एआई इम्पैक्ट शिखर सम्मेलन की भारत की मेजबानी के साथ मेल खाता है, जिसमें वरिष्ठ वैश्विक प्रौद्योगिकी अधिकारियों और नीति निर्माताओं को देश में आकर्षित करने की उम्मीद है।
