सरकार द्वारा आईटी नियमों में संशोधन का प्रस्ताव — कृत्रिम बुद्धिमत्ता द्वारा जनित सामग्री (AI-Generated Content) पर लेबलिंग का अनिवार्य प्रस्ताव
प्रस्ताव का परिचय
हाल ही में Ministry of Electronics and Information Technology (MeitY) द्वारा Information Technology (Intermediary Guidelines and Digital Media Ethics Code) Rules, 2021 में कई नए संशोधनों का प्रारूप जारी किया गया है, जिसमें सबसे महत्वपूर्ण प्रस्ताव यह है कि कृत्रिम बुद्धिमत्ता (AI) द्वारा उत्पन्न या संशोधित सामग्री को स्पष्ट रूप से लेबलिंग (labeling) करना अनिवार्य किया जाए।
इस प्रस्ताव का उद्देश्य ऐसी सामग्री के दुष्प्रयोग को नियंत्रित करना है, जो असली (authentic) दिखने वाली लेकिन वास्तव में “सिंथेटिक” (synthetic) या “मॉडिफाइड” हो सकती है — जैसे कि डीपफेक वीडियो, ऑडियो क्लिप्स, चेहरे-स्वैप वीडियो आदि।
नीचे इस प्रस्ताव के विभिन्न आयाम-भूमि, मुख्य प्रावधान, संभावित प्रभाव, चुनौतियाँ और आगे की राह का विश्लेषण प्रस्तुत किया जा रहा है।
पृष्ठभूमि: क्यों यह प्रस्ताव ज़रूरी हुआ?
1. तकनीकी प्रगति और डीपफेक्स का खतराः
आज-कल AI-उपकरण जैसे जेनेरेटिव मॉडल (generative models) तेजी से विकसित हो रहे हैं, जिससे फोटो, वीडियो, ऑडियो और लेख-सामग्री बहुत अधिक यथार्थपूर्ण रूप से तैयार की जा सकती है। इस परिणामस्वरूप, “सिंथेटिक” सामग्री — जो असल रूप से उत्पन्न नहीं हुई या इतनी सरलता से बदली गई हो — आम उपयोगकर्ता के लिए पहचानना कठिन हो गया है।
सरकार ने यह माना है कि ऐसी सामग्री को हथियार के रूप में इस्तेमाल किया जा सकता है — व्यक्तियों की प्रतिष्ठा को क्षति पहुँचाने, चुनाव-प्रभावित करने, वित्तीय एवं सामाजिक धोखा देने, झूठी सूचनाएँ (misinformation) फैलाने आदि के लिए।
2. भारत का डिजिटल परिदृश्य और जोखिमः
भारत में इंटरनेट-उपयोगकर्ता और सोशल-मीडिया प्लॅटफॉर्म दोनों का दायरा बहुत विशाल है। इस डिजिटल-परिस्थित में डीपफेक्स या सिंथेटिक सामग्री के दुष्प्रभाव (जैसे सामाजिक द्वेष, राजनीतिक अशांति, निजी जीवन की गोपनीयता का उल्लंघन) अधिक गंभीर हो सकते हैं।
इसलिए सरकार को यह महसूस हुआ कि नियम-व्यवस्था को आधुनिक रिऐलिटी के अनुरूप सुदृढ़ करना आवश्यक है।
3. वैश्विक प्रवृत्तियाँ औऱ प्रेरणा:
अन्य देशों ने भी इसी तरह की चुनौतियों को महसूस करना शुरू कर दिया है। उदाहरण के लिए, चीन ने घोषणा की है कि AI-जनित सामग्री को स्पष्ट लेबलिंग के साथ प्रसारित किया जाना चाहिए।
इस तरह भारत इस वैश्विक प्रवृत्ति में शामिल हो रहा है, अपनी डिजिटल-नीति को एडेप्ट करते हुए।
प्रस्तावित संशोधनों के मुख्य प्रावधान
यहाँ उन बिंदुओं का विस्तृत विवेचन है जो ड्राफ्ट (मसौदा) में शामिल किये गये हैं:
(क) ‘सिंथेटिक रूप से उत्पन्न जानकारी’ की परिभाषा
ड्राफ्ट में एक नया क्लॉज़ प्रस्तावित है जो “synthetically generated information” को इस प्रकार परिभाषित करता है:
“ऐसी जानकारी जो एक कम्प्यूटर संसाधन (computer resource) का उपयोग कर कृत्रिम या एल्गोरिदमिक रूप से बनाई, जेनरेट की, परिवर्तित की या बदली गई हो, इस तरह कि वह — स्वाभाविक रूप से ‘प्रामाणिक’ या ‘सच्ची’ प्रतीत हो सके।”
(ख) लेबलिंग तथा दृश्य/श्रव्य मार्कर की बाध्यता
ड्राफ्ट के अनुसार:
- यदि कोई दृश्य सामग्री (visual content) सिंथेटिक है, तो उस पर ऐसा लेबल या संकेत दिखाना होगा जो कम-से-कम 10 % उस दृश्य की सतह (surface area) को कवर करे।
- यदि कोई ऑडियो सामग्री (audio content) सिंथेटिक है, तो उसके प्रारंभिक 10 % अवधि (initial 10 %) के दौरान यह स्पष्ट रूप से घोषित होना चाहिए कि वह सामग्री कृत्रिम रूप से जेनरेट/मॉडिफाइड की गई है।
- इसके अतिरिक्त, इस लेबल या पहचानकर्ता (identifier) को स्थायी रूप से एम्बेडेड या मेटाडेटा (metadata) में डाला जाना होगा, जिसे हटा नहीं सकें और जिसे अदृश्य नहीं किया जा सके।
(ग) उपयोगकर्ता घोषणाएँ (User Declarations) व तकनीकी उपाय
- प्रमुख सामाजिक-माध्यम (social media) प्लेटफॉर्म्स- जिन्हें ड्राफ्ट में “Significant Social Media Intermediaries” (SSMIs) कहा गया है- को यह सुनिश्चित करना होगा कि सामग्री अपलोड करते समय उपयोगकर्ता यह घोषित करें कि क्या वह सामग्री सिंथेटिक है।
- प्लेटफॉर्म्स को “उचित और अनुपयुक्त तकनीकी उपाय” (reasonable and proportionate technical measures) अपनाने होंगे ताकि यह सत्यापित किया जा सके कि यह घोषणा सही है या नहीं—उदाहरण के लिए, ऑटोमेटेड टूल्स या अन्य तंत्र।
- यदि सामग्री को सत्यापित किया जाता है या पता चलता है कि यह सिंथेटिक है, तो प्लेटफॉर्म्स को उस पब्लिक-व्यूइंग (public-facing) पेज या माध्यम पर स्पष्ट लेबल/नोटिस प्रदर्शित करना होगा कि “यह सामग्री कृत्रिम रूप से उत्पन्न/मॉडिफाइड है”।
(घ) प्लेटफॉर्म्स की जवाबदेही व सुरक्षा-छूट का संबंध
- यदि प्लेटफॉर्म ऐसी सिंथेटिक सामग्री को पता होने के बावजूद प्रकाशित होने दे, या लेबलिंग/घोषणा निर्देशों का पालन न करे, तो वह प्लेटफॉर्म उस सुरक्षा-छूट (safe harbour) की रक्षा खो सकता है जो अब तक उपयोगकर्ता-जनित सामग्री (user-generated content) के लिए मध्यस्थ (intermediary) को मिलती रही है।
- इसके अतिरिक्त, ऐसा प्लेटफॉर्म संवेदनशील नियमों (due diligence obligations) का उल्लंघन कर सकता है, और उसके विरुद्ध नियामक कार्रवाई हो सकती है।
(ङ) सार्वजनिक परामर्श (public consultation)
- यह ड्राफ्ट नियम अभी तक अंतिम रूप नहीं ले चुके हैं; सरकार ने सुझाव व सार्वजनिक टिप्पणियों के लिए 6 नवंबर 2025 तक समय दिया है।
- इस तरह, उद्योग, नागरिक समाज, विश्लेषक, प्लेटफॉर्म और अन्य स्टेकहोल्डर्स अपनी प्रतिक्रिया दे सकते हैं और नियोजन में भाग ले सकते हैं।
प्रस्ताव के सकारात्मक प्रभाव
इस तरह के नियम लागू होने से अनेक सकारात्मक परिणाम सामने आ सकते हैं।
1. डिजिटल सामग्री में पारदर्शिता बढ़ेगी
जब उपयोगकर्ता को पता होगा कि कोई वीडियो-क्लिप/ऑडियो या लेख “एआई जनित” है, तो सामग्री देखने-सुनने-विश्वास करने से पहले वह आत्म-सचेत हो सकता है। इससे भ्रामक सामग्री (misinformation) के प्रभाव को कम किया जा सकता है।
2. दुष्प्रयोग की संभावना कम होगी
यदि प्लेटफॉर्म्स को लेबल लगाना अनिवार्य होगा और उन्हें उपयोगकर्ता घोषणाएँ व सत्यापित टूल्स लगाना होंगे, तो ऐसे कई उपयोग होंगे — जैसे किसी व्यक्ति का चेहरा बदलकर वीडियो बनाना, भ्रामक राजनीतिक संदेश फैलाना — कम हो सकते हैं क्योंकि यह तुरंत पहचान योग्य हो जाएगा।
3. प्लेटफॉर्म्स हेतु जिम्मेदारी बढ़ेगी, कानूनी स्पष्टता आएगी
मध्यस्थ प्लेटफॉर्म्स (intermediaries) को स्पष्ट दायित्व लेना होगा। इससे यह संकेत मिलता है कि केवल उपभोक्ताओं की जागरूकता ही नहीं बढ़ेगी बल्कि प्लेटफॉर्म्स को भी सक्रिय रहने का दायित्व होगा। इससे डिजिटल-माध्यम पर नियंत्रण व जवाबदेही की दिशा में बढ़त मिलेगी।
4. भारत में एआई-उद्योग एवं नवाचार को भरोसा मिलेगा
विश्लेषकों का मानना है कि इस तरह की पारदर्शिता-वâldुप्घ की व्यवस्था (accountability framework) एआई उद्योग को “उत्तरदायी नवाचार” (responsible innovation) की दिशा में प्रेरित करेगी। इससे निवेश, विकास और उपयोगकर्ता-विश्वास को बल मिल सकता है।
चुनौतियाँ और विचार-विमर्श
हालाँकि प्रस्ताव महत्वपूर्ण है, परंतु इसके क्रियान्वयन में कई चुनौतियाँ सामने आ सकती हैं।
A. तकनीकी जटिलताएँ
- लेबलिंग की न्यूनतम सीमा (विशुअल में 10 % सतह, ऑडियो में प्रारंभिक 10 %) जैसा प्रस्ताव है — यह तकनीकी रूप से बहुत कठोर हो सकता है, विशेषकर मल्टीमीडिया सामग्री के लिए।
- “उचित और अनुपयुक्त तकनीकी उपाय” शब्दावली बहुत व्यापक है; प्लेटफॉर्म्स के पास विभिन्न प्रकार की सामग्री (टेक्स्ट, इमेज, वीडियो, लाइव-स्ट्रीम) होती है—उनके लिए ठोस तकनीकी मापदंड विकसित करना चुनौतीपूर्ण होगा।
- सिंथेटिक सामग्री की पहचान करना स्व-चालित रूप से आसान नहीं है; विशेषकर जब मिक्स्ड कंटेंट हो या व्यक्ति-विचलन (person substitution) हो।
B. नवाचार पर प्रभाव
- बहुत कड़े नियम नवोन्मेषकों (innovators) एवं स्टार्ट-अप्स को प्रभावित कर सकते हैं। यदि हर AI-उत्पन्न सामग्री पर लेबल लगाना होगा या घोषणा करनी होगी, तो यह अतिरिक्त लागत एवं प्रक्रिया उत्पन्न करेगा।
- यह जोखिम भी है कि नियम “एकोनॉमिक बुराई” (over-regulation) में बदल जाएँ और भारत को एआई-अग्रणी बनाने की दिशा में बाधा बने।
C. अभिव्यक्ति की स्वतंत्रता, गोपनीयता-अधिकार एवं न्यायसंगतता
- प्लेटफॉर्म्स पर अधिक जिम्मेदारी डालने से अभिव्यक्ति (free speech) पर प्रभाव हो सकता है। यह ध्यान देने योग्य है कि पहले भी इसी तरह के नियमों को स्वतंत्र अभिव्यक्ति के दृष्टिकोण से आलोचना का सामना करना पड़ा है। उदाहरण के लिए, Kunal Kamra v. Union of India में 2023 के संशोधनों को न्यायिक चुनौती मिली थी।
- उपयोगकर्ताओं की गोपनीयता (privacy) का सवाल भी उठ सकता है — प्लेटफॉर्म को उपयोगकर्ता घोषणाएँ लेना, कंटेंट-सत्यापन करना होगा, जो डेटा-संधर्भ में संवेदनशील हो सकता है।
- न्यायसंगतता (fairness) का प्रश्न है — लेबल कहाँ और कैसे दिखेगा? क्या यह सामग्री को “प्रताड़ना” (stigmatise) नहीं कर देगा? नियम-प्रवर्तन में एकरूपता (uniformity) होना चाहिए।
D. व्यवहार में अनुपालन व प्रवर्तन
- बड़े प्लेटफॉर्म्स जैसे Meta (formerly Facebook), YouTube, X (formerly Twitter) अथवा OpenAI जैसी द्वारा विकसित AI उपकरणों को शामिल करना तथा वैश्विक सर्वरों (global servers) में भारत-केंद्रित ज़रूरतों के अनुरूप बदलाव करना आसान नहीं होगा। ड्राफ्ट में कहा गया है कि ये प्लेटफॉर्म्स “उचित तकनीकी उपाय” अपनाएँ।
- नियमों की सुदृढ़ता तब दिखेगी जब प्रवर्तन-मेकैनिज़्म स्पष्ट हों — उल्लंघन होने पर क्या कार्रवाई होगी, शिकायत-प्रक्रिया क्या होगी आदि अभी विस्तृत रूप से ज्ञात नहीं हैं।
आगे की दिशा एवं सुझाव
इस प्रस्ताव के सफल क्रियान्वयन के लिए निम्न सुझाव प्रासंगिक होंगे:
1. विस्तृत कार्यान्वयन मापदंड तैयार करें
सरकार तथा प्लेटफॉर्म्स को मिलकर तकनीकी दिशानिर्देश (technical guidelines) और प्रक्रिया-मानक (process standards) तैयार करने होंगे। उदाहरण स्वरूप:
- किस प्रकार का लेबल अनिवार्य होगा (फॉण्ट-साइज, रंग, अवधि)
- मेटाडेटा एंक्रिप्शन, हटाने-एड़िटिंग प्रतिबंध आदि
- सत्यापन के लिए क्या टूल्स/एल्गोरिदम अपनाए जाएँ
विश्लेषकों ने भी सुझाव दिया है कि उपयोग-उपयुक्तता (usability) और नवाचार (innovation) दोनों का संतुलन बने।
2. शिक्षा-जागरूकता अभियान
उपयोगकर्ताओं को यह समझाना ज़रूरी है कि लेबल का अर्थ क्या है, सिंथेटिक सामग्री के संकेत कैसे पहचानें, और किस तरह सावधानी बरतें। यह डिजिटल साक्षरता (digital literacy) बढ़ाने में मदद करेगा।
3. पारदर्शिता व सार्वजनिक समीक्षा
ड्राफ्ट में सार्वजनिक सुझाव (consultation) का अवसर दिया गया है – यह सकारात्मक दिशा है। आगे भी नियमित समीक्षा-मेकैनिज़्म होना चाहिए ताकि नियम समायोजन योग्य हों और नए प्रकार की AI-मालिकाएँ (innovations) व दुष्प्रयोग-मॉडल सामने आने पर समय-समय पर अपडेट हों।
4. नवोन्मेष की रक्षा तथा ‘अनुकूल शासन’
नियमन (regulation) और नवाचार (innovation) के बीच संतुलन बनाए रखना महत्वपूर्ण होगा। सरकार को यह सुनिश्चित करना होगा कि नियम इतनी सख्त न हो जाएँ कि छोटे स्टार्ट-अप्स और विकासशील प्लेटफॉर्म्स को कठोर बोझ न झेलना पड़े। साथ ही, उपयोग-अनुकूल प्लेटफॉर्म्स के लिए सहायता-प्रणालियाँ व मार्गदर्शन उपलब्ध हो।
5. अंतरराष्ट्रीय समन्वय + मानकीकरण
चूंकि AI-जनित सामग्री का दायरा वैश्विक है, इसलिए भारत को अंतरराष्ट्रीय नियम-प्रणालियों (जैसे EU Artificial Intelligence Act) के अनुरूप अपनी नीति-रचना करनी होगी तथा अन्य देशों के साथ समन्वय बढ़ाना होगा।
निष्कर्ष
संक्षिप्त रूप में कहें तो, सरकार द्वारा प्रस्तुत यह संशोधन-प्रस्ताव — AI-जेनरेटेड कंटेंट को लेबल करना अनिवार्य बनाना — समयोचित, महत्वपूर्ण एवं दूरदर्शी कदम है। यह डिजिटल युग में विश्वसनीयता (trust), पारदर्शिता (transparency) तथा सुरक्षित-इंटरनेट-परिस्थित (safe digital ecosystem) के निर्माण की दिशा में एक अहम मील का पत्थर साबित हो सकता है।
वहीं, इसके सफल क्रियान्वयन के लिए तकनीकी तैयारियाँ, उपयोग-शिक्षा, नवाचार-मुक्ति का सुनिश्चित होना, और समय-समय पर व्यापक समीक्षा-अपडेट्स भी अत्यावश्यक होंगे। यदि यह संतुलित रूप से लागू हुआ, तो भारत डिजिटल-एआई उद्योग में अग्रणी रहते हुए सामाजिक और नैतिक जिम्मेदारियों को भी पूरा कर सकेगा।