MeitY बनाम X Corp (पूर्व ट्विटर): ‘Grok’ एआई, अश्लील सामग्री और डिजिटल उत्तरदायित्व पर भारत का कड़ा संदेश

भारत के डिजिटल नियामक परिदृश्य में हाल के वर्षों में एक स्पष्ट बदलाव देखने को मिला है—जहाँ “नवाचार की स्वतंत्रता” और “कानूनी उत्तरदायित्व” के बीच संतुलन साधने की कोशिश तेज़ हुई है। इसी क्रम में इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) द्वारा X Corp (पूर्व ट्विटर) को जारी किया गया विस्तृत नोटिस एक मील का पत्थर माना जा रहा है। यह नोटिस विशेष रूप से X के एआई-आधारित फीचर “Grok” के कथित दुरुपयोग से जुड़ा है, जिस पर अश्लील और यौन रूप से आपत्तिजनक सामग्री के निर्माण व प्रसार में भूमिका निभाने के आरोप लगाए गए हैं। मंत्रालय का कहना है कि प्लेटफ़ॉर्म ने सूचना प्रौद्योगिकी अधिनियम, 2000 और आईटी (मध्यस्थ दिशानिर्देश एवं डिजिटल मीडिया आचार संहिता) नियम, 2021 के तहत निर्धारित वैधानिक ड्यू डिलिजेंस (due diligence) दायित्वों का समुचित पालन नहीं किया।

पृष्ठभूमि: एआई का उदय और नियमन की चुनौती

जनरेटिव आर्टिफ़िशियल इंटेलिजेंस—चाहे वह टेक्स्ट हो, इमेज या वीडियो—ने डिजिटल संचार की प्रकृति को बदल दिया है। “Grok” जैसे टूल्स यूज़र्स के प्रश्नों का त्वरित और रचनात्मक उत्तर देने में सक्षम हैं, लेकिन यही क्षमता गलत हाथों में पड़कर अश्लील, भ्रामक या हानिकारक सामग्री के उत्पादन का माध्यम भी बन सकती है। भारत जैसे विशाल और विविध डिजिटल इकोसिस्टम में यह चिंता और गहरी हो जाती है, जहाँ प्लेटफ़ॉर्म्स की पहुँच करोड़ों उपयोगकर्ताओं तक है।

MeitY का नोटिस इसी चिंता की उपज है—कि क्या प्लेटफ़ॉर्म्स ने एआई टूल्स को तैनात करते समय पर्याप्त सुरक्षा उपाय (guardrails) लगाए हैं? क्या शिकायत निवारण तंत्र प्रभावी है? और क्या गैरकानूनी सामग्री के प्रसार को रोकने के लिए सक्रिय कदम उठाए जा रहे हैं?

कानूनी ढांचा: आईटी अधिनियम, 2000 और 2021 के नियम

1. आईटी अधिनियम, 2000

यह अधिनियम भारत में साइबर स्पेस के लिए मूल कानूनी ढांचा प्रदान करता है।

धारा 79: मध्यस्थों (intermediaries) को सीमित संरक्षण (safe harbour) प्रदान करती है, बशर्ते वे निर्धारित ड्यू डिलिजेंस का पालन करें और गैरकानूनी सामग्री की जानकारी मिलने पर त्वरित कार्रवाई करें।
धारा 67/67A: इलेक्ट्रॉनिक रूप से अश्लील और यौन रूप से स्पष्ट सामग्री के प्रकाशन/प्रसारण को दंडनीय बनाती है।

यदि कोई प्लेटफ़ॉर्म इन दायित्वों का पालन नहीं करता, तो उसका safe harbour समाप्त हो सकता है।

2. आईटी (Intermediary Guidelines & Digital Media Ethics Code) Rules, 2021

इन नियमों ने मध्यस्थों पर स्पष्ट और सक्रिय जिम्मेदारियाँ डाली हैं:

अवैध सामग्री के विरुद्ध यथोचित प्रयास
शिकायत निवारण अधिकारी की नियुक्ति
समयबद्ध टेक-डाउन
उपयोगकर्ताओं को स्पष्ट यूज़र पॉलिसी और निषिद्ध सामग्री की जानकारी
बच्चों और महिलाओं से जुड़ी संवेदनशील सामग्री पर अतिरिक्त सतर्कता

MeitY का आरोप है कि X/Grok के मामले में इन अपेक्षाओं का प्रभावी अनुपालन नहीं दिखा।

MeitY के नोटिस के प्रमुख आरोप

एआई-जनित अश्लील सामग्री का प्रसार: आरोप है कि Grok के माध्यम से ऐसी प्रतिक्रियाएँ/आउटपुट सामने आए जो यौन रूप से आपत्तिजनक थे और जिन्हें सार्वजनिक रूप से साझा किया गया।
पर्याप्त सुरक्षा उपायों का अभाव: एआई टूल्स के लिए मज़बूत फ़िल्टर, मॉडरेशन और आउटपुट कंट्रोल की कमी।
ड्यू डिलिजेंस में चूक: शिकायतों पर समयबद्ध कार्रवाई न होना या प्रभावी रोकथाम का अभाव।
यूज़र सेफ्टी बनाम एंगेजमेंट: यह संकेत भी उभरा कि प्लेटफ़ॉर्म एंगेजमेंट को प्राथमिकता देते हुए कंटेंट सेफ्टी को पीछे छोड़ रहा है।

एआई और मध्यस्थ उत्तरदायित्व: नया प्रश्न

परंपरागत रूप से मध्यस्थ दायित्व यूज़र-जनित सामग्री पर केंद्रित रहा है। लेकिन एआई-जनित सामग्री इस बहस को नई दिशा देती है:

यदि आउटपुट एआई ने बनाया, तो जिम्मेदारी किसकी?
क्या प्लेटफ़ॉर्म “तटस्थ मध्यस्थ” बना रह सकता है, जब कंटेंट उसके एल्गोरिदम से उत्पन्न हो?
क्या safe harbour ऐसे मामलों में स्वतः लागू रहेगा?

MeitY का रुख संकेत देता है कि एआई फीचर्स को “हैंड्स-ऑफ” दृष्टिकोण से नहीं छोड़ा जा सकता। प्लेटफ़ॉर्म को यह दिखाना होगा कि उसने जोखिमों की पहचान कर पूर्व-निवारक उपाय अपनाए हैं।

डिजिटल शालीनता, महिलाओं और बच्चों की सुरक्षा

भारत में डिजिटल नियमन का एक महत्वपूर्ण उद्देश्य महिलाओं और बच्चों की सुरक्षा है। अश्लील या यौन रूप से स्पष्ट सामग्री का अनियंत्रित प्रसार न केवल कानूनी उल्लंघन है, बल्कि सामाजिक नुकसान भी पहुंचाता है।
आईटी नियम, 2021 विशेष रूप से ऐसी सामग्री पर जीरो टॉलरेंस का संकेत देते हैं। Grok जैसे टूल्स यदि इन मानकों को भंग करते हैं, तो प्लेटफ़ॉर्म से अपेक्षा है कि वह त्वरित सुधारात्मक कदम उठाए।

संभावित परिणाम: X Corp के लिए क्या दांव पर है?

सेफ हार्बर का जोखिम: ड्यू डिलिजेंस में गंभीर चूक पाए जाने पर धारा 79 का संरक्षण समाप्त हो सकता है।
दंडात्मक कार्रवाई: आईटी अधिनियम के तहत जुर्माना/अन्य कार्रवाई।
नियामकीय निगरानी: एआई फीचर्स पर कड़ी शर्तें, ऑडिट या सीमाएँ।
प्रतिष्ठा और विश्वास: उपयोगकर्ताओं और विज्ञापनदाताओं का भरोसा प्रभावित हो सकता है।

वैश्विक परिप्रेक्ष्य: भारत का रुख कितना अलग?

यूरोपीय संघ का AI Act, अमेरिका में प्लेटफ़ॉर्म-विशिष्ट मुक़दमे और अन्य देशों की गाइडलाइंस—सब इस ओर इशारा करते हैं कि एआई पर सॉफ्ट-लॉ से हार्ड-रेगुलेशन की ओर बढ़त हो रही है। भारत का यह कदम उसी वैश्विक प्रवृत्ति के अनुरूप है, लेकिन स्थानीय सामाजिक-सांस्कृतिक संवेदनशीलताओं को केंद्र में रखता है।

प्लेटफ़ॉर्म्स के लिए सबक: अनुपालन कैसे मज़बूत करें?

एआई सेफ्टी बाय डिज़ाइन: लॉन्च से पहले जोखिम आकलन और फ़िल्टरिंग।
रियल-टाइम मॉडरेशन: ह्यूमन-इन-द-लूप मॉडल।
शिकायत निवारण का सशक्तीकरण: समयबद्ध, पारदर्शी और ट्रैकेबल प्रक्रिया।
ऑडिट और लॉगिंग: एआई आउटपुट्स की समीक्षा और सुधार।
यूज़र शिक्षा: स्पष्ट दिशानिर्देश कि क्या स्वीकार्य है और क्या नहीं।

निष्कर्ष: नवाचार बनाम उत्तरदायित्व का संतुलन

MeitY का नोटिस केवल X Corp या Grok तक सीमित नहीं है; यह पूरे टेक उद्योग के लिए चेतावनी है कि भारत में एआई नवाचार को कानून और सामाजिक उत्तरदायित्व के साथ कदमताल करनी होगी। डिजिटल प्लेटफ़ॉर्म्स से अपेक्षा है कि वे केवल तकनीकी क्षमता ही नहीं, बल्कि नैतिक और कानूनी अनुपालन भी प्रदर्शित करें।

अंततः, यह प्रकरण एक बड़े प्रश्न को सामने लाता है—क्या एआई स्वतंत्रता का अर्थ निरंकुशता है? भारत का उत्तर स्पष्ट है: नहीं। नवाचार तभी टिकाऊ है जब वह कानून, गरिमा और सार्वजनिक हित के अनुरूप हो।