सोशल मीडिया पर AI स्क्रीनिंग की संवैधानिक सीमा: फ्री स्पीच और डिजिटल सुरक्षा के बीच सुप्रीम कोर्ट की ऐतिहासिक संतुलन रेखा

(28 नवंबर 2025 का निर्णय — स्वतंत्र AI स्क्रीनिंग बॉडी की अवधारणा)

प्रस्तावना

डिजिटल युग में सोशल मीडिया केवल संवाद का माध्यम नहीं रहा, बल्कि यह लोकतांत्रिक विमर्श, राजनीतिक आलोचना, सामाजिक आंदोलनों और जनमत निर्माण का सबसे प्रभावी मंच बन चुका है। किंतु इसी शक्ति के साथ एक गंभीर खतरा भी जुड़ा है—हानिकारक, भ्रामक, घृणास्पद और हिंसा को उकसाने वाले कंटेंट का तेज़ी से प्रसार।

इसी संवेदनशील मुद्दे पर 28 नवंबर 2025 को भारत के सर्वोच्च न्यायालय ने एक ऐतिहासिक और दूरदर्शी निर्णय देते हुए कहा कि—

सोशल मीडिया पर हानिकारक कंटेंट को रोकने के लिए AI आधारित पूर्व-स्क्रीनिंग की जा सकती है, लेकिन यह कार्य सरकार स्वयं नहीं करेगी, बल्कि एक स्वतंत्र और निष्पक्ष संस्था के माध्यम से होगा, ताकि अभिव्यक्ति की स्वतंत्रता (Free Speech) सुरक्षित रहे।

यह निर्णय डिजिटल शासन, मौलिक अधिकारों और तकनीकी नियमन के क्षेत्र में मील का पत्थर माना जा रहा है।

मामले की पृष्ठभूमि

बीते कुछ वर्षों में सोशल मीडिया प्लेटफॉर्म्स पर—

फर्जी खबरें (Fake News)
सांप्रदायिक घृणा फैलाने वाली पोस्ट
महिलाओं और बच्चों के विरुद्ध आपत्तिजनक सामग्री
हिंसा और आतंकवाद को बढ़ावा देने वाला कंटेंट

तेज़ी से फैलता गया। सरकार ने इसे राष्ट्रीय सुरक्षा और सार्वजनिक व्यवस्था के लिए खतरा बताया, जबकि नागरिक समाज और पत्रकार संगठनों ने आशंका जताई कि सरकारी नियंत्रण सेंसरशिप में बदल सकता है।

इसी टकराव के बीच यह मामला सुप्रीम कोर्ट पहुँचा।

मुख्य संवैधानिक प्रश्न

सुप्रीम कोर्ट के समक्ष मुख्य प्रश्न यह थे—

क्या सोशल मीडिया कंटेंट को पोस्ट होने से पहले AI द्वारा स्क्रीन किया जा सकता है?
क्या ऐसा करना अनुच्छेद 19(1)(a) के तहत अभिव्यक्ति की स्वतंत्रता का उल्लंघन होगा?
क्या सरकार को यह अधिकार दिया जा सकता है कि वह तय करे कि “हानिकारक कंटेंट” क्या है?
क्या तकनीक के माध्यम से लोकतांत्रिक मूल्यों की रक्षा संभव है?

सुप्रीम कोर्ट का स्पष्ट और संतुलित दृष्टिकोण

कोर्ट ने अपने निर्णय में कहा—

“डिजिटल स्पेस में पूर्ण स्वतंत्रता भी उतनी ही खतरनाक हो सकती है जितनी पूर्ण सेंसरशिप। संविधान दोनों के बीच संतुलन की मांग करता है।”

AI स्क्रीनिंग को सैद्धांतिक रूप से वैध ठहराया गया

कोर्ट ने माना कि—

सोशल मीडिया की विशालता के कारण मानव निगरानी अपर्याप्त है
AI तकनीक प्रारंभिक स्तर पर हानिकारक कंटेंट को पहचानने में सहायक हो सकती है
बच्चों की सुरक्षा, सार्वजनिक शांति और राष्ट्रीय सुरक्षा जैसे उद्देश्य वैध राज्य हित हैं

लेकिन सरकार को नहीं दी गई खुली छूट

सुप्रीम कोर्ट ने सबसे महत्वपूर्ण बात यह कही—

AI स्क्रीनिंग की जिम्मेदारी सरकार के प्रत्यक्ष नियंत्रण में नहीं दी जा सकती।

कोर्ट ने स्पष्ट किया कि—

सरकार स्वयं यदि यह तय करेगी कि क्या “हानिकारक” है, तो यह राजनीतिक दुरुपयोग का साधन बन सकता है
सत्ता के आलोचकों, पत्रकारों और असहमति की आवाज़ों को दबाने का खतरा रहेगा
यह स्थिति पूर्व सेंसरशिप (Prior Restraint) के समान होगी, जो संविधान के विपरीत है

स्वतंत्र AI स्क्रीनिंग बॉडी की अवधारणा

कोर्ट का अभिनव समाधान

सुप्रीम कोर्ट ने सुझाव दिया कि—

एक स्वतंत्र, वैधानिक और बहु-हितधारक संस्था (Independent AI Oversight Body) बनाई जाए
इसमें शामिल हों—
- तकनीकी विशेषज्ञ
- संवैधानिक कानून विशेषज्ञ
- नागरिक समाज के प्रतिनिधि
- डिजिटल अधिकार कार्यकर्ता

इस बॉडी की भूमिका

इस संस्था का कार्य होगा—

AI एल्गोरिद्म की निगरानी
यह सुनिश्चित करना कि AI भाषा, धर्म, विचारधारा या राजनीतिक मत के आधार पर भेदभाव न करे
यह देखना कि AI केवल स्पष्ट रूप से हानिकारक कंटेंट तक ही सीमित रहे
शिकायतों पर मानवीय समीक्षा (Human Oversight) सुनिश्चित करना

फ्री स्पीच पर सुप्रीम कोर्ट का दृढ़ संदेश

कोर्ट ने दो टूक शब्दों में कहा—

“असुविधाजनक, अप्रिय या सरकार-विरोधी विचार लोकतंत्र की आत्मा हैं। उन्हें ‘हानिकारक’ कहकर दबाया नहीं जा सकता।”

महत्वपूर्ण संवैधानिक सिद्धांत

अभिव्यक्ति की स्वतंत्रता केवल लोकप्रिय विचारों के लिए नहीं होती
असहमति, व्यंग्य और आलोचना भी संविधान द्वारा संरक्षित हैं
AI को कभी भी अंतिम निर्णायक नहीं बनाया जा सकता

अनुच्छेद 19(2) और डिजिटल युग

सुप्रीम कोर्ट ने याद दिलाया कि—

अनुच्छेद 19(2) के तहत प्रतिबंध केवल—

संप्रभुता और अखंडता
राज्य की सुरक्षा
सार्वजनिक व्यवस्था
नैतिकता

जैसे सीमित आधारों पर ही लगाए जा सकते हैं।

AI स्क्रीनिंग भी इन्हीं सीमाओं में रहनी चाहिए।

अंतरराष्ट्रीय परिप्रेक्ष्य

कोर्ट ने यूरोपीय संघ और अन्य लोकतांत्रिक देशों के उदाहरणों का भी उल्लेख किया—

EU Digital Services Act
स्वतंत्र रेगुलेटरी बॉडी
पारदर्शी एल्गोरिद्म
अपील और सुधार का अधिकार

कोर्ट ने कहा कि भारत को भी तकनीक-हितैषी लेकिन अधिकार-संवेदनशील मॉडल अपनाना चाहिए।

सोशल मीडिया कंपनियों की जिम्मेदारी

सुप्रीम कोर्ट ने यह भी कहा कि—

प्लेटफॉर्म्स केवल “न्यूट्रल इंटरमीडियरी” बनकर नहीं बैठ सकते
उन्हें—
- पारदर्शिता रिपोर्ट
- AI निर्णयों का ऑडिट
- यूज़र को अपील का अवसर

देना होगा।

निर्णय का दूरगामी प्रभाव

1. डिजिटल सेंसरशिप पर रोक

सरकार की मनमानी रोकने में यह निर्णय ढाल बनेगा।

2. तकनीक + संविधान का संतुलन

AI को संविधान के अधीन रखा गया, संविधान को AI के अधीन नहीं।

3. नागरिक अधिकारों की सुरक्षा

फ्री स्पीच को “राष्ट्रीय सुरक्षा” के नाम पर कुचलने की प्रवृत्ति पर विराम।

4. भविष्य की नीति निर्माण में मार्गदर्शन

यह फैसला आने वाले IT कानूनों और डिजिटल रेगुलेशन की नींव बनेगा।

निष्कर्ष

28 नवंबर 2025 का यह सुप्रीम कोर्ट निर्णय यह स्पष्ट करता है कि—

तकनीक लोकतंत्र की सेवक हो सकती है, मालिक नहीं।

AI से हानिकारक कंटेंट रोकना आवश्यक है,
लेकिन स्वतंत्र अभिव्यक्ति की कीमत पर नहीं।

यह फैसला न केवल सोशल मीडिया के लिए,
बल्कि भारत के डिजिटल संविधानवाद के लिए एक ऐतिहासिक मील का पत्थर है।