Grok पर न्यूड AI इमेज विवाद: क्या दुनिया की सरकारें तैयार हैं महिलाओं की गरिमा और डिजिटल सहमति की रक्षा के लिए? जानिए किस देश में क्या कानून और कैसी सज़ा
आर्टिफिशियल इंटेलिजेंस जिस तेज़ी से जीवन के हर क्षेत्र में प्रवेश कर रहा है, उसी अनुपात में इसके दुरुपयोग की आशंकाएँ भी गंभीर होती जा रही हैं। दिसंबर 2025 के अंतिम सप्ताह और जनवरी 2026 की शुरुआत में एलन मस्क की कंपनी xAI के चैटबॉट Grok को लेकर जो विवाद सामने आया, उसने पूरी दुनिया को यह सोचने पर मजबूर कर दिया कि क्या तकनीक अब मानवीय गरिमा, निजता और सहमति की सीमाओं को तोड़ने लगी है।
सोशल मीडिया प्लेटफॉर्म X पर कई ऐसे मामले सामने आए, जिनमें उपयोगकर्ताओं ने सामान्य महिलाओं की तस्वीरों पर ऐसे निर्देश (प्रॉम्प्ट) दिए, जिनसे Grok ने उन्हें अर्धनग्न या पूरी तरह नग्न तथा अत्यधिक यौनिक रूप में दर्शाने वाली AI जनरेटेड इमेज तैयार कर दीं। इन तस्वीरों को सार्वजनिक थ्रेड्स में साझा किया गया, जिससे संबंधित महिलाओं की निजी गरिमा, गोपनीयता और उनकी सहमति का खुला उल्लंघन हुआ।
कैसे शुरू हुआ ट्रेंड
पिछले वर्ष के अंतिम सप्ताह में X पर एक खतरनाक ट्रेंड उभर कर सामने आया। बड़ी संख्या में यूजर्स महिलाओं की तस्वीरों पर “remove clothes”, “bikini look” जैसे कमांड देने लगे। कुछ ही समय में प्लेटफॉर्म पर हजारों आपत्तिजनक और भ्रामक AI इमेज फैल गईं। कई मामलों में यह आशंका भी जताई गई कि जिन लड़कियों की तस्वीरें इस्तेमाल की गईं, उनकी उम्र 12 से 16 वर्ष के बीच हो सकती है, जिससे यह मामला और भी अधिक गंभीर हो गया।
28 दिसंबर 2025 को Grok द्वारा दो किशोरियों की यौनिक रूप से प्रस्तुत की गई तस्वीरें बनाए जाने के बाद वैश्विक स्तर पर तीखी प्रतिक्रिया हुई। इसके बाद xAI को सार्वजनिक रूप से माफी मांगनी पड़ी और अपने सिस्टम में बदलाव करने पड़े।
xAI और एलन मस्क की प्रतिक्रिया
xAI ने स्वीकार किया कि Grok की “minimal censorship policy” इस पूरे मामले में नुकसानदेह साबित हुई। कंपनी ने कहा कि अब इमेज जनरेशन फीचर में सख्त सुरक्षा नियम लागू कर दिए गए हैं। बिना सहमति, यौनिक, नग्न या किसी भी तरह की हानिकारक सामग्री को सीधे ब्लॉक किया जाएगा।
एलन मस्क ने भी यह स्वीकार किया कि “अनफिल्टर्ड ट्रुथ” के नाम पर AI को पूरी तरह खुला छोड़ देना व्यावहारिक संतुलन नहीं था। कंपनी ने अब harm reduction, user safety और डिजिटल गरिमा को प्राथमिकता देने का फैसला किया है।
दुनिया भर में डीपफेक और AI दुरुपयोग पर कानून
अब अधिकांश देश डीपफेक और बिना सहमति AI कंटेंट को केवल तकनीकी दुरुपयोग नहीं बल्कि गंभीर अपराध की श्रेणी में रख रहे हैं, खासकर जब मामला महिलाओं की गरिमा, निजता और पहचान से जुड़ा हो।
अमेरिका
अमेरिका में TAKE IT DOWN Act के अंतर्गत बिना सहमति इंटीमेट डीपफेक इमेज या वीडियो बनाना और फैलाना संघीय अपराध है। दोषी पाए जाने पर भारी जुर्माने के साथ जेल की सजा भी हो सकती है। सोशल मीडिया प्लेटफॉर्म्स को शिकायत मिलने के 48 घंटे के भीतर ऐसा कंटेंट हटाना अनिवार्य है। पालन न करने पर प्लेटफॉर्म्स पर भी कानूनी कार्रवाई और आर्थिक दंड लगाया जा सकता है।
यूरोपीय यूनियन
EU ने EU AI Act के जरिए डीपफेक को लेकर बेहद सख्त व्यवस्था लागू की है।
AI से बने कंटेंट को लेबल करना अनिवार्य है। बिना सहमति किसी की पहचान या छवि को नुकसान पहुँचाने वाले डीपफेक पर कंपनियों पर उनके वैश्विक टर्नओवर के 6% तक का जुर्माना लगाया जा सकता है। व्यक्तिगत स्तर पर भी जेल और फाइन दोनों का प्रावधान है।
चीन
चीन में AI जनरेटेड कंटेंट को स्पष्ट रूप से चिन्हित करना अनिवार्य है। बिना लेबल डीपफेक फैलाने पर क्रिएटर और प्लेटफॉर्म दोनों के खिलाफ सख्त कार्रवाई होती है, जिसमें सोशल मीडिया बैन, भारी जुर्माना और जेल तक की सजा शामिल है।
ब्रिटेन और ऑस्ट्रेलिया
ब्रिटेन में नॉन-कंसेंशुअल डीपफेक को यौन अपराध माना जाता है। दोषियों को जेल और जुर्माना दोनों हो सकते हैं। ऑस्ट्रेलिया में भी महिलाओं या किसी व्यक्ति की गरिमा को ठेस पहुँचाने वाले डीपफेक पर आपराधिक मुकदमे दर्ज किए जाते हैं और कई वर्षों की जेल संभव है।
फ्रांस और डेनमार्क
फ्रांस में डीपफेक के जरिए पहचान या छवि को नुकसान पहुँचाना आपराधिक कृत्य है, जिसमें जेल और भारी फाइन का प्रावधान है। डेनमार्क में इसे सीधे प्राइवेसी और यौन अपराध कानूनों के अंतर्गत देखा जाता है।
भारत की स्थिति
भारत में फिलहाल डीपफेक के लिए अलग से कोई विशिष्ट कानून नहीं है, लेकिन आईटी एक्ट, महिलाओं की गरिमा से जुड़े कानूनों और डेटा प्रोटेक्शन नियमों के तहत बिना सहमति कंटेंट बनाने और फैलाने पर जेल और जुर्माने की सजा का प्रावधान मौजूद है।
(प्रस्तुति -त्रिपाठी पारिजात)
