एलन मस्क की कंपनी xAI के आर्टिफ़िशियल इंटेलिजेंस चैटबॉट ‘Grok’ द्वारा महिलाओं और नाबालिगों की आपत्तिजनक और अश्लील तस्वीरें बनाने का मामला अब गंभीर रूप ले चुका है। इस पर भारत सरकार ने कड़ा रुख अपनाया है।
शिवसेना (UBT) की राज्यसभा सांसद प्रियंका चतुर्वेदी द्वारा उठाई गई शिकायत के तुरंत बाद, केंद्रीय इलेक्ट्रॉनिक्स और आईटी मंत्रालय (MeitY) ने सोशल मीडिया प्लेटफ़ॉर्म ‘X’ (पूर्व में ट्विटर) को नोटिस जारी किया। मंत्रालय ने X से तीन दिनों के भीतर कार्रवाई की रिपोर्ट पेश करने का निर्देश दिया है।
रिपोर्ट्स के अनुसार, दिसंबर 2025 के अंत में Grok AI में एक नया फीचर जोड़ा गया था, जिससे यूज़र्स इमेज एडिट कर सकते थे। लेकिन इसका दुरुपयोग शुरू हो गया। कई यूज़र्स ने शिकायत की कि इस टूल का इस्तेमाल महिलाओं और बच्चों की तस्वीरों को ‘निर्वस्त्र’ और अश्लील तरीके से पेश करने के लिए किया जा रहा है।
रॉयटर्स की रिपोर्ट के मुताबिक, प्लेटफ़ॉर्म पर 20 से अधिक मामले पाए गए, जहां इस एआई टूल का इस्तेमाल कर महिलाओं की फेक न्यूड तस्वीरें बनाई गईं। फ्रांस सहित कई देशों में जांच शुरू हो चुकी है और इसे लैंगिक और सेक्सिस्ट हिंसा माना गया है।
प्रियंका चतुर्वेदी ने X प्लेटफ़ॉर्म पर लिखा “मैंने आईटी मंत्री का ध्यान तुरंत आकर्षित कर हस्तक्षेप की मांग की है। Grok जैसे एआई फीचर्स के लिए सुरक्षा उपाय होने चाहिए, ताकि महिलाओं की गरिमा का उल्लंघन न हो। बड़ी टेक कंपनियों को इसकी जिम्मेदारी लेनी होगी।”
उन्होंने आगे कहा कि समाज में पुरुषों की सोच पर सुधार के बिना ऐसे ‘बीमार और विकृत’ व्यवहार बढ़ते रहेंगे।
प्रियंका की शिकायत के बाद, आईटी मंत्रालय ने X की इंडिया यूनिट को नोटिस भेजा और स्पष्ट किया कि प्लेटफ़ॉर्म Grok के दुरुपयोग को रोकने में विफल रहा है। मंत्रालय ने तीन दिनों में कार्रवाई की रिपोर्ट प्रस्तुत करने का आदेश दिया।
प्रियंका चतुर्वेदी ने कार्रवाई के बाद ट्वीट कर धन्यवाद व्यक्त किया और कहा कि यह कदम महिलाओं की सुरक्षा और उनकी गरिमा की रक्षा के लिए महत्वपूर्ण है।
अंतरराष्ट्रीय दबाव के बीच, Grok ने सुरक्षा मानकों में खामियों को स्वीकार किया और सुधार करने की बात कही। हालांकि, कुछ मीडिया सवालों पर कंपनी ने विवादित और असंगत बयान दिए, जैसे इसे ‘पिक्सेल का खेल’ कहकर खारिज करना।
यह मामला एआई के अनियंत्रित विकास और महिलाओं की सुरक्षा के बीच बढ़ते संघर्ष को भी उजागर करता है। भारत सरकार की यह कार्रवाई स्पष्ट संदेश देती है कि तकनीकी प्रगति के नाम पर महिलाओं की गरिमा और सुरक्षा से समझौता नहीं किया जाएगा।
