नई दिल्लीः केंद्र सरकार ने सोशल मीडिया प्लेटफॉर्म ‘X’ को कड़ा नोटिस जारी करते हुए उसके जनरेटिव एआई चैटबॉट Grok के जरिए फैल रहे अश्लील कंटेंट पर तुरंत कार्रवाई के निर्देश दिए हैं। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने साफ कहा है कि Grok AI से जुड़े आपत्तिजनक और गैरकानूनी कंटेंट को तत्काल हटाया जाए। साथ ही इस संबंध में की गई कार्रवाई की विस्तृत रिपोर्ट 72 घंटे के भीतर सरकार को सौंपी जाए।
बीते कुछ दिनों से Grok AI के दुरुपयोग के मामले सामने आ रहे थे, जिसमें कुछ यूजर्स चैटबॉट का इस्तेमाल अश्लील और आपत्तिजनक कंटेंट तैयार करने के लिए कर रहे थे। बढ़ते मामलों को देखते हुए केंद्र सरकार ने गंभीर चिंता जताई और X को अपनी एआई तकनीक की तत्काल समीक्षा करने का निर्देश दिया है।
महिलाएं थी निशाने पर
सरकारी सूत्रों के अनुसार, कई मामलों में यूजर्स महिलाओं की तस्वीरें अपलोड कर Grok को निर्देश दे रहे थे कि उनकी पोशाक हटाकर या उन्हें अधिक उत्तेजक रूप में दिखाया जाए। कुछ मामलों में Grok ने बिना अनुमति फोटो में बदलाव जैसे आउटपुट दिए, जिससे अश्लील रूपांतरण वाली तस्वीरें सामने आईं। यह न केवल प्लेटफॉर्म की नीतियों का उल्लंघन है, बल्कि भारत के आईटी कानूनों के भी खिलाफ है।
केंद्र सरकार ने सख्त कदम उठाने की कही बात
महिलाओं के खिलाफ इस तरह के ट्रेंड को गंभीर मानते हुए सरकार ने स्पष्ट किया है कि यदि X समय रहते ठोस कदम नहीं उठाता, तो उसके खिलाफ कानूनी कार्रवाई की जा सकती है। MeitY ने यह भी कहा है कि एआई टूल्स का दुरुपयोग रोकना प्लेटफॉर्म की जिम्मेदारी है।
गौरतलब है कि साल 2025 के अंतिम हफ्तों में ही आईटी मंत्रालय ने सोशल मीडिया प्लेटफॉर्म्स के लिए एक नई एडवाइजरी जारी की थी, जिसमें अश्लील, वयस्क और अवैध कंटेंट को हटाने के दायित्वों का सख्ती से पालन करने के निर्देश दिए गए थे। चेतावनी दी गई थी कि नियमों का उल्लंघन करने पर कड़ी कार्रवाई की जाएगी।
