दावा- Grok पर अब AI से अश्लील तस्वीरें नहीं बनेंगी:X ने गलती मानी; 3500 कंटेंट हटाए, 600 से ज्यादा अकाउंट डिलीट

सोशल मीडिया प्लेटफॉर्म X ने कंटेंट मॉडरेशन में अपनी गलतियां स्वीकार की हैं। कंपनी ने कहा है कि अश्लील इमेज जनरेशन पर पूरी तरह से रोक लगाएगी और भारत के कानूनों का पालन करेगी। सरकार के सूत्रों के मुताबिक यह फैसला अश्लील कंटेंट वायरल होने के बाद लिया गया। प्लेटफॉर्म ने बताया कि उन्होंने 3,500 से ज्यादा कंटेंट ब्लॉक कर दिए हैं। साथ ही 600 से ज्यादा अकाउंट्स भी डिलीट कर दिए गए हैं। दरअसल, शिवसेना (UBT) की सांसद प्रियंका चतुर्वेदी ने 2 जनवरी को AI चैटबोट Grok के गलत इस्तेमाल को लेकर आईटी मिनिस्टर को लेटर लिखा था। इसके बाद केंद्र सरकार ने उसी दिन X से कहा था कि वह AI ऐप Grok से बनाई जा रहे अश्लील, फूहड़ कंटेंट को तुरंत हटाए, नहीं तो कानूनी कार्रवाई की जाएगी। X ने कहा- भारत हमारे लिए बड़ा बाजार है X ने कार्रवाई की जानकारी देते हुए कहा कि भारत हमारे लिए बड़ा बाजार है। कंपनी ने कहा कि वह यहां के नियमों का सम्मान करेगी। यह कदम कंटेंट मॉडरेशन को मजबूत बनाएगा। प्रियंका चतुर्वेदी ने कहा- X ने कंटेंट को रोकने की जगह सीमित कर दिया है राज्यसभा सांसद प्रियंका चतुर्वेदी ने शनिवार को X पर इस मामले में फिर एक पोस्ट किया। उन्होंने लिखा कि सोशल मीडिया प्लेटफॉर्म X ने Grok के माध्यम से आपत्तिजनक और यौन रूप से उत्तेजक इमेज जेनरेशन को पूरी तरह से रोकने की बजाय केवल पेड यूजर्स तक सीमित कर दिया है। उन्होंने आरोप लगाया कि यह कदम प्रभावी रूप से महिलाओं और बच्चों की तस्वीरों के अनधिकृत दुरुपयोग की अनुमति देता है, जिससे उन्हें जोखिम में डाला जा रहा है। उन्होंने कहा कि प्लेटफॉर्म निंदनीय व्यवहार को मॉनिटाइज कर रहा है, यह शर्मनाक है। मस्क बोले थे- जिम्मेदारी टूल की नहीं, यूजर की इससे पहले X के मालिक इलॉन मस्क ने 3 जनवरी को कहा था कि कुछ लोग कह रहे हैं कि Grok आपत्तिजनक तस्वीरें बना रहा है, लेकिन यह ऐसे है जैसे किसी बुरी बात को लिखने के लिए पेन को दोष देना। कलम यह तय नहीं करती कि क्या लिखा जाएगा। यह काम उसे पकड़ने वाला करता है। मस्क ने कहा कि Grok भी उसी तरह काम करता है। आपको क्या मिलेगा, यह काफी हद तक इस बात पर निर्भर करता है कि आप उसमें क्या इनपुट देते हैं। क्योंकि जिम्मेदारी टूल की नहीं, उसे इस्तेमाल करने वाले व्यक्ति की होती है। शिवसेना (UBT) की सांसद ने उठाया था मुद्दा शिवसेना (UBT) की सांसद प्रियंका चतुर्वेदी ने 2 जनवरी को AI चैटबोट Grok के गलत इस्तेमाल पर आईटी मिनिस्टर अश्विनी वैष्णव को लेटर लिखा था। महिलाओं की तस्वीरों को अश्लील तस्वीरों में बदला दरअसल कुछ यूजर सोशल मीडिया प्लेटफॉर्म X पर फर्जी अकाउंट बनाते हैं। इन अकाउंट्स से वे महिलाओं की तस्वीरें पोस्ट करते हैं। इसके बाद Grok AI को प्रॉम्प्ट दिया जाता है कि महिलाओं की फोटो को गलत और आपत्तिजनक रूप में दिखाया जाए। AI से कपड़े बदलने या तस्वीर को सेक्शुअल अंदाज में पेश करने जैसे प्रॉम्प्ट दिए जाते हैं। इन तस्वीरों के लिए महिलाओं से कोई अनुमति नहीं ली जाती। कई बार वे महिलाएं खुद भी नहीं जानतीं कि उनकी तस्वीरों का ऐसा इस्तेमाल हो रहा है। आरोप है कि Grok इस तरह की गलत मांगों को रोकने की बजाय उन्हें स्वीकार कर लेता है। ————————————– ये खबर भी पढ़ें… सोशल मीडिया पर अश्लील कंटेंट को लेकर केंद्र की चेतावनी, कहा- कंपनियां ऐसे कंटेंट पर रोक लगाएं; यूजर भी सोच-समझकर पोस्ट करें केंद्र सरकार ने 30 दिसंबर को सभी सोशल मीडिया प्लेटफॉर्म्स को अश्लील कंटेंट को लेकर चेतावनी जारी की। इसमें कहा गया है कि कंपनियां अश्लील, भद्दे, पोर्नोग्राफिक, बच्चों से जुड़े यौन शोषण वाले और गैर-कानूनी कंटेंट पर तुरंत रोक लगाएं। यदि कंपनियां ऐक्शन नहीं लेंगी तो उन पर केस चलेगा। पूरी खबर पढ़ें…