इलॉन मस्क के X ने ग्रोक AI से रियल लोगों की अश्लील इमेज बनाने पर वर्ल्डवाइड बैन लगा दिया है। यह फैसला AI-पावर्ड चैटबॉट से महिलाओं और बच्चों की फोटोज मिसयूज की शिकायतों के बाद लिया गया है। अब यूजर्स इस टूल का इस्तेमाल करके किसी भी असली व्यक्ति की ऐसी फोटो नहीं बना पाएंगे जो आपत्तिजनक हो या जिसमें उन्हें कम कपड़ों में दिखाया गया हो। ये रिस्ट्रिक्शन पेड और अनपेड सभी यूजर्स पर लगाया गया है। अश्लील फोटो एडिटिंग पर पूरी तरह रोक X के सेफ्टी अकाउंट ने गुरुवार इस बदलाव की जानकारी देते हुए बताया कि उन्होंने तकनीकी स्तर पर ऐसे बदलाव किए हैं, जिससे ग्रोक अब असली लोगों की बिना कपड़ों वाली फोटो नहीं बना पाएगा। इसमें बिकिनी जैसे कपड़ों वाली एडिटिंग पर पूरी तरह रोक लगा दी गई है। कंपनी का कहना है कि यह बदलाव इसलिए किया गया है ताकि किसी की निजता का उल्लंघन न हो और प्लेटफॉर्म का इस्तेमाल किसी को परेशान करने के लिए न किया जा सके। महिलाओं की शिकायतों से शुरू हुई जांच पिछले साल दिसंबर में कई महिलाओं ने X पर शिकायत की कि उनकी फोटोज ग्रोक से सेक्शुअल इमेज बनाने में यूज हो रही हैं। IT मिनिस्ट्री की साइबर लॉ डिवीजन ने X को निर्देश दिया कि IT रूल्स 2021 के तहत कंटेंट हटाएं। दरअसल कुछ यूजर सोशल मीडिया प्लेटफॉर्म X पर फर्जी अकाउंट बनाते हैं। इन अकाउंट्स से वे महिलाओं की तस्वीरें पोस्ट करते हैं। इसके बाद ग्रोक AI को प्रॉम्प्ट दिया जाता है कि महिलाओं की फोटो को गलत और आपत्तिजनक रूप में दिखाया जाए। AI से कपड़े बदलने या तस्वीर को सेक्शुअल अंदाज में पेश करने जैसी प्रॉम्प्ट दिए जाते हैं। इन तस्वीरों के लिए महिलाओं से कोई अनुमति नहीं ली जाती। कई बार वे महिलाएं खुद भी नहीं जानतीं कि उनकी तस्वीरों का ऐसा इस्तेमाल हो रहा है। आरोप है कि ग्रोक इस तरह की गलत मांगों को रोकने के बजाय उन्हें स्वीकार कर लेता है। भारत में 3,500 फोटो हटाई गईं, 600 यूजर्स पर बैन X ने भारत सरकार को सौंपी अपनी एक्शन रिपोर्ट में बताया कि उसने भारत में Grok के जरिए बनाई गई लगभग 3,500 आपत्तिजनक और अश्लील फोटो को हटा दिया है। इतना ही नहीं, कंपनी ने उन 600 यूजर्स की पहचान करके उन्हें प्लेटफॉर्म से बाहर कर दिया था, जो बार-बार इस AI चैटबॉट का गलत इस्तेमाल कर रहे थे। मस्क बोले थे- जिम्मेदारी टूल की नहीं, यूजर की इससे पहले X के मालिक इलॉन मस्क ने कहा था कि कुछ लोग कह रहे हैं कि ग्रोक आपत्तिजनक तस्वीरें बना रहा है, लेकिन यह ऐसे है जैसे किसी बुरी बात को लिखने के लिए पेन को दोष देना। कलम यह तय नहीं करती कि क्या लिखा जाएगा। यह काम उसे पकड़ने वाला करता है। मस्क ने कहा कि Grok भी उसी तरह काम करता है। आपको क्या मिलेगा, यह काफी हद तक इस बात पर निर्भर करता है कि आप उसमें क्या इनपुट देते हैं। क्योंकि जिम्मेदारी टूल की नहीं, उसे इस्तेमाल करने वाले व्यक्ति की होती है।
ग्रोक से अश्लील इमेज बनाने पर दुनियाभर में रोक:महिलाओं-बच्चों की तस्वीरों के मिसयूज के बाद फैसला; भारत में 3,500 फोटो हटाए थे
