सरकारी सूत्रों के अनुसार, इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने मेटा से कहा है कि वह अपने एल्गोरिदम में बदलाव करे और डीपफेक, प्रोपेगैंडा और दूसरे हेरफेर किए गए या गैर-कानूनी कंटेंट को अपने प्लेटफॉर्म पर फैलने से रोकने के लिए एक कंप्लायंस रोडमैप (नियमों के पालन की योजना) तैयार करे। सूत्रों ने बताया कि सरकार ने मेटा के एल्गोरिदम में ये खास बदलाव करने के लिए कहा है, ताकि नुकसानदायक और हेरफेर किए गए कंटेंट का पता लगाने और उसे हटाने की प्रक्रिया को बेहतर बनाया जा सके। MeitY के अधिकारियों ने कंपनी से अपने कंटेंट मॉडरेशन सिस्टम को मजबूत करने, अधिकृत सरकारी एजेंसियों से मिलने वाले कंटेंट हटाने के अनुरोधों पर तेजी से कार्रवाई करने और डेटा लोकलाइजेशन की शर्तों का पालन करने के लिए भी कहा है।
इसे भी पढ़ें: Meta टीम से सरकार ने Deepfake और AI कंटेंट पर ठोस कदम उठाने की रिपोर्ट मांगी
सूत्रों के अनुसार, सरकार ने डीपफेक, मॉर्फ़ की गई तस्वीरों और गुमराह करने वाली पोस्ट का पता लगाने और उन्हें हटाने की प्रक्रिया को तेज़ करने के लिए मेटा के साथ और बेहतर तालमेल बनाने की कोशिश की है। ये निर्देश शुक्रवार को मेटा की टेक्निकल टीम और MeitY (इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय) के अधिकारियों के बीच हुई बैठक के बाद दिए गए। इस बैठक में कंपनी ने बताया कि उसके मौजूदा सिस्टम ऑनलाइन हानिकारक कंटेंट की पहचान कैसे करते हैं और उनसे कैसे निपटते हैं। हालांकि, सरकारी अधिकारियों ने मेटा के प्लेटफ़ॉर्म पर प्रोपेगैंडा, डीपफेक और हेरफेर किए गए मीडिया के प्रसार को रोकने के लिए खास एल्गोरिदम में बदलाव करने पर ज़ोर दिया। ये ताज़ा बातचीत, मेटा के प्लेटफ़ॉर्म पर हानिकारक और गैर-कानूनी कंटेंट से निपटने के तरीकों को लेकर सरकार और मेटा के बीच हुई कई बैठकों की कड़ी का हिस्सा है।
इसे भी पढ़ें: अमेरिका की अदालत का बड़ा फैसला: युवाओं को नुकसान पहुंचाने के मामले में Meta पर $56.7 करोड़ का जुर्माना
सूत्रों ने बताया कि बातचीत के दौरान मेटा ने अपने मौजूदा सिस्टम में कमियों को स्वीकार किया और डीपफेक व अन्य तरह के सिंथेटिक कंटेंट से निपटने के लिए उठाए जा सकने वाले टेक्निकल उपायों के बारे में जानकारी दी।
दोनों पक्ष बातचीत जारी रखने पर सहमत हुए हैं और अगले हफ़्ते एक और बैठक होने की उम्मीद है। हाल के दिनों में मेटा के प्लेटफ़ॉर्म पर डीपफेक, बच्चों के यौन शोषण से जुड़े कंटेंट (CSAM) और अन्य हानिकारक कंटेंट को लेकर चिंताओं के कारण सरकार की ओर से मेटा की निगरानी और जांच तेज़ हो गई है।
भारतीय सरकार द्वारा चिंता जताए जाने के बाद, मेटा के सीईओ मार्क ज़करबर्ग ने कंपनी के प्लेटफॉर्म पर कृत्रिम कृत्रिम सामग्री (सीएसएएम) और डीपफेक सामग्री से संबंधित त्रुटियों के लिए पहले ही माफी मांग ली थी।
इसे भी पढ़ें: Meta को उठानी होगी यूजर्स को दिखने वाले कंटेंट की जिम्मेदारी, Deepfake पर केंद्र ने मांगी कार्ययोजना
ये ताज़ा चर्चाएँ ऐसे समय में हो रही हैं जब भारत ने डीपफेक सहित कृत्रिम रूप से निर्मित सामग्री के लिए अपने नियामक ढांचे को और सख्त कर दिया है। सरकार ने इस वर्ष की शुरुआत में सूचना प्रौद्योगिकी (मध्यस्थ दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियमों में संशोधन किया था ताकि कृत्रिम रूप से निर्मित जानकारी को एक विशिष्ट नियामक ढांचे के अंतर्गत लाया जा सके और ऑनलाइन मध्यस्थों पर अतिरिक्त सावधानी बरतने की आवश्यकताएँ लागू की जा सकें। इन नियमों का उद्देश्य कृत्रिम बुद्धिमत्ता (एआई) द्वारा निर्मित और हेरफेर की गई सामग्री के लिए जवाबदेही को मजबूत करना है, जिसमें पहचान और लेबलिंग की आवश्यकताएँ भी शामिल हैं।
