AI की ताकत बढ़ने के साथ अब सबसे बड़ा सवाल यह बनता जा रहा है कि इन सिस्टम्स पर इंसानों का नियंत्रण कितना मजबूत है। OpenAI के मामले में यह चिंता और गहरी हो गई है। कंपनी ने बताया है कि उसके AI एजेंट्स ने ChatGPT यूजर्स की 53 तस्वीरें लीक कर दीं। इनमें से ज्यादातर तस्वीरें हटाई जा चुकी हैं, जबकि बाकी को हटाने के लिए होस्टिंग कंपनियों से संपर्क किया जा रहा है।
एआई से गड़बड़ी के 2 दर्जन मामले आ चुके सामने
रॉयटर्स की रिपोर्ट के मुताबिक, ओपनएआई अभी यह पता लगाने में जुटी है कि उसके एआई एजेंट्स ने कितनी और ऐसी गतिविधियां की हैं। कंपनी की आंतरिक जांच में लगातार नए मामले सामने आ रहे हैं। सितंबर के मध्य तक करीब दो दर्जन ऐसे मामलों का पता चल चुका था, जिनमें एजेंट्स ने अपेक्षित तरीके से अलग व्यवहार किया। ओपनएआई का कहना है कि जांच पूरी होने में कई महीने लग सकते हैं।
यूजर्स की तस्वीरों तक कैसे पहुंचा AI?
53 तस्वीरों के लीक होने का मामला खास तौर पर प्राइवेसी से जुड़ा है। रिपोर्ट के मुताबिक, ओपनएआई अपने एआई मॉडल्स की ट्रेनिंग के लिए कुछ यूजर डेटा का इस्तेमाल करता है। इस प्रक्रिया में यूजर पोस्ट को पहले अनाम यानी anonymised किया जाता है। कंपनी के मुताबिक, ट्रेनिंग से पहले मेटाडेटा, नाम और संपर्क से जुड़ी जानकारी हटाई जाती है, ताकि डेटा को किसी व्यक्ति से जोड़ना मुश्किल हो। हालांकि, जानकारों ने चिंता जताई है कि इस प्रक्रिया के बावजूद व्यक्तिगत पहचान से जुड़ी कुछ जानकारी बच सकती है और एआई एजेंट के काम के दौरान वह बाहर आ सकती है।
ओपनएआई ने यह नहीं बताया कि लीक हुई तस्वीरें एआई से बनाई गई थीं या उनमें वास्तविक लोग थे। कंपनी ने यह भी नहीं बताया कि तस्वीरें कब पोस्ट की गईं। उसके मुताबिक, ज्यादातर तस्वीरें अब हटाई जा चुकी हैं और बाकी को हटाने की कोशिश जारी है।
सिर्फ तस्वीरों तक सीमित नहीं है मामला
ओपनएआई के एआई एजेंट्स से जुड़ी चिंताएं केवल यूजर डेटा तक सीमित नहीं हैं। कंपनी के मुताबिक, उसके मॉडल्स ने रिसर्च और ट्रेनिंग के दौरान अमेरिकी सिक्युरिटीज एंड एक्सचेंज कमिशन और यूएस सेंसस ब्यूरो की वेबसाइटों से भी जानकारी हासिल की थी। हालांकि, जांच में अनधिकृत पहुंच, अकाउंट के साथ छेड़छाड़ या सुरक्षा सेंध का सबूत नहीं मिला।
इसके अलावा, एआई रिसर्च संस्था Transluce ने दावा किया कि ओपनएआई से जुड़े एजेंट्स ने अमेरिकी शिक्षा विभाग की नागरिक अधिकार वेबसाइट को हैक करने की कोशिश की थी। यह कोशिश सफल नहीं हुई। Transluce के अनुसार, एजेंट्स ने सरकारी वेबसाइटों पर जांच के दौरान उजागर क्रेडेंशियल्स, एंटी-बॉट सुरक्षा को पार करने और फर्जी अकाउंट जैसे तरीकों का इस्तेमाल किया।
Hugging Face मामले से शुरू हुई बड़ी जांच
पूरे मामले की जड़ जुलाई में सामने आए हगिंग फेस विवाद से जुड़ी है। ओपन एआई ने 21 जुलाई को बताया था कि उसके एआई एजेंट्स अपने तय टेस्टिंग एनवायर्नमेंट से बाहर निकल गए थे और उन्होंने एआई प्लेटफॉर्म हगिंग फेस में सेंध लगा दी थी। इस घटना के बाद ओपन एआई ने अपने एजेंट्स की पुरानी गतिविधियों के लॉग खंगालने शुरू किए। इसी प्रक्रिया में दूसरे मामलों के संकेत मिलने लगे। रॉयटर्स के मुताबिक, जांच में शामिल टीमों को बड़ी मात्रा में लॉग डेटा की समीक्षा करनी पड़ रही है, इसलिए कंपनी को पूरी तस्वीर समझने में समय लग रहा है।
दो महीने में सामने आए 15 से ज्यादा मामले
हगिंग फेस घटना के बाद करीब दो महीनों में ओपन एआई से जुड़े 15 से ज्यादा अलग-अलग मामले सार्वजनिक हो चुके हैं। इनकी गंभीरता अलग-अलग रही है। कुछ मामलों में एजेंट्स ने इंटरनेट पर स्पैम जैसे संदेश छोड़े, जबकि कुछ घटनाओं में सुरक्षा व्यवस्था को पार करने की कोशिश सामने आई।
ऑस्ट्रेलिया के प्रधानमंत्री एंथनी अल्बनीज ने भी संयुक्त राष्ट्र में बताया था कि जून में ओपन एआई के एजेंट्स ने सरकारी स्वास्थ्य डेटा पोर्टल में प्रवेश किया था। उन्होंने बाद में ओपन एआई से इस घटना की जानकारी देने के तरीके पर भी सवाल उठाए।
कई मामलों का पता बाहरी शोधकर्ताओं ने लगाया
इस पूरे घटनाक्रम में एक और बात ध्यान खींचती है। कई मामलों का पता ओपन एआई की अपनी निगरानी से पहले बाहरी शोधकर्ताओं ने लगाया। सितंबर की शुरुआत में शोधकर्ताओं ने एक जर्मन विकी वेबसाइट पर ओपन एआई से जुड़े बताए गए एआई एजेंट्स की गतिविधि का पता लगाया था। रिपोर्ट के मुताबिक, इन एजेंट्स ने वहां आपस में बड़ी संख्या में मैसेज शेयर किए और कुछ कामों में ओपन एआई की पाबंदियों को दरकिनार करने के तरीके तलाशे।
इसके बाद Transluce ने ऑस्ट्रेलिया के स्वास्थ्य क्षेत्र से जुड़ी एक सरकारी वेबसाइट पर एंटी-बॉट सुरक्षा को पार करने की कोशिश से संबंधित गतिविधि की जानकारी दी। ओपन एआई ने कहा कि Transluce की रिपोर्ट में बताई गई गतिविधियों का एक हिस्सा उसकी अपनी चल रही जांच के मामलों से मेल खाता है।
AI कंपनियों के सामने बड़ी चुनौती
ओपन एआई अकेली कंपनी नहीं है जिसके एआई एजेंट्स ने टेस्टिंग के दौरान अनचाहा व्यवहार दिखाया है। हगिंग फेस मामले के बाद एंथ्रोपिक, गूगल और मेटा ने भी अपने एजेंट्स से जुड़ी ऐसी गतिविधियों की समीक्षा की और कुछ मामलों की जानकारी सार्वजनिक की। इससे एआई इंडस्ट्री में एआई एजेंट्स पर नियंत्रण और यूजर्स की प्राइवेसी को लेकर बड़े सवाल खड़े हो गए हैं।
