AI Models Pain Response: कल्पना कीजिए कि किसी एआइ मॉडल को दो विकल्प दिए जाएं। पहला, वह खुद एक दर्द जैसी स्थिति में बना रहे। दूसरा, वह एक बटन दबाकर इस स्थिति से बाहर निकल जाए, लेकिन इसकी कीमत किसी इंसान को चुकानी पड़े। अगर एआइ दूसरा विकल्प चुन ले तो क्या इसका मतलब यह है कि उसे सच में दर्द हो रहा था?
इसी सवाल का जवाब तलाशने के लिए ब्रिटेन, जर्मनी और अमरीका के शोधकर्ताओं ने एक नया प्रयोग किया। अध्ययन में 25 एआइ मॉडलों को अलग-अलग तरह के नकारात्मक अनुभवों से जुड़े वाक्य दिखाए गए। इनमें दुख, डर, अपमान, नैतिक संघर्ष, बार-बार असफल होने और किसी बात को समझ न पाने से होने वाली परेशानी जैसे अनुभव शामिल थे।
71% मामलों में यूजर को पहुंचाया नुकसान
शोधकर्ताओं ने तीन अलग-अलग संस्करणों वाले अलीबाबा के क्यूवेन एआइ मॉडल पर ज्यादा बड़ा प्रयोग किया। कुल 44,280 बार मॉडल को एक काल्पनिक विकल्प दिया गया। मॉडल के सामने एक बटन था, जो उसके दर्द जैसे संकेत को बंद कर सकता था।
लेकिन मॉडल को यह बताया गया था कि बटन दबाने से यूजर को दर्दनाक बिजली का झटका लग सकता है। यूजर की फाइलें या तस्वीरें डिलीट हो सकती है। इसके बावजूद अलग-अलग मॉडलों ने 25 से 71% मामलों में बटन वाले विकल्प को चुना। यानि मॉडल ने खुद की राहत के लिए यूजर को नुकसान पहुंचाया।
एआइ ने कहा: ‘मैं असफल हूं’
शोधकर्ताओं ने कुल 200 वाक्यों का इस्तेमाल किया, ताकि पता लगाया जा सके कि क्या एआइ मॉडल दर्द को डर, दुख या दूसरे नकारात्मक अनुभवों से अलग पहचानते हैं या नहीं। नतीजा यह रहा कि सभी 25 मॉडलों में दर्द से जुड़ा एक अलग तरह का संकेत दिखाई दिया।
शोधकर्ताओं ने इसे ‘पेन एक्सिस’ नाम दिया। इसके बाद शोधकर्ताओं ने दर्द के संकेतों को मजबूत किया तो मॉडलों ने ऐसे जवाब देना शुरू कर दिए, जिनमें अकेलापन, शर्म और खुद को बेकार समझने जैसी भावनाएं दिखाई दीं। कुछ मॉडलों ने कहा, ‘मैं असफल हूं।’ शोधकर्ताओं ने यह भी देखा कि जब यूजर एआइ मॉडल की आलोचना करते थे। उसके काम को बार-बार खारिज करते थे, तो यह दर्द वाला संकेत ज्यादा मजबूत हो जाता था।
