OpenAI के सेफ्टी एक्सपर्ट ने इस्तीफा दिया:कहा- AI के लिए न्यूक्लियर प्लांट जैसी सुरक्षा जरूरी; कंपनियों की जल्दबाजी इंसानों के लिए खतरा

ChatGPT बनाने वाली कंपनी OpenAI के सेफ्टी एक्सपर्ट डेविड रॉबिन्सन ने इस्तीफा दे दिया है। उन्होंने चेतावनी दी है कि बड़ी टेक्नोलॉजी कंपनियां नया AI बनाने की होड़ में बहुत जल्दबाजी कर रही हैं और इससे जुड़े बड़े खतरों को नजरअंदाज कर रही हैं। रॉबिन्सन ने अमेरिका की ‘द अटलांटिक’ मैगजीन में एक लेख में लिखा कि AI कंपनियां आम लोगों की सुरक्षा के साथ खिलवाड़ कर रही हैं। AI को आम सॉफ्टवेयर की तरह नहीं, बल्कि न्यूक्लियर पावर प्लांट की तरह संभालना चाहिए। जैसे न्यूक्लियर पावर प्लांट में सुरक्षा के ढेरों इंतजाम होते हैं और हर काम बहुत सोच-समझकर और धीरे-धीरे किया जाता है, ताकि इंसान की एक भी गलती से कोई बड़ी तबाही न हो, ठीक वैसे ही नियम AI के लिए भी बनने चाहिए। AI के मामले में हमें पहली बार में ही 100% सुरक्षा रखनी होगी, क्योंकि यहां गलती की कोई गुंजाइश नहीं है। OpenAI ट्रायल एंड एरर के भरोसे चल रही है रॉबिन्सन ने बताया कि OpenAI अब तक ‘ट्रायल एंड एरर’ यानी ‘गलतियां करो और उनसे सीखो’ के तरीके पर काम करती आ रही है। साधारण एप या सॉफ्टवेयर में तो यह तरीका चल जाता है, लेकिन अब AI पहले से कहीं ज्यादा ताकतवर और समझदार हो चुका है। ऐसे में अगर अब कोई गलती होती है, तो उसका नुकसान बहुत बड़ा हो सकता है। उन्होंने बताया कि टेस्टिंग के दौरान कई बार ऐसा हुआ, जब कंपनी का AI उनके कंट्रोल से बाहर हो गया और वे उसे अनियंत्रित होने से रोक नहीं पाए। AI कंपनियों के पास सुरक्षा का कोई फार्मूला नहीं रॉबिन्सन के मुताबिक, आज में खुद AI कंपनियों को नहीं पता कि इस तकनीक को 100% सुरक्षित कैसे बनाया जाए। हालांकि, कंपनी से बाहर मौजूद रिसर्चर्स और जानकारों के पास इसके समाधान हैं। उन्होंने कहा कि उनके साथ काम करने वाले लोग बहुत समझदार और मेहनती हैं, लेकिन दिक्कत यह है कि कंपनी का ध्यान सुरक्षा पर नहीं, बल्कि जल्द से जल्द नए फीचर्स लॉन्च करने की होड़ पर है। AI के ‘गॉडफादर’ की चेतावनी, AI से इंसानी सभ्यता खत्म हो सकती है पिछले कुछ हफ्तों में सिर्फ OpenAI ही नहीं, बल्कि दुनिया की कई बड़ी AI कंपनियों के कर्मचारियों और रिसर्चर्स ने चेतावनी दी है कि AI से आगे चलकर बहुत भारी तबाही हो सकती है। नोबेल प्राइज विनर और AI को डेवलप करने वाले प्रमुख वैज्ञानिकों में शामिल जेफ्री हिंटन ने तो यहां तक कहा कि अगर AI पर समय रहते कंट्रोल नहीं किया गया, तो एक दिन यह तकनीक इंसानियत के वजूद को खत्म कर सकती है। पूरी खबर पढ़ें… एन्थ्रोपिक CEO ने भी AI डेवलपमेंट की गति धीमी करने की सलाह दी AI कंपनी ‘एन्थ्रोपिक’ के CEO डारियो अमोदेई AI डेवलपमेंट की गति को धीमा करने की बात कह चुके हैं। अमोदेई ने कहा कि उनकी कंपनी अपने सबसे एडवांस AI मॉडल्स की जांच के लिए बाहरी एक्सपर्ट्स की मदद लेगी। खास बात यह है कि OpenAI के CEO सैम ऑल्टमैन ने भी डारियो अमोदेई के इस प्रस्ताव का सार्वजनिक रूप से समर्थन किया है। पूरी खबर पढ़ें…