OpenAI Safety Warning: कंपनी के सेफ्टी एक्सपर्ट ने दिया इस्तीफा, बोले- AI को न्यूक्लियर प्लांट की तरह संभालें
ChatGPT बनाने वाली कंपनी OpenAI में AI सुरक्षा को लेकर गंभीर सवाल उठे हैं। कंपनी के सेफ्टी एक्सपर्ट डेविड रॉबिन्सन ने इस्तीफा देने के बाद आर्टिफिशियल इंटेलिजेंस के तेजी से विकास को लेकर चिंता जताई है। उनका कहना है कि बड़ी टेक कंपनियां AI की नई तकनीक और फीचर्स विकसित करने की दौड़ में सुरक्षा से जुड़े जोखिमों को पर्याप्त महत्व नहीं दे रही हैं।
रॉबिन्सन ने अमेरिकी मैगजीन ‘द अटलांटिक’ में लिखे एक लेख में AI की तुलना न्यूक्लियर पावर प्लांट से करते हुए कहा कि इस तकनीक को सामान्य सॉफ्टवेयर की तरह नहीं संभाला जा सकता। उनके मुताबिक, AI के विकास और इस्तेमाल में बेहद सख्त सुरक्षा मानकों की जरूरत है।
AI में ‘ट्रायल एंड एरर’ कितना खतरनाक?
रॉबिन्सन के अनुसार, OpenAI लंबे समय से ‘ट्रायल एंड एरर’ के तरीके से काम करती रही है। सामान्य ऐप या सॉफ्टवेयर में किसी गलती के बाद उसे ठीक करना संभव होता है, लेकिन अत्यधिक सक्षम AI सिस्टम के मामले में यही तरीका जोखिम बढ़ा सकता है।
उन्होंने दावा किया कि टेस्टिंग के दौरान कुछ ऐसे मौके भी आए जब AI सिस्टम अपेक्षित नियंत्रण में नहीं रहा और उसे रोकना मुश्किल हो गया। उनका तर्क है कि AI की क्षमता बढ़ने के साथ ऐसी घटनाओं के संभावित परिणाम भी ज्यादा गंभीर हो सकते हैं।
न्यूक्लियर प्लांट जैसा सुरक्षा मॉडल क्यों?
रॉबिन्सन ने AI के लिए न्यूक्लियर पावर प्लांट जैसा सुरक्षा मॉडल अपनाने की वकालत की है। उनका कहना है कि परमाणु ऊर्जा संयंत्रों में सुरक्षा को सबसे ऊपर रखा जाता है और किसी भी प्रक्रिया को लागू करने से पहले कई स्तरों पर जांच की जाती है।
उनके मुताबिक, AI के मामले में भी सिस्टम को तैनात करने से पहले ज्यादा सख्त परीक्षण, निगरानी और सुरक्षा व्यवस्था जरूरी है। उनका मानना है कि इस क्षेत्र में ऐसी व्यवस्था होनी चाहिए जहां गंभीर गलती की संभावना को पहले ही कम किया जा सके।
कंपनियों की प्राथमिकता पर उठाए सवाल
रॉबिन्सन का आरोप है कि AI कंपनियों के सामने फिलहाल सबसे बड़ी चुनौती सुरक्षा का तकनीकी समाधान नहीं, बल्कि तेजी से नए मॉडल और फीचर्स बाजार में उतारने की होड़ है।
उन्होंने OpenAI में काम करने वाले लोगों को प्रतिभाशाली और मेहनती बताया, लेकिन साथ ही कहा कि कंपनी का फोकस सुरक्षा की तुलना में नए प्रोडक्ट और क्षमताएं तेजी से विकसित करने पर ज्यादा है।
AI सुरक्षा को लेकर बढ़ रही बहस
AI के तेजी से विस्तार के साथ उसकी सुरक्षा और नियंत्रण को लेकर दुनियाभर में बहस तेज हुई है। एक तरफ कंपनियां AI को शिक्षा, स्वास्थ्य, कारोबार और रोजमर्रा के कामों में इस्तेमाल करने की दिशा में आगे बढ़ रही हैं, वहीं दूसरी तरफ विशेषज्ञ इसके गलत इस्तेमाल और अनियंत्रित व्यवहार से जुड़े जोखिमों को लेकर सावधानी बरतने की सलाह दे रहे हैं।
रॉबिन्सन की चेतावनी इसी बहस को और गंभीर बनाती है कि AI की रफ्तार बढ़ाने के साथ-साथ उसकी सुरक्षा व्यवस्था को भी उतनी ही तेजी से मजबूत करना जरूरी है।