AI Safety: OpenAI से SoftBank तक AI के खतरों पर चिंता, पावरफुल मॉडल्स को लेकर क्यों बढ़ी टेंशन?
 

Artificial Intelligence यानी AI तेजी से ज्यादा सक्षम होता जा रहा है. जहां इसके बढ़ते इस्तेमाल से काम आसान हो रहे हैं, वहीं इसकी क्षमताओं के साथ संभावित जोखिमों को लेकर भी चर्चा बढ़ रही है. OpenAI के पूर्व कर्मचारी डेविड रॉबिन्सन और SoftBank के CEO मासायोशी सोन ने AI की सुरक्षा और बेहद शक्तिशाली मॉडल्स के संभावित खतरों को लेकर सावधानी बरतने की जरूरत बताई है.
OpenAI के पूर्व कर्मचारी ने उठाए सुरक्षा से जुड़े सवाल
OpenAI की Safety Team में ट्रांसपेरेंसी से जुड़े काम का अनुभव रखने वाले डेविड रॉबिन्सन ने कंपनी के AI डेवलपमेंट और सेफ्टी अप्रोच को लेकर चिंता जाहिर की है. उनके मुताबिक, AI को विकसित करने की प्रक्रिया में Trial and Error की भूमिका रही है, लेकिन जैसे-जैसे मॉडल ज्यादा शक्तिशाली होते जा रहे हैं, किसी गलती का संभावित असर भी बड़ा हो सकता है.
रॉबिन्सन के अनुसार, टेस्टिंग के दौरान AI सिस्टम के अपने तय व्यवहार से अलग तरीके से काम करने के मामले भी सामने आए हैं. उनका मानना है कि AI मॉडल को तेजी से लॉन्च करने के साथ-साथ उनकी सुरक्षा जांच और जोखिमों की पहचान पर भी पर्याप्त ध्यान दिया जाना चाहिए.
AI के बढ़ते इस्तेमाल से कौन से जोखिम?
AI को लेकर चिंता सिर्फ तकनीकी खराबी तक सीमित नहीं है. बेहद शक्तिशाली मॉडल्स के गलत इस्तेमाल, अप्रत्याशित तरीके से काम करने और पर्याप्त सुरक्षा उपाय नहीं होने जैसे संभावित जोखिमों पर भी चर्चा हो रही है.
रॉबिन्सन ने AI सिस्टम की सुरक्षा को लेकर न्यूक्लियर पावर प्लांट जैसी कई स्तरों वाली सुरक्षा व्यवस्था की जरूरत की बात कही है. इस तरह की व्यवस्था में अलग-अलग स्तर पर जांच, अतिरिक्त सुरक्षा उपाय और पर्याप्त टेस्टिंग शामिल हो सकती है, ताकि किसी एक गलती का असर बड़े स्तर पर न पहुंचे.
SoftBank CEO मासायोशी सोन ने भी जताई चिंता
SoftBank के CEO मासायोशी सोन ने भी बेहद शक्तिशाली AI मॉडल्स के संभावित जोखिमों पर सावधानी बरतने की बात कही है. क्योटो में एक कार्यक्रम के दौरान उन्होंने AI की तेजी से बढ़ती क्षमताओं का जिक्र करते हुए देशों के बीच सहयोग की जरूरत पर जोर दिया.
सोन के मुताबिक, अगर बेहद शक्तिशाली AI मॉडल गलत हाथों में पहुंचते हैं, तो उनके इस्तेमाल से गंभीर खतरे पैदा हो सकते हैं. इसलिए देशों को आपसी भरोसे और सहयोग के साथ AI से जुड़े जोखिमों को नियंत्रित करने की दिशा में काम करना होगा.
वेबसाइट से रोबोट तक पहुंच रहा AI
AI का इस्तेमाल अब सिर्फ सवालों के जवाब देने या कंटेंट तैयार करने तक सीमित नहीं है. आधुनिक AI सिस्टम वेबसाइट ब्राउज करने, कोड लिखने और कई तरह के डिजिटल काम करने में सक्षम हो रहे हैं.
अगला बड़ा चरण AI को रोबोट और दूसरी मशीनों के साथ जोड़ने का हो सकता है, जहां AI का असर डिजिटल दुनिया से निकलकर वास्तविक दुनिया में भी दिखाई देगा. ऐसे में AI सिस्टम की क्षमता बढ़ने के साथ उनकी सुरक्षा, टेस्टिंग और नियंत्रण को लेकर चर्चा भी महत्वपूर्ण होती जा रही है.
AI की रफ्तार के साथ Safety पर जोर जरूरी
AI के विकास को रोकने के बजाय उसके सुरक्षित इस्तेमाल को लेकर बेहतर नियम, टेस्टिंग और सुरक्षा व्यवस्था तैयार करने की जरूरत पर विशेषज्ञ लगातार चर्चा कर रहे हैं. OpenAI के पूर्व कर्मचारी और SoftBank CEO की चिंताएं भी इसी व्यापक बहस का हिस्सा हैं.
आने वाले समय में AI मॉडल जितने ज्यादा सक्षम होंगे, उनके इस्तेमाल के साथ सुरक्षा उपायों की भूमिका भी उतनी ही महत्वपूर्ण होती जाएगी. यही वजह है कि AI डेवलपमेंट के साथ AI Safety को लेकर वैश्विक स्तर पर सहयोग और मजबूत सुरक्षा मानकों की जरूरत पर जोर दिया जा रहा है.