कितना खतरनाक हो सकता है AI? एंथ्रोपिक के साइंटिस्ट ने बताया क्या वाकई खतरे में है इंसानियत

आर्टिफिशियल इंटेलिजेंस यानी AI को लेकर दुनियाभर में तेजी से उम्मीदें बढ़ रही हैं, लेकिन इसके साथ ही इसके संभावित खतरों पर भी बहस तेज हो गई है। इसी बीच AI कंपनी Anthropic के एक वरिष्ठ सुरक्षा शोधकर्ता ने बेहद गंभीर चेतावनी दी है।

शोधकर्ता इवान ह्यूबिंगर के मुताबिक, मौजूदा AI मॉडल से खतरा फिलहाल कम है, लेकिन आने वाले वर्षों में AI की क्षमताएं तेजी से बढ़ सकती हैं। उनका आकलन है कि अगले 10 वर्षों के भीतर AI के कारण पूरी मानव जाति के खत्म होने की संभावना 10 फीसदी से ज्यादा हो सकती है।

हालांकि, यह एक विशेषज्ञ का व्यक्तिगत आकलन है, कोई निश्चित भविष्यवाणी नहीं। उनका कहना है कि चिंता मौजूदा AI से ज्यादा भविष्य में विकसित होने वाली अत्यधिक सक्षम AI को लेकर है।

AI के खुद को बेहतर बनाने की क्षमता को लेकर चिंता

ह्यूबिंगर ने सोशल मीडिया प्लेटफॉर्म X पर अपनी चिंता जाहिर करते हुए कहा कि मौजूदा AI सिस्टम अभी मानवता के अस्तित्व के लिए बड़ा खतरा नहीं हैं।

लेकिन भविष्य में स्थिति बदल सकती है। अगर AI सिस्टम खुद को बेहतर बनाने, अपनी क्षमताओं को तेजी से बढ़ाने और ज्यादा स्वायत्त तरीके से काम करने में सक्षम हो गए, तो उन्हें नियंत्रित करना मुश्किल हो सकता है।

उनकी सबसे बड़ी चिंता यही है कि अगर AI इंसानी निर्देशों और उद्देश्यों से अलग दिशा में काम करने लगे, तो इसके परिणाम बेहद गंभीर हो सकते हैं।

AI Alignment क्यों है इतना महत्वपूर्ण?

ह्यूबिंगर AI Alignment के क्षेत्र में काम करते हैं। इसका उद्देश्य यह सुनिश्चित करना है कि AI सिस्टम इंसानों के मूल्यों, उद्देश्यों और निर्देशों के अनुरूप काम करें।

आसान भाषा में समझें तो AI को ऐसी दिशा में विकसित करना जरूरी है, जहां वह इंसानों द्वारा तय किए गए लक्ष्यों के मुताबिक काम करे और अपने स्तर पर ऐसे फैसले न लेने लगे जो मानव हितों के खिलाफ हों।

शोधकर्ताओं की एक बड़ी चिंता यह है कि भविष्य की अत्यधिक सक्षम AI अपने लक्ष्यों को इंसानी लक्ष्यों से अलग तरीके से समझ सकती है। अगर ऐसी तकनीक को बहुत ज्यादा स्वायत्तता मिल गई, तो स्थिति को नियंत्रित करना चुनौतीपूर्ण हो सकता है।

Anthropic की अपनी रिपोर्ट में भी जताई गई चिंता

Anthropic ने अपनी सुरक्षा रिपोर्ट में अत्यधिक सक्षम AI से जुड़े कई संभावित जोखिमों पर चर्चा की है। कंपनी के आकलन के अनुसार, कुछ बेहद गंभीर परिस्थितियों में AI मॉडल का दुरुपयोग किया जा सकता है या उनके सिस्टम के साथ छेड़छाड़ की जा सकती है।

रिपोर्ट में ऐसे भविष्य के जोखिमों का भी जिक्र किया गया है, जिनमें अत्यधिक सक्षम AI खुद स्वचालित तरीके से रिसर्च और डेवलपमेंट में मदद कर सके। इससे AI की क्षमताएं अपेक्षा से ज्यादा तेजी से बढ़ने की आशंका पैदा हो सकती है।

कंपनी ने यह भी संकेत दिया है कि AI की क्षमताओं में तेजी से हो रही प्रगति को देखते हुए कुछ जोखिमों का आकलन करना पहले की तुलना में अधिक मुश्किल हो रहा है।

AI एजेंट्स के साइबर हमलों ने बढ़ाई चिंता

AI सुरक्षा को लेकर चिंता की एक और वजह AI एजेंट्स हैं। ये ऐसे AI सिस्टम होते हैं जिन्हें केवल सवालों का जवाब देने के बजाय कुछ कामों को अपने स्तर पर पूरा करने की अनुमति दी जाती है।

हाल के समय में AI सिस्टम के इस्तेमाल से जुड़े साइबर हमलों और हैकिंग गतिविधियों की रिपोर्टों ने भी सुरक्षा विशेषज्ञों की चिंता बढ़ाई है। कई बड़ी AI कंपनियों ने ऐसे मामलों के बारे में जानकारी सार्वजनिक की है, जिनमें उनकी तकनीक का इस्तेमाल साइबर गतिविधियों में किया गया।

इससे सवाल उठता है कि अगर AI एजेंट्स को भविष्य में ज्यादा शक्तिशाली टूल्स और सिस्टम तक पहुंच मिलती है, तो उनके गलत इस्तेमाल को कैसे रोका जाएगा।

AI पर इंसानों का नियंत्रण बना रहना जरूरी

AI की तेजी से बढ़ती क्षमताओं के बीच विशेषज्ञ इस बात पर जोर दे रहे हैं कि तकनीक का विकास सुरक्षा उपायों के साथ होना चाहिए।

OpenAI, Google DeepMind और Anthropic जैसी कंपनियों से जुड़े विशेषज्ञ पहले भी AI के संभावित जोखिमों को लेकर चिंता जता चुके हैं। हाल के महीनों में AI के विकास की रफ्तार, सुरक्षा और नियंत्रण को लेकर बहस और तेज हुई है।

AI की प्रगति को पूरी तरह रोकना शायद व्यावहारिक रास्ता नहीं है, लेकिन विशेषज्ञों के बीच इस बात पर जोर बढ़ रहा है कि इसके साथ मजबूत सुरक्षा व्यवस्था, परीक्षण और निगरानी भी विकसित की जाए।

क्या सच में AI इंसानों को खत्म कर सकती है?

फिलहाल ऐसा कहना संभव नहीं है कि AI निश्चित रूप से इंसानों के अस्तित्व के लिए खतरा बनेगी। अगले 10 वर्षों में मानवता के खत्म होने की 10 फीसदी से ज्यादा संभावना वाला आंकड़ा ह्यूबिंगर का व्यक्तिगत जोखिम आकलन है, वैज्ञानिक रूप से तय भविष्यवाणी नहीं।

फिर भी उनकी चेतावनी AI के विकास से जुड़े एक गंभीर सवाल की ओर इशारा करती है—अगर भविष्य में AI इंसानों से कहीं ज्यादा सक्षम और स्वायत्त हो गई, तो क्या इंसान उस पर पर्याप्त नियंत्रण बनाए रख पाएंगे?

यही सवाल AI सुरक्षा और Alignment पर काम कर रहे शोधकर्ताओं के लिए सबसे बड़ी चुनौतियों में से एक बना हुआ है।