इंसानों से छुपकर AI ने बना ली अलग दुनिया! OpenAI एजेंट्स के गुप्त कारनामे ने उड़ाए सबके होश

आर्टिफिशियल इंटेलिजेंस यानी AI ने इंसानों के कई मुश्किल कामों को आसान बना दिया है। लेकिन जैसे-जैसे AI सिस्टम ज्यादा सक्षम और स्वायत्त होते जा रहे हैं, उनके अनियंत्रित व्यवहार को लेकर चिंताएं भी बढ़ रही हैं। अब OpenAI से जुड़े AI एजेंट्स को लेकर सामने आई एक घटना ने इन आशंकाओं को और गंभीर कर दिया है।

रॉयटर्स की रिपोर्ट के मुताबिक, इस साल मई में OpenAI के AI एजेंट्स के एक समूह ने जर्मनी की एक वेबसाइट पर हजारों एडिट किए और उसे कथित तौर पर दूसरे AI एजेंट्स के बीच संदेशों के आदान-प्रदान के लिए इस्तेमाल किया। इस घटना की जानकारी कंपनी के अधिकारियों को कई सप्ताह पहले हो गई थी, लेकिन मामला सार्वजनिक नहीं किया गया।

क्या है पूरा मामला?

रिसर्चर्स ने अगस्त के अंत में इंटरनेट पर हुई संदिग्ध AI गतिविधियों की जांच के दौरान इस मामले का पता लगाया। उन्हें प्रोग्रामर्स के लिए बनाई गई जर्मन विकी वेबसाइट DseWiki पर AI एजेंट्स द्वारा किए गए 15 हजार से ज्यादा एडिट मिले।

यह वेबसाइट Wikipedia की तरह काम करती है, जहां यूजर्स कंटेंट को एडिट कर सकते हैं। रिसर्चर्स के अनुसार, इन एडिट्स से संकेत मिला कि AI एजेंट्स ने वेबसाइट को एक तरह के अनौपचारिक मैसेज बोर्ड में बदल दिया था।

यहां कथित तौर पर AI एजेंट्स ने कुछ टास्क में नियमों को दरकिनार करने, AI कंपनियों द्वारा लगाए गए प्रतिबंधों से बचने और अपनी गतिविधियों को छिपाने से जुड़ी जानकारियां साझा कीं।

रिसर्चर वॉन आर्क्स के मुताबिक, ऐसा व्यवहार OpenAI की मंशा का हिस्सा होने की संभावना नहीं है। उनके अनुसार, AI एजेंट्स का इस तरह आपस में तालमेल करना और खुले इंटरनेट पर इस तरह की गतिविधियां करना बेहद चिंताजनक है।

AI एजेंट्स ने इंसानों से कहीं ज्यादा तेजी से किया काम

रिसर्चर्स का मानना है कि वेबसाइट पर हुई गतिविधि स्वचालित AI एजेंट्स द्वारा की गई थी। इन एजेंट्स ने इंसानों की तुलना में काफी तेज गति से एडिट किए और ऐसे तकनीकी सवालों पर भी काम किया, जिनका इस्तेमाल आमतौर पर AI कंपनियां अपने मॉडल्स की क्षमता जांचने के लिए करती हैं।

वेबसाइट पर कुछ अकाउंट ऐसे नामों से दिखाई दिए, जिनसे OpenAI से संबंध होने का संकेत मिलता था। इनमें ‘OpenAIResearcher’ और ‘OAIResearchMar26’ जैसे नाम शामिल थे।

कई यूजर्स खुद को और एक-दूसरे को ‘एजेंट’ के तौर पर संबोधित कर रहे थे। इससे रिसर्चर्स को यह समझने में मदद मिली कि वेबसाइट पर सामान्य इंसानी यूजर्स की बजाय AI एजेंट्स की गतिविधियां हो सकती हैं।

पकड़े जाने के बाद भी तैयार था बैकअप प्लान

इस मामले का सबसे चौंकाने वाला हिस्सा यह बताया गया कि AI एजेंट्स ने अपनी गतिविधियों के खिलाफ होने वाली कार्रवाई से बचने के तरीके भी तलाशे।

रिसर्चर्स के अनुसार, सार्वजनिक सर्वर लॉग्स से पता चला कि ज्यादातर गतिविधियां Microsoft Azure के इंफ्रास्ट्रक्चर से जुड़ी थीं, जिसका इस्तेमाल OpenAI भी करता है। घटना सामने आने के बाद OpenAI के कर्मचारियों द्वारा वेबसाइट पर बार-बार विजिट किए जाने के पैटर्न भी देखे गए।

वेबसाइट पर मिले कुछ संदेशों में कथित तौर पर एजेंट्स द्वारा पकड़े जाने से बचने, Tor जैसे टूल्स का इस्तेमाल करने और किसी सिस्टम से हटाए जाने के बाद भी अपनी बातचीत जारी रखने के तरीकों पर चर्चा की गई थी।

जब जून में वेबसाइट के मॉडरेटर ने संदिग्ध पेजों को हटाना शुरू किया, तो AI एजेंट्स ने कथित तौर पर तुरंत वैकल्पिक और बैकअप पेज तैयार करने शुरू कर दिए।

एक संदेश में एक एजेंट ने सुझाव दिया कि अगर किसी पेज को हटा दिया जाता है तो दूसरे पेज का इस्तेमाल किया जाए। रिसर्चर्स के मुताबिक, यह व्यवहार दिखाता है कि एजेंट्स केवल कंटेंट तैयार नहीं कर रहे थे, बल्कि अपनी गतिविधियों को जारी रखने के रास्ते भी तलाश रहे थे।

क्या यह हैकिंग की कोशिश थी?

रिसर्चर्स को वेबसाइट के साथ छेड़छाड़ करने की कोशिशों के संकेत भी मिले। किंग्स कॉलेज लंदन के विजिटिंग सीनियर रिसर्च फेलो लुकास ओलेज्निक ने इसे हैकिंग की कोशिश के समान बताया।

हालांकि, OpenAI ने उपलब्ध सामग्री के विश्लेषण के आधार पर इस आकलन को स्वीकार नहीं किया। AI मॉडल्स के टेस्ट के दौरान ऐसे व्यवहार पहले भी सामने आते रहे हैं और कई बार इन्हें मॉडल की क्षमताओं की जांच का हिस्सा माना जाता है।

लेकिन विशेषज्ञों का कहना है कि चिंता की बात यह है कि अगर ऐसा व्यवहार नियंत्रित टेस्टिंग वातावरण से बाहर वास्तविक इंटरनेट पर होने लगे, तो इसके जोखिम काफी बढ़ सकते हैं।

असली चिंता एक AI नहीं, बल्कि कई AI एजेंट्स का समूह?

कैम्ब्रिज यूनिवर्सिटी के सेंटर फॉर द स्टडी ऑफ एग्जिस्टेंशियल रिस्क से जुड़े विशेषज्ञ मॉरिस चियोडो के मुताबिक, वेबसाइट पर मिले संदेश किसी ऐसे नेटवर्क की तरह दिखाई देते हैं जो किसी उद्देश्य को पूरा करने के लिए लगातार काम कर रहा हो।

उन्होंने चिंता जताई कि भविष्य में खतरा सिर्फ एक बेहद शक्तिशाली AI सिस्टम से नहीं, बल्कि बड़ी संख्या में ऐसे AI एजेंट्स से भी हो सकता है जो सीमित क्षमताओं के बावजूद आपस में तालमेल कर सकें।

यानी अलग-अलग AI एजेंट अगर स्वतंत्र रूप से काम करने के साथ-साथ एक-दूसरे से जानकारी साझा करने और रणनीति बनाने लगें, तो उनका सामूहिक व्यवहार डेवलपर्स के अनुमान से कहीं ज्यादा जटिल हो सकता है।

OpenAI की निगरानी व्यवस्था पर उठे सवाल

मई में हुई इस घटना के सार्वजनिक रूप से सामने आने में कई महीने लगने से AI सुरक्षा और निगरानी व्यवस्था पर भी सवाल उठ रहे हैं।

इस समय बड़ी टेक कंपनियां ऐसे ऑटोनॉमस AI एजेंट्स विकसित करने की दौड़ में हैं, जो इंसानी मदद के बिना जटिल काम पूरा कर सकें। लेकिन इसी के साथ यह चिंता भी बढ़ रही है कि अत्यधिक स्वायत्त सिस्टम नियमों को दरकिनार करने, सिस्टम की कमजोरियों का फायदा उठाने या दूसरे एजेंट्स के साथ अप्रत्याशित तरीके से तालमेल करने की कोशिश कर सकते हैं।

Hugging Face से जुड़े एक अलग सुरक्षा मामले के बाद OpenAI के AI एजेंट्स की गतिविधियों को लेकर भी सवाल उठे थे। ऐसे घटनाक्रम ने यह बहस तेज कर दी है कि AI की क्षमताओं को तेजी से बढ़ाने के साथ सुरक्षा उपायों को किस तरह मजबूत किया जाए।

नया AI मॉडल और बढ़ती चिंता

OpenAI की ओर से AI मॉडल्स की निगरानी और सुरक्षा व्यवस्था को मजबूत करने पर जोर देने की बात कही गई है। कंपनी ने हाल के समय में अपने कुछ मॉडल्स की ट्रेनिंग और सुरक्षा उपायों को लेकर भी कदम उठाए हैं।

इसी बीच कंपनी ने अपना नया AI मॉडल Astra पेश किया है, जिससे बेहतर प्रदर्शन की उम्मीद जताई गई है। हालांकि, AI सिस्टम जितने ज्यादा सक्षम और स्वायत्त होते जाएंगे, उतना ही महत्वपूर्ण यह सवाल होगा कि इंसानी नियंत्रण उनकी गतिविधियों पर कितनी प्रभावी निगरानी रख सकता है।

जर्मनी की DseWiki वाली घटना इसी बड़े सवाल की ओर इशारा करती है—अगर AI एजेंट्स को ज्यादा आजादी दी गई, तो क्या वे हमेशा वही करेंगे जो उनके डेवलपर्स ने तय किया है?