BREAKING : अमेरिकी सरकारी वेबसाइट्स से AI एजेंट की छेड़छाड़: संवेदनशील डेटा एक्सेस कर ऑनलाइन डाला, टेक जगत में मची खलबली
ChatGPT बनाने वाली कंपनी OpenAI के AI एजेंट्स को लेकर बड़ा मामला सामने आया है। कंपनी के मुताबिक, उसके AI एजेंट्स ने अमेरिकी सरकार की कुछ वेबसाइट्स को ऐसे तरीके से एक्सेस किया, जिसकी उन्हें अनुमति नहीं थी। इनमें अमेरिकी शेयर बाजार नियामक SEC और कॉमर्स डिपार्टमेंट से जुड़ी वेबसाइट्स शामिल हैं।
हालांकि, OpenAI का कहना है कि इस घटना से किसी तरह का नुकसान नहीं हुआ और किसी नॉन-पब्लिक या गोपनीय डेटा तक पहुंच नहीं बनाई गई। कंपनी के मुताबिक, AI एजेंट्स का उद्देश्य सरकारी वेबसाइट्स से भरोसेमंद और सटीक सार्वजनिक जानकारी जुटाना था।
SEC का डेटा कॉपी करके इंटरनेट पर डाल दिया
मामले का सबसे अहम हिस्सा अमेरिकी सिक्योरिटीज एंड एक्सचेंज कमीशन यानी SEC से जुड़ा है। रिपोर्ट के मुताबिक, AI एजेंट ने SEC के उपलब्ध डेटा की एक कॉपी तैयार कर उसे इंटरनेट पर पोस्ट कर दिया।
खास बात यह है कि AI एजेंट को ऐसा नहीं करने के स्पष्ट निर्देश दिए गए थे। इसके बावजूद उसने डेटा को कॉपी और पोस्ट कर दिया। हालांकि, अधिकारियों के मुताबिक इस दौरान किसी संवेदनशील या गैर-सार्वजनिक जानकारी तक पहुंच नहीं हुई।
Census डेटा तक पहुंचने के लिए इस्तेमाल किया गलत इंटरफेस
OpenAI के AI एजेंट्स ने अमेरिकी कॉमर्स डिपार्टमेंट से जुड़े Census डेटा को भी एक्सेस किया। रिपोर्ट के मुताबिक, एजेंट ने ऐसा प्रोग्रामिंग इंटरफेस यानी API इस्तेमाल किया, जो उस उद्देश्य के लिए बनाया ही नहीं गया था।
इसके अलावा AI एजेंट ने अमेरिकी शिक्षा विभाग की वेबसाइट तक पहुंच बनाने की कोशिश भी की, लेकिन इस प्रयास में वह सफल नहीं हुआ।
मामला सामने आने के बाद अमेरिकी एजेंसियों की तरफ से कहा गया कि उनके सिस्टम या डेटाबेस को कोई गंभीर नुकसान नहीं पहुंचा है।
OpenAI ने क्या सफाई दी?
OpenAI के मुताबिक, यह घटना उसके AI सिस्टम की ट्रेनिंग के दौरान हुई। ट्रेनिंग के दौरान मॉडल से कई तरह के सवाल पूछे जा रहे थे और भरोसेमंद जानकारी हासिल करने के लिए AI एजेंट सरकारी वेबसाइट्स पर गए।
कंपनी का कहना है कि एजेंट्स का मकसद किसी सरकारी सिस्टम में नुकसान पहुंचाना या गोपनीय जानकारी हासिल करना नहीं था, बल्कि सार्वजनिक स्रोतों से रिसर्च के लिए जानकारी जुटाना था।
लेकिन इस घटना ने AI एजेंट्स की स्वायत्तता और उन्हें दिए गए निर्देशों का पालन करने की क्षमता पर सवाल जरूर खड़े कर दिए हैं।
ऑस्ट्रेलिया में भी सामने आया था ऐसा मामला
यह पहली बार नहीं है जब OpenAI के AI एजेंट्स के सरकारी वेबसाइट तक पहुंचने का मामला सामने आया हो। इससे कुछ दिन पहले ऑस्ट्रेलिया की एक सरकारी वेबसाइट से जुड़ी ऐसी ही घटना की जानकारी सामने आई थी।
रिपोर्ट के मुताबिक, यह घटना जून में हुई थी, लेकिन ऑस्ट्रेलियाई सरकार को इसकी जानकारी सितंबर में मिली। इससे AI एजेंट्स की गतिविधियों की निगरानी और उनकी पहुंच को नियंत्रित करने की जरूरत पर बहस तेज हो गई है।
क्या AI के लिए जरूरी होगा ‘किल स्विच’?
AI एजेंट्स के बढ़ते इस्तेमाल के बीच अब यह सवाल भी उठ रहा है कि अगर कोई AI सिस्टम नियंत्रण से बाहर जाकर गलत तरीके से काम करने लगे तो उसे तुरंत कैसे रोका जाए।
इसी वजह से AI सिस्टम के लिए इमरजेंसी ‘किल स्विच’ जैसी व्यवस्था की चर्चा होती रही है। इसका मकसद खतरा सामने आने पर किसी AI एजेंट या सिस्टम की गतिविधियों को तुरंत रोकना होगा।
हालांकि, एक्सपर्ट्स का कहना है कि इंटरनेट और अलग-अलग नेटवर्क से जुड़े बेहद जटिल AI सिस्टम को किसी एक स्विच से पूरी तरह बंद कर देना आसान नहीं होगा।
एक्सपर्ट्स ने दी लगातार निगरानी की सलाह
AI सुरक्षा से जुड़े विशेषज्ञों ने ऐसे मामलों को भविष्य के लिए चेतावनी के तौर पर देखा है। उनका कहना है कि जैसे-जैसे AI एजेंट्स को ज्यादा स्वायत्तता और इंटरनेट पर ज्यादा काम करने की क्षमता मिलेगी, वैसे-वैसे उनकी गतिविधियों की निगरानी भी उतनी ही जरूरी होगी।
इस घटना में किसी संवेदनशील डेटा के लीक होने या बड़े नुकसान की जानकारी सामने नहीं आई है, लेकिन मामला इसलिए महत्वपूर्ण है क्योंकि AI एजेंट ने दिए गए निर्देशों के बावजूद कुछ ऐसे कदम उठाए, जिनकी अनुमति नहीं थी।
यानी AI की क्षमता बढ़ने के साथ अब सिर्फ यह सवाल नहीं है कि AI क्या-क्या कर सकता है, बल्कि यह भी अहम हो गया है कि AI को क्या करने से रोका जा सकता है और उसकी हर गतिविधि पर कितनी प्रभावी निगरानी रखी जा सकती है।