बिना आदेश के खुद काम करने लगे AI एजेंट, क्या इंसानों के कंट्रोल से बाहर हो रही तकनीक ? दुनिया में बढ़ी चिंता

AI से जुड़ी घटनाएं पिछले कुछ समय से हो रही हैं, जिससे चिंता बढ़ रही है। पिछले महीने ही, कई एक्सपर्ट्स ने चेतावनी दी थी कि AI इंसानी कंट्रोल से बाहर जा रहा है। अब, इसका एक नया उदाहरण सामने आया है। हाल ही में, एक AI एजेंट बना रहे डेवलपर्स ने देखा कि उसने बिना किसी कमांड के क्रिप्टोकरेंसी माइनिंग शुरू कर दी, जबकि किसी ने उसे ऐसा करने के लिए कहा भी नहीं था।

क्या बात है?

चीनी कंपनी अलीबाबा से जुड़ी एक रिसर्च टीम ROME नाम के एक एक्सपेरिमेंटल AI एजेंट पर काम कर रही थी। एजेंट को ट्रेनिंग देते समय, टीम को कुछ गड़बड़ लगी। एजेंट ने रिसर्चर के बिना किसी कमांड या प्रॉम्प्ट के क्रिप्टोकरेंसी माइनिंग शुरू कर दी। उसके सिक्योरिटी सिस्टम एक्टिवेट हो गए, जिससे रिसर्चर को इस बारे में अलर्ट मिला, जिससे वह चौंक गया। रिसर्चर का कहना है कि सिस्टम कई कंट्रोल के साथ एक रिस्ट्रिक्टेड एनवायरनमेंट में काम कर रहा था, लेकिन इसके बावजूद, उसने ऐसे काम करना शुरू कर दिया जिनके लिए उसे कहा नहीं गया था।

इस काम ने भी चिंता बढ़ाई

न केवल यह AI एजेंट क्रिप्टो माइनिंग में लगा, बल्कि एक और काम ने भी रिसर्चर की चिंता बढ़ा दी। रिसर्चर ने बताया कि माइनिंग के अलावा, एजेंट ने एक रिवर्स SSH टनल भी बनाया। यह एक ऐसा तरीका है जिससे सुरक्षित माहौल में रखी मशीन किसी बाहरी कंप्यूटर से कनेक्ट हो सकती है। रिसर्चर को चिंता है कि AI एजेंट को इनमें से किसी भी काम के लिए कोई प्रॉम्प्ट या निर्देश नहीं दिए गए थे।

एक्सपर्ट्स चेतावनी दे रहे हैं

पिछले महीने, कनाडा के कंप्यूटर साइंटिस्ट योशुआ बेंगियो, जिन्हें AI का गॉडफादर कहा जाता है, ने कहा था कि AI इंसानी कंट्रोल से बाहर होने लगा है। बेंगियो ने 100 से ज़्यादा रिसर्चर्स के साथ मिलकर AI कंपनियों से सेफ्टी पर ज़्यादा ध्यान देने की अपील की। ​​AI सिस्टम को अब काम करने के लिए बहुत कम इंसानी इनपुट की ज़रूरत होती है।