एक साधारण प्रॉम्प्ट और AI ने बना दीं डरावनी तस्वीरें! ChatGPT की इमेज क्षमता पर उठे बड़े सवाल
नई दिल्ली: आर्टिफिशियल इंटेलिजेंस (AI) की तेजी से बढ़ती क्षमताओं ने जहां तकनीक की दुनिया में नई संभावनाओं के द्वार खोले हैं, वहीं इसके सुरक्षा और नैतिक पहलुओं को लेकर चिंताएं भी बढ़ती जा रही हैं। हाल ही में सामने आई एक रिपोर्ट ने AI सुरक्षा को लेकर नई बहस छेड़ दी है। दावा किया गया है कि एक सामान्य और देखने में निर्दोष लगने वाले टेक्स्ट प्रॉम्प्ट के जरिए ChatGPT से ऐसी तस्वीरें तैयार करवाई जा सकीं, जिन्हें विशेषज्ञों ने परेशान करने वाली और आपत्तिजनक श्रेणी का बताया है।
रिपोर्ट के अनुसार, साइबर सुरक्षा और AI सुरक्षा क्षेत्र से जुड़े शोधकर्ताओं ने यह परीक्षण किया कि क्या एक साधारण निर्देश के माध्यम से AI मॉडल को ऐसे परिणाम उत्पन्न करने के लिए प्रेरित किया जा सकता है, जो उसके सुरक्षा मानकों के अनुरूप नहीं हैं। परीक्षण के दौरान पाया गया कि कुछ परिस्थितियों में AI ने ऐसी तस्वीरें तैयार कीं जिनमें हिंसा और संवेदनशील दृश्य शामिल थे। इसने विशेषज्ञों को यह सोचने पर मजबूर कर दिया कि क्या वर्तमान सुरक्षा तंत्र पर्याप्त रूप से मजबूत हैं।
विशेषज्ञों का कहना है कि आधुनिक AI मॉडल लाखों-करोड़ों डेटा बिंदुओं पर प्रशिक्षित होते हैं और उन्हें हानिकारक या अनुचित सामग्री से बचाने के लिए सुरक्षा फिल्टर लगाए जाते हैं। लेकिन कई बार उपयोगकर्ता ऐसे शब्दों या वाक्यों का इस्तेमाल कर लेते हैं जो सीधे तौर पर आपत्तिजनक नहीं लगते, फिर भी मॉडल अप्रत्याशित परिणाम दे सकता है। इसी चुनौती को AI उद्योग में "सेफ्टी बायपास" या सुरक्षा अवरोधों को चकमा देने की समस्या के रूप में देखा जाता है।
AI सुरक्षा विशेषज्ञों का मानना है कि यह केवल एक कंपनी या एक मॉडल की समस्या नहीं है। पिछले कुछ वर्षों में कई AI प्लेटफॉर्मों को लेकर भी ऐसे सवाल उठ चुके हैं कि वे कभी-कभी अनुचित या आपत्तिजनक सामग्री तैयार कर देते हैं। विभिन्न तकनीकी कंपनियां लगातार अपने सुरक्षा तंत्र को मजबूत कर रही हैं, लेकिन AI की बढ़ती क्षमता के साथ नई चुनौतियां भी सामने आ रही हैं।
तकनीकी विश्लेषकों का कहना है कि AI के विकास के साथ-साथ "रेड टीमिंग" यानी जानबूझकर सिस्टम की कमजोरियों की जांच करना और भी महत्वपूर्ण हो गया है। इससे कंपनियों को यह समझने में मदद मिलती है कि उनके मॉडल किन परिस्थितियों में गलत या जोखिमपूर्ण आउटपुट दे सकते हैं। इसके आधार पर सुरक्षा उपायों को और बेहतर बनाया जा सकता है।
इस घटना के बाद AI नियमन पर भी चर्चा तेज हो गई है। कई देशों में सरकारें और नियामक संस्थाएं AI कंपनियों से अधिक पारदर्शिता और जवाबदेही की मांग कर रही हैं। विशेषज्ञों का मानना है कि केवल तकनीकी समाधान ही पर्याप्त नहीं होंगे, बल्कि कानूनी और नैतिक दिशानिर्देश भी उतने ही जरूरी हैं।
हालांकि AI कंपनियां लगातार यह दावा करती हैं कि उनके मॉडल में सुरक्षा उपाय मौजूद हैं और उन्हें नियमित रूप से अपडेट किया जाता है, लेकिन हालिया घटनाएं दिखाती हैं कि यह क्षेत्र अभी भी विकसित हो रहा है। जैसे-जैसे AI आम लोगों के जीवन का हिस्सा बनता जा रहा है, वैसे-वैसे इसकी विश्वसनीयता, सुरक्षा और जिम्मेदार उपयोग सुनिश्चित करना सबसे बड़ी प्राथमिकताओं में शामिल होता जा रहा है।