Elon Musk की कंपनियों को झटका, अब इंडोनेशिया के बाद इस देश ने भी ग्रोक ऐप पर लगाया प्रतिबन्ध
एलन मस्क के AI चैटबॉट ग्रोक को बिकिनी इमेज बनाने के ट्रेंड की वजह से बड़ी चुनौतियों का सामना करना पड़ रहा है। कई देशों की कार्रवाई के बीच, इसे दो देशों में बैन कर दिया गया है। इंडोनेशिया पहला देश था जिसने बैन लगाया, और अब मलेशिया ने भी ऐसा ही किया है। पिछले कुछ दिनों से, यह चैटबॉट असली लोगों की बिना सहमति के आपत्तिजनक तस्वीरें बना रहा था, जिसकी दुनिया भर में कड़ी आलोचना हुई है।
किसी AI चैटबॉट पर पहला बैन
इंडोनेशिया और मलेशिया दोनों सरकारों ने आपत्तिजनक डीपफेक इमेज बनाने की चिंताओं का हवाला देते हुए चैटबॉट पर बैन लगा दिया। यह पहली बार है जब किसी देश में इस चैटबॉट पर बैन लगाया गया है। कई अन्य देशों ने भी ग्रोक की पेरेंट कंपनी को चेतावनी दी है, जिसमें कहा गया है कि ऐसा कंटेंट स्वीकार्य नहीं है और चैटबॉट पर सख्त कंट्रोल की ज़रूरत है। शनिवार को, इंडोनेशिया ने चैटबॉट पर अस्थायी बैन की घोषणा की, और रविवार को मलेशिया ने भी ऐसा ही किया। दोनों देशों ने कहा कि एलन मस्क के सोशल मीडिया प्लेटफॉर्म X पर असली लोगों की AI-जेनरेटेड डीपफेक इमेज शेयर की जा रही थीं।
इस समस्या से निपटने के लिए X ने क्या कदम उठाए हैं?
ग्रोक को X पर सीधे टैग किया जा सकता है, जिसके बाद यह प्रॉम्प्ट के आधार पर जवाब देता है। यह अपलोड की गई तस्वीरों को एडिट भी करता था। इस फीचर के ज़रिए, लोग सोशल मीडिया पर लोगों की तस्वीरों को एडिट कर रहे थे, उनके कपड़े हटा रहे थे। आलोचना के बाद, X ने ग्रोक की इमेज एडिटिंग क्षमताओं को केवल पेड सब्सक्राइबर तक सीमित कर दिया है। इसका मतलब है कि X पर ग्रोक के ज़रिए इमेज एडिटिंग अब फ्री नहीं होगी। केवल पेड यूज़र ही X पर ग्रोक को टैग कर पाएंगे और उससे इमेज बनवा पाएंगे। हालांकि, ग्रोक के ऐप और वेबसाइट पर इमेज बनाना अभी भी फ्री में उपलब्ध होगा। कंपनी ने यह खुलासा नहीं किया है कि वहां कितने टेक्निकल सेफगार्ड लगाए गए हैं।