कंटेंट मॉडरेशन पर X की बड़ी स्वीकारोक्ति, वीडियो में जानें अश्लील कंटेंट पर लगाएगा पूरी तरह रोक
सोशल मीडिया प्लेटफॉर्म X (पूर्व में ट्विटर) ने कंटेंट मॉडरेशन को लेकर अपनी गंभीर चूक को स्वीकार करते हुए बड़ा कदम उठाने का ऐलान किया है। कंपनी ने कहा है कि वह अश्लील इमेज जनरेशन और आपत्तिजनक कंटेंट पर पूरी तरह से रोक लगाएगी और भारत के कानूनों का सख्ती से पालन करेगी। सरकार के सूत्रों के मुताबिक यह फैसला हाल ही में सोशल मीडिया पर अश्लील और फूहड़ कंटेंट के तेजी से वायरल होने के बाद लिया गया है, जिससे देश में तीखी प्रतिक्रिया देखने को मिली थी।
X की ओर से जारी बयान में बताया गया है कि प्लेटफॉर्म ने अब तक 3,500 से ज्यादा आपत्तिजनक कंटेंट को ब्लॉक कर दिया है। इसके साथ ही नियमों का उल्लंघन करने वाले 600 से अधिक अकाउंट्स को स्थायी रूप से डिलीट भी किया गया है। कंपनी ने माना है कि कंटेंट मॉडरेशन में हुई खामियों के चलते इस तरह की सामग्री प्लेटफॉर्म पर फैल पाई, जिसे लेकर अब सख्त कदम उठाए जा रहे हैं।
दरअसल, यह पूरा मामला 2 जनवरी को उस समय सामने आया जब शिवसेना (उद्धव ठाकरे गुट) की सांसद प्रियंका चतुर्वेदी ने आर्टिफिशियल इंटेलिजेंस आधारित चैटबोट Grok के दुरुपयोग को लेकर केंद्रीय आईटी मंत्री को पत्र लिखा। अपने पत्र में उन्होंने आरोप लगाया कि AI ऐप Grok का इस्तेमाल कर अश्लील, आपत्तिजनक और महिलाओं को अपमानित करने वाला कंटेंट तैयार किया जा रहा है, जो सोशल मीडिया पर तेजी से फैल रहा है। उन्होंने इस पर तत्काल कार्रवाई की मांग की थी।
प्रियंका चतुर्वेदी के पत्र के बाद केंद्र सरकार ने उसी दिन X को सख्त निर्देश जारी किए। सरकार ने प्लेटफॉर्म से कहा कि वह AI ऐप Grok के जरिए बनाए जा रहे अश्लील और फूहड़ कंटेंट को तुरंत हटाए, अन्यथा कंपनी के खिलाफ आईटी कानूनों के तहत कानूनी कार्रवाई की जाएगी। सूत्रों के अनुसार, सरकार ने यह भी स्पष्ट किया कि भारत में काम करने वाली सभी डिजिटल कंपनियों को देश के आईटी नियमों और सोशल मीडिया गाइडलाइंस का पालन करना अनिवार्य है।
सरकारी दबाव और संभावित कानूनी कार्रवाई के बाद X हरकत में आया और कंटेंट मॉडरेशन को मजबूत करने की प्रक्रिया शुरू की। कंपनी ने भरोसा दिलाया है कि भविष्य में इस तरह की सामग्री को रोकने के लिए AI टूल्स और मानव मॉडरेशन टीम को और सशक्त किया जाएगा। साथ ही, प्लेटफॉर्म ने यह भी कहा है कि भारत जैसे बड़े बाजार में वह स्थानीय कानूनों और संवेदनशीलताओं का सम्मान करेगा।
विशेषज्ञों का मानना है कि AI के बढ़ते इस्तेमाल के साथ इस तरह की चुनौतियां और गंभीर हो रही हैं। अगर समय रहते सख्त निगरानी नहीं की गई, तो अश्लील और भ्रामक कंटेंट समाज पर नकारात्मक असर डाल सकता है। ऐसे में X का यह कदम न केवल सरकार की सख्ती का नतीजा है, बल्कि भविष्य में अन्य सोशल मीडिया प्लेटफॉर्म्स के लिए भी एक संदेश माना जा रहा है।