इंस्टाग्राम के एल्गोरिदम में बड़ा बदलाव: अब फीड और एक्सप्लोर में कम दिखेंगे अश्लील व हिंसक पोस्ट, AI से होगी कंटेंट की छंटनी
सोशल मीडिया प्लेटफॉर्म Instagram ने भारत में अपने कंटेंट रिकमेंडेशन सिस्टम में बड़ा बदलाव किया है। अब यूजर्स को प्लेटफॉर्म पर अश्लील, हिंसक और आपत्तिजनक पोस्ट पहले के मुकाबले कम दिखाई देंगी। इसके लिए कंपनी ने आर्टिफिशियल इंटेलिजेंस (AI) के नए और एडवांस मॉडल लागू किए हैं। ये मॉडल आपत्तिजनक कंटेंट की पहचान करके उसे यूजर्स तक पहुंचने से पहले ही रिकमेंडेशन से बाहर कर देंगे।
इस बदलाव का सबसे ज्यादा असर इंस्टाग्राम के Reels, Explore और Feed सेक्शन में देखने को मिलेगा। खास बात यह है कि अब यूजर्स की शिकायत का इंतजार किए बिना AI सिस्टम खुद ही उन पोस्ट की जांच करेगा, जिन्हें यूजर फॉलो नहीं करता है।
AI खुद पहचानेगा आपत्तिजनक कंटेंट
इंस्टाग्राम के नए सिस्टम में AI मॉडल की मदद से पोस्ट, वीडियो और अन्य सामग्री की निगरानी की जाएगी। अगर कोई कंटेंट प्लेटफॉर्म के तय सुरक्षा मानकों के खिलाफ पाया जाता है, तो उसे रिकमेंडेशन में शामिल नहीं किया जाएगा।
इसका मकसद यूजर्स को ऐसा कंटेंट दिखाने से रोकना है, जो अश्लील, हिंसक या अनुचित हो सकता है। कंपनी का प्रयास है कि यूजर्स को उनकी पसंद के साथ-साथ सुरक्षित डिजिटल अनुभव भी मिले।
सरकार की एडवाइजरी के बाद हुआ बदलाव
इंस्टाग्राम का यह कदम ऐसे समय आया है, जब भारत सरकार सोशल मीडिया प्लेटफॉर्म पर दिखाई जाने वाली सामग्री को लेकर सख्त रुख अपना रही है।
10 अक्टूबर को सरकार ने Meta को एडवाइजरी जारी कर Instagram और Facebook के कंटेंट रिकमेंडेशन सिस्टम और एल्गोरिदम की समीक्षा करने के लिए कहा था। सरकार की चिंता थी कि सोशल मीडिया प्लेटफॉर्म पर आपत्तिजनक सामग्री यूजर्स तक आसानी से पहुंच रही है।
यूजर्स खुद भी कंटेंट को कर सकेंगे कंट्रोल
इंस्टाग्राम ने यूजर्स को अपनी पसंद के अनुसार कंटेंट नियंत्रित करने के लिए कई विकल्प भी दिए हैं।
-
Not Interested: किसी पोस्ट में रुचि नहीं होने पर इस विकल्प से उसी तरह का कंटेंट कम किया जा सकता है।
-
Sensitive Content Control: इसके जरिए यूजर्स संवेदनशील सामग्री को सीमित कर सकते हैं।
-
Hidden Words: इस फीचर से आपत्तिजनक शब्दों, कमेंट्स और मैसेज को फिल्टर किया जा सकता है।
इन विकल्पों की मदद से यूजर्स अपने इंस्टाग्राम अकाउंट पर दिखाई देने वाले कंटेंट को काफी हद तक नियंत्रित कर सकते हैं।
किशोरों के लिए अलग सुरक्षा व्यवस्था
Instagram ने कम उम्र के यूजर्स की सुरक्षा के लिए Teen Accounts की सुविधा भी शुरू की है। इसके तहत किशोरों को उम्र के हिसाब से कंटेंट दिखाया जाता है। 13+ कंटेंट सेटिंग के जरिए संवेदनशील सामग्री को सीमित करने और अतिरिक्त सुरक्षा नियम लागू करने की व्यवस्था की गई है।
Meta का कहना है कि यूजर्स से मिलने वाले फीडबैक के आधार पर AI सिस्टम को लगातार बेहतर बनाया जाएगा, ताकि प्लेटफॉर्म पर सुरक्षित माहौल तैयार किया जा सके।
बच्चों से जुड़े आपत्तिजनक विज्ञापनों को लेकर भी हुआ था विवाद
इससे पहले Instagram और Meta बच्चों के यौन शोषण से जुड़े आपत्तिजनक कंटेंट और विज्ञापनों को लेकर विवादों में आ चुके हैं। BBC की एक इन्वेस्टिगेटिव रिपोर्ट में दावा किया गया था कि Instagram पर भारत में बच्चों के यौन शोषण से जुड़े विज्ञापन दिखाए जा रहे थे।
इसके बाद IT मंत्रालय ने Meta को नोटिस जारी कर ऐसे विज्ञापनों और कंटेंट को तुरंत ब्लॉक करने और हटाने के निर्देश दिए थे। कंपनी से इस मामले में जवाब भी मांगा गया था।
इससे पहले 1 जुलाई को सरकार ने WhatsApp के यूजरनेम फीचर को लेकर भी Meta को नोटिस भेजा था।
सोशल मीडिया पर कंटेंट मॉडरेशन को लेकर बढ़ी सख्ती
Instagram के नए AI सिस्टम को भारत में सोशल मीडिया सुरक्षा की दिशा में एक महत्वपूर्ण बदलाव माना जा रहा है। अब प्लेटफॉर्म को केवल यूजर्स की शिकायतों पर निर्भर रहने के बजाय खुद भी आपत्तिजनक सामग्री की पहचान करनी होगी।
हालांकि, नए सिस्टम की असली सफलता इस बात पर निर्भर करेगी कि AI कितनी सटीकता से गलत कंटेंट को पहचान पाता है और सामान्य पोस्ट को गलती से रिकमेंडेशन से बाहर होने से बचा पाता है।