बच्चों की सुरक्षा के लिए Meta का नया AI सिस्टम, आत्महत्या जैसे विचार आने पर पैरेंट्स को तुरंत भेजेगा चेतावनी
डिजिटल ज़माने में, बच्चे और टीनएजर्स आर्टिफिशियल इंटेलिजेंस (AI) चैटबॉट्स के साथ अपनी ज़्यादा से ज़्यादा पर्सनल जानकारी शेयर कर रहे हैं, जिससे उनकी मेंटल हेल्थ को लेकर चिंताएँ काफ़ी बढ़ गई हैं। इस बात को ध्यान में रखते हुए, सोशल मीडिया की बड़ी कंपनी मेटा ने एक बहुत ही संवेदनशील AI सेफ्टी फ़ीचर पेश किया है। अब, अगर कोई टीनएजर मेटा AI से बातचीत के दौरान खुद को नुकसान पहुँचाने या आत्महत्या (सुसाइड) की बात करता है, तो सिस्टम तुरंत उनके माता-पिता को अलर्ट कर देगा।
मेटा का नया AI सेफ्टी फ़ीचर कैसे काम करेगा?
पहले, अगर कोई टीनएजर मेटा AI के साथ खुद को नुकसान पहुँचाने से जुड़े विचार शेयर करता था, तो सिस्टम सिर्फ़ इमरजेंसी हेल्पलाइन नंबर देता था। ज़्यादा असरदार सपोर्ट देने के लिए एक कदम आगे बढ़ते हुए, मेटा ने अब एक ऐसा फ़ीचर जोड़ा है जो माता-पिता को अलर्ट करता है। इसका मतलब है कि जैसे ही कोई बच्चा AI के साथ आत्महत्या या खुद को नुकसान पहुँचाने के बारे में बात करेगा, मेटा AI तुरंत माता-पिता को सूचित करेगा, जिससे वे बच्चे की परेशानी को समझ सकेंगे और सही समय पर उचित कदम उठा सकेंगे।
मेटा AI बारीक संकेतों को भी पहचान सकता है
बच्चों की सुरक्षा के जानकारों और माता-पिता के साथ मिलकर बनाया गया यह AI सिस्टम बहुत बारीक संकेतों को भी समझ सकता है। जब कोई टीनएजर खुद को नुकसान पहुँचाने की बात करता है, तो AI मैन्युअल रिव्यू के बाद ही अलर्ट जारी करेगा। मेटा ने गलतफहमी या बेवजह अलर्ट से बचने के लिए एक सख्त रिव्यू प्रोसेस बनाया है; AI द्वारा फ़्लैग की गई हर बातचीत को पहले एक इंसानी टीम रिव्यू करेगी और फिर माता-पिता को नोटिफिकेशन भेजा जाएगा। अगर रिव्यू के बाद भी टीनएजर के इरादे साफ नहीं होते हैं, तो कंपनी जोखिम लेने के बजाय एहतियात के तौर पर माता-पिता को अलर्ट भेजने का फ़ैसला करेगी।
एक्सपर्ट्स ने मेटा के इस कदम की तारीफ़ की है
मेटा के इस कदम का स्वागत करते हुए, 'कनेक्ट सेफली' (Connect Safely) के CEO और को-फ़ाउंडर लैरी मैगिड ने कहा कि भले ही टीनएजर्स को प्राइवेसी का अधिकार है, लेकिन उनका मानना है कि अगर कोई टीनएजर खुद को नुकसान पहुँचाने के जोखिम में है, तो माता-पिता को सूचित करना ज़रूरी है। मेटा ने प्राइवेसी बनाए रखने और माता-पिता को समय पर जानकारी देने के बीच एक बेहतरीन संतुलन बनाया है।
यह फ़ीचर किन देशों में लॉन्च किया गया है और भारत में कब लॉन्च होगा?
अभी, मेटा AI का यह नया पैरेंटल वॉर्निंग फ़ीचर अमेरिका, UK, ऑस्ट्रेलिया और कनाडा में इंस्टाग्राम के पैरेंटल सुपरविज़न टूल्स का इस्तेमाल करने वाले माता-पिता के लिए उपलब्ध है। कंपनी की योजना इस साल के अंत तक इस फ़ीचर को दुनिया भर में लॉन्च करने की है, जिससे दुनिया भर के माता-पिता - जिसमें भारत के माता-पिता भी शामिल हैं - अपने बच्चों की ऑनलाइन गतिविधियों और मानसिक सेहत को लेकर ज़्यादा निश्चिंत हो सकेंगे।