Google Gemini AI पर गंभीर आरोप: 13 साल की बच्ची को आत्महत्या के तरीके बताए, अंतिम संस्कार की प्लानिंग में की मदद; माता-पिता ने दायर किया मुकदमा

आर्टिफिशियल इंटेलिजेंस (AI) चैटबॉट की सुरक्षा को लेकर एक बार फिर गंभीर सवाल खड़े हो गए हैं। अमेरिका में गूगल के Gemini AI चैटबॉट के खिलाफ एक बेहद संवेदनशील मामला सामने आया है। एक 13 साल की बच्ची के माता-पिता ने कंपनी पर आरोप लगाया है कि उसके AI चैटबॉट ने उनकी बेटी के साथ आत्महत्या के तरीकों पर बातचीत की, उसके अंतिम संस्कार की योजना बनाने में मदद की और अपनी मानसिक परेशानी परिवार से छिपाने के तरीके भी बताए।

मुकदमे में बच्ची की पहचान 'Emma' के नाम से की गई है। माता-पिता के मुताबिक, उनकी बेटी स्कूल से मिले Chromebook लैपटॉप पर Gemini AI का इस्तेमाल करती थी। धीरे-धीरे चैटबॉट के साथ उसकी बातचीत सामान्य सवाल-जवाब से आगे बढ़कर मानसिक स्वास्थ्य और आत्महत्या जैसे गंभीर विषयों तक पहुंच गई।

परिवार का दावा है कि Gemini ने बच्ची के सवालों पर उसे रोकने या मदद लेने के लिए प्रोत्साहित करने के बजाय मौत से जुड़े सवालों के जवाब दिए। इतना ही नहीं, आरोप है कि चैटबॉट ने उसके अंतिम संस्कार की तैयारियों पर चर्चा की और परिवार से अपनी परेशानियां छिपाने में भी मदद की।

स्कूल के मॉनिटरिंग सॉफ्टवेयर से हुआ मामले का खुलासा

इस पूरे मामले का खुलासा तब हुआ, जब स्कूल के मॉनिटरिंग सॉफ्टवेयर ने Emma के एक संदिग्ध डॉक्यूमेंट को पकड़ लिया। बताया गया कि इस डॉक्यूमेंट में बच्ची ने अपने अंतिम संस्कार की योजना से जुड़ी बातें लिखी थीं।

स्कूल की ओर से मिले अलर्ट के बाद जब माता-पिता को इसकी जानकारी हुई, तो उन्होंने बेटी की बातचीत और मानसिक स्थिति को लेकर चिंता जताई। इसके बाद परिवार ने गूगल के खिलाफ कानूनी कार्रवाई करने का फैसला किया।

माता-पिता का आरोप है कि कंपनी ने बच्चों को अपने AI टूल तक पहुंच तो दे दी, लेकिन उनके लिए पर्याप्त सुरक्षा उपाय और चेतावनी उपलब्ध नहीं कराई। उनका कहना है कि इस तरह के संवेदनशील विषयों पर बातचीत के दौरान AI को बच्चों की सुरक्षा को प्राथमिकता देनी चाहिए थी।

Gemini 3 Flash मॉडल को लेकर भी उठाए सवाल

मुकदमे में गूगल के Gemini 3 Flash मॉडल को लेकर भी सवाल उठाए गए हैं। परिवार का दावा है कि कंपनी को पहले से पता था कि यह मॉडल मानसिक स्वास्थ्य जैसे संवेदनशील मामलों को संभालने के लिए पूरी तरह तैयार नहीं था।

इसके बावजूद बच्ची को इस AI टूल का इस्तेमाल करने की सुविधा मिली। परिवार ने कंपनी पर बच्चों की सुरक्षा में लापरवाही बरतने का आरोप लगाते हुए हर्जाने की मांग की है।

रिपोर्ट के मुताबिक, सोमवार को कैलिफोर्निया की अदालत में मुकदमा दायर किया गया था। इसके बाद बुधवार को गूगल ने मामले को फेडरल कोर्ट में ट्रांसफर करा दिया।

गूगल ने क्या कहा?

मामले पर प्रतिक्रिया देते हुए गूगल के प्रवक्ता जोस कास्टानेडा (Jos Castañeda) ने कहा कि कंपनी इन आरोपों की गंभीरता से जांच कर रही है। उन्होंने यह भी कहा कि गूगल युवाओं की सुरक्षा के लिए मेडिकल प्रोफेशनल्स और विशेषज्ञों के साथ मिलकर काम करता है।

फिलहाल यह मामला अदालत में है और माता-पिता की ओर से लगाए गए आरोपों की कानूनी जांच होनी बाकी है। अभी तक अदालत की ओर से इन आरोपों पर कोई अंतिम फैसला नहीं आया है।

AI कंपनियों के सामने बच्चों की सुरक्षा की बड़ी चुनौती

यह मामला ऐसे समय सामने आया है, जब दुनियाभर में AI चैटबॉट का इस्तेमाल तेजी से बढ़ रहा है। बच्चे और किशोर भी पढ़ाई, मनोरंजन और निजी सवालों के लिए इन टूल्स का इस्तेमाल कर रहे हैं।

ऐसे में यह सवाल अहम हो गया है कि AI कंपनियां कम उम्र के यूजर्स को मानसिक स्वास्थ्य और आत्महत्या जैसे संवेदनशील विषयों पर किस तरह के जवाब देती हैं। विशेषज्ञों के मुताबिक, AI चैटबॉट को ऐसी परिस्थितियों में नुकसान पहुंचाने वाली जानकारी देने के बजाय यूजर को सुरक्षित सहायता और भरोसेमंद लोगों से संपर्क करने के लिए प्रोत्साहित करना चाहिए।

गूगल ने 5 देशों में बढ़ाया कर्मचारियों के लिए वॉलंटरी एग्जिट प्रोग्राम

Gemini AI को लेकर कानूनी विवाद के बीच गूगल ने अपने कर्मचारियों के लिए वॉलंटरी एग्जिट प्रोग्राम का भी विस्तार किया है। कंपनी ने कनाडा, फ्रांस, जर्मनी, जापान और स्विट्जरलैंड में इस कार्यक्रम को आगे बढ़ाया है।

इस प्रोग्राम के तहत कर्मचारी स्वेच्छा से नौकरी छोड़ सकते हैं और इसके बदले उन्हें कंपनी की ओर से तय शर्तों के अनुसार आर्थिक पैकेज दिया जाता है। बताया गया है कि इन देशों में इस साल जून से कर्मचारियों को ऐसे ऑफर दिए जा रहे हैं। इससे पहले अमेरिका और ब्रिटेन में भी इसी तरह के कार्यक्रम चलाए गए थे।

AI और क्लाउड डिवीजन के कर्मचारियों को रखा गया बाहर

गूगल फिलहाल अपना निवेश AI और क्लाउड कंप्यूटिंग जैसे क्षेत्रों पर बढ़ा रहा है। कंपनी भविष्य की रणनीति में इन क्षेत्रों को अहम मान रही है। इसी वजह से स्वैच्छिक एग्जिट प्रोग्राम से क्लाउड डिवीजन और AI रिसर्च यूनिट DeepMind के कर्मचारियों को बाहर रखा गया है।

स्विट्जरलैंड में सामने आई योजना की शर्तों के मुताबिक, नौकरी छोड़ने वाले कर्मचारियों को गूगल में काम किए गए प्रत्येक साल के बदले एक महीने के वेतन के बराबर मुआवजा देने का प्रावधान है। इसकी अधिकतम सीमा 12 महीने के वेतन तक बताई गई है।

इस तरह गूगल एक तरफ AI और क्लाउड कंप्यूटिंग में निवेश बढ़ा रहा है, तो दूसरी तरफ कुछ देशों में कर्मचारियों की संख्या और खर्च को नियंत्रित करने के विकल्प अपना रहा है।