AI Danger Zone: 50% तक गलत हो सकती है चैटबॉट की सलाह, इन टॉपिक्स पर सवाल पूछना पड़ सकता है भारी
हाल के समय में AI चैटबॉट का इस्तेमाल तेज़ी से बढ़ा है। लोग छुट्टी की अर्ज़ी लिखने से लेकर मेडिकल बीमारियों के इलाज तक, हर चीज़ के लिए इन चैटबॉट का सहारा ले रहे हैं। हालाँकि ये चैटबॉट आम इस्तेमाल के लिए ठीक हैं, लेकिन इनसे मेडिकल सलाह लेते समय सावधानी बरतनी चाहिए। हाल ही में हुई एक स्टडी से पता चला है कि ये चैटबॉट मेडिकल सलाह देने के लिए बिल्कुल भी सही नहीं हैं; इनके आधे जवाब या तो गलत होते हैं या गुमराह करने वाले। 50% मामलों में, ये यूज़र्स को गलत सलाह दे सकते हैं। यह स्टडी लोगों को इस नई टेक्नोलॉजी से जुड़े संभावित खतरों के बारे में चेतावनी देती है।
मेडिकल सलाह के लिए AI चैटबॉट पर भरोसा न करें
इस स्टडी में, अमेरिका, कनाडा और UK के रिसर्चर्स ने पाँच मशहूर AI चैटबॉट—ChatGPT, Gemini, Meta AI, Grok और DeepSeek—से पाँच अलग-अलग कैटेगरी में 10-10 सवाल पूछे। कुल मिले जवाबों में से 50% को "समस्याग्रस्त" माना गया, जबकि 20% को "बहुत ज़्यादा समस्याग्रस्त" बताया गया। दूसरे शब्दों में, ये जवाब ऐसे थे जिन पर यूज़र्स सुरक्षित रूप से भरोसा नहीं कर सकते। स्टडी से पता चला कि बंद-छोर वाले सवालों (closed-ended prompts) और वैक्सीन व कैंसर से जुड़े सवालों के जवाब देने में इन चैटबॉट का प्रदर्शन काफ़ी अच्छा रहा; हालाँकि, खुले-छोर वाले सवालों—साथ ही स्टेम सेल और पोषण से जुड़े सवालों—के जवाब देने में इनका प्रदर्शन काफ़ी खराब रहा।
रेफरेंस लिस्ट की कमी भी देखी गई
रिसर्चर्स ने पाया कि हालाँकि चैटबॉट ने पूरे आत्मविश्वास और निश्चितता के साथ सवालों के जवाब दिए, लेकिन किसी भी चैटबॉट ने अपने जवाबों के समर्थन में रेफरेंस की कोई पूरी या सही लिस्ट नहीं दी। इसके अलावा, सिर्फ़ Meta AI ने दो सवालों के जवाब देने से मना कर दिया, जबकि बाकी सभी चैटबॉट ने हर सवाल का जवाब दिया। इस स्टडी के नतीजे खास तौर पर चिंताजनक हैं, क्योंकि लोग मेडिकल सलाह लेने के लिए इन चैटबॉट का इस्तेमाल तेज़ी से कर रहे हैं—इसके बावजूद कि ये टूल न तो ऐसी सलाह देने के लिए बनाए गए थे और न ही इनमें मेडिकल बीमारियों का पता लगाने की क्षमता है।
कंपनियाँ AI चैटबॉट में हेल्थ टूल जोड़ रही हैं
AI चैटबॉट की बढ़ती लोकप्रियता ने उन्हें लोगों के लिए मेडिकल सलाह का एक ज़रिया बना दिया है। OpenAI ने बताया कि हर हफ़्ते 20 करोड़ से ज़्यादा लोग ChatGPT से सेहत और तंदुरुस्ती से जुड़े सवाल पूछते हैं। इसे देखते हुए, कंपनी ने जनवरी में ChatGPT में एक हेल्थ टूल पेश किया। इसके बाद, Anthropic और Microsoft जैसी कंपनियों ने भी अपने चैटबॉट में इसी तरह के टूल शामिल किए हैं।