जानिए क्या है ‘AI माइक्रोस्कोप’, दिमाग में झांकने की हो रही कोशिश

क्या AI सोच भी सकता है? यह प्रश्न लंबे समय से वैज्ञानिकों को परेशान कर रहा है। जब हम AI चैटबॉट से बात करते हैं, तो वह कैसे प्रतिक्रिया देता है? क्या वह सचमुच सोचता है या सिर्फ शब्दों को जोड़कर उत्तर बनाता है? एंथ्रोपिक नामक एक एआई कंपनी ने इस रहस्य को सुलझाने की दिशा में एक बड़ी सफलता हासिल की है। उन्होंने एक अनोखा 'एआई माइक्रोस्कोप' विकसित किया है, जिससे अब यह समझना संभव हो सकेगा कि एआई मॉडल के अंदर क्या चल रहा है। यह खोज न केवल एआई को पारदर्शी बनाएगी बल्कि इसे अधिक सुरक्षित और भरोसेमंद भी बनाएगी।

New Anthropic research: Tracing the thoughts of a large language model.

We built a "microscope" to inspect what happens inside AI models and use it to understand Claude’s (often complex and surprising) internal mechanisms. pic.twitter.com/PboGlLFnHG

— Anthropic (@AnthropicAI) March 27, 2025

एंथ्रोपिक का नया 'एआई माइक्रोस्कोप' बड़े भाषा मॉडल के पीछे की सोच को उजागर करेगा

एआई स्टार्टअप एंथ्रोपिक ने एक नई तकनीक बनाई है जो यह समझने में मदद कर सकती है कि बड़े भाषा मॉडल (एलएलएम) वास्तव में कैसे काम करते हैं। यह वही कंपनी है जिसने क्लाउड चैटबॉट बनाया था। एंथ्रोपिक का कहना है कि उन्होंने एक 'एआई माइक्रोस्कोप' विकसित किया है जो यह पता लगाने में मदद करेगा कि ये एआई मॉडल कैसे सोचते हैं। यह तकनीक तंत्रिका विज्ञान से प्रेरित है और यह समझने में मदद कर सकती है कि भाषा मॉडल सूचना को किस प्रकार संसाधित करते हैं तथा उनके दिमाग में क्या चल रहा है। कंपनी के अनुसार, अगर हम यह समझ लें कि क्लाउड जैसे एआई मॉडल कैसे काम करते हैं, तो उन्हें अधिक सटीक और विश्वसनीय बनाया जा सकता है। इससे यह भी सुनिश्चित होगा कि वे ठीक उसी तरह काम करेंगे जैसा हम उनसे अपेक्षा करते हैं।

एआई माइक्रोस्कोप एलएलएम को समझने में मदद करेगा

बड़े भाषा मॉडल (एलएलएम) को अक्सर 'ब्लैक बॉक्स' कहा जाता है, क्योंकि वैज्ञानिक अभी तक पूरी तरह से यह नहीं समझ पाए हैं कि ये एआई मॉडल बिना किसी निश्चित प्रोग्रामिंग के किसी विशिष्ट उत्तर पर कैसे पहुंचते हैं। एआई भ्रम, फाइन-ट्यूनिंग और जेलब्रेकिंग जैसी समस्याएं अभी भी रहस्य बनी हुई हैं। लेकिन एंथ्रोपिक की यह नई खोज एआई मॉडल के काम करने के तरीके को अधिक स्पष्ट और समझने योग्य बना सकती है। कंपनी ने कहा कि उन्होंने 'एआई बायोलॉजी' पर दो नए वैज्ञानिक शोध पत्र प्रकाशित किए हैं। पहला शोध यह बताता है कि क्लाउड उपयोगकर्ता के प्रश्नों के उत्तर कैसे तैयार करता है, जबकि दूसरा शोध यह बताता है कि क्लाउड 3.5 हाइकू मॉडल के अंदर क्या होता है। इस नई तकनीक की मदद से एआई को अधिक पारदर्शी, समझने योग्य और भरोसेमंद बनाया जा सकेगा।

एआई मॉडल की तर्क प्रक्रिया और खोजे गए प्रमुख बिंदु

एंथ्रोपिक ने ‘क्रॉस-लेयर ट्रांसकोडर’ (सीएलटी) नामक एक नया मॉडल बनाया है। यह मॉडल तंत्रिका नेटवर्क के विभिन्न भागों को समझने में मदद करता है जो एआई के मस्तिष्क की तरह काम करता है। शोधकर्ताओं ने पाया कि जब क्लाउड को कविता लिखने के लिए कहा जाता है, तो वह सबसे पहले तुकांत शब्दों को चुनता है और फिर उन्हें वाक्यों में ढाल देता है। एक और आश्चर्यजनक बात जो प्रकाश में आई वह यह थी कि कभी-कभी ऐसा प्रतीत होता था कि क्लाउड गणितीय समस्याओं को सोच-समझकर हल कर रहा है, जबकि वास्तव में वह ऐसा नहीं कर रहा होता। इसका मतलब यह है कि यह गलत तर्क प्रक्रियाएं भी पैदा कर सकता है। इस खोज से पता चलता है कि ओपनएआई जैसी कंपनियों की 'चेन ऑफ थॉट' तकनीक और रीजनिंग एआई मॉडल पूरी तरह विश्वसनीय नहीं हो सकते। इसका मतलब यह है कि एआई हमेशा सही ढंग से नहीं सोचता है, लेकिन कभी-कभी ऐसा प्रतीत होता है कि वह सोच-समझकर प्रतिक्रिया दे रहा है, जबकि वास्तव में ऐसा नहीं होता है।

एआई माइक्रोस्कोप की सीमाएं और आगे का रास्ता

एंथ्रोपिक ने यह भी स्वीकार किया कि इस शोध में कुछ कमियां हैं। कंपनी ने कहा कि उसकी तकनीक सिर्फ एक अनुमान है और क्लाउड जैसे जटिल एआई मॉडल की संपूर्ण विचार प्रक्रिया की व्याख्या नहीं कर सकती। इसके अलावा, कुछ न्यूरॉन्स (एआई के मस्तिष्क के छोटे हिस्से) भी हो सकते हैं जो इस तकनीक द्वारा कैप्चर नहीं किए जाते हैं लेकिन फिर भी क्लाउड की प्रतिक्रियाओं को प्रभावित कर सकते हैं। एंथ्रोपिक के अनुसार, जब एआई को छोटे और आसान प्रश्न दिए जाते हैं, तब भी यह तकनीक गणना के कुछ हिस्सों को ही समझ पाती है। कुछ चीजें वास्तविक मॉडल की चिंतन प्रक्रिया को सटीक रूप से प्रतिबिंबित नहीं कर सकती हैं। लेकिन इसके बावजूद, यह नई तकनीक एआई को अधिक सुरक्षित और विश्वसनीय बनाने में मदद कर सकती है।

एन्थ्रोपिक और क्लाउड क्या हैं?

एंथ्रोपिक पीबीसी एक अमेरिकी कंपनी है जो आर्टिफिशियल इंटेलिजेंस (एआई) पर काम करती है। इसकी शुरुआत 2021 में हुई थी। यह कंपनी बड़े भाषा मॉडल (एलएलएम) बनाती है जो इंसानों की तरह सवालों के जवाब दे सकते हैं। इसका AI मॉडल, जिसका नाम क्लाउड है, ओपनAI के चैटजीपीटी और गूगल के जेमिनी के साथ प्रतिस्पर्धा करता है। एंथ्रोपिक का लक्ष्य सुरक्षित और भरोसेमंद एआई बनाना है। यह कंपनी ऐसे AI मॉडल बनाती है जो पारदर्शी होते हैं और मनुष्यों द्वारा सुरक्षित रूप से उपयोग किए जा सकते हैं। आजकल एआई तेजी से आगे बढ़ रहा है लेकिन इसके खतरों को लेकर चिंता भी बढ़ रही है। कई विशेषज्ञों का मानना ​​है कि यदि एआई को सही तरीके से नहीं संभाला गया तो यह भविष्य में समस्याएं पैदा कर सकता है। इस कारण से, एंथ्रोपिक ऐसी तकनीक पर काम कर रहा है जो एआई को नैतिक और भरोसेमंद बनाती है। इस कंपनी का शोध यह सुनिश्चित करता है कि एआई न केवल तेज़ और स्मार्ट है, बल्कि सटीक और सुरक्षित भी है। एंथ्रोपिक का एआई विकास न केवल नई तकनीक पर केंद्रित है, बल्कि इसे मनुष्यों के लिए सुरक्षित और उपयोगी बनाने पर भी केंद्रित है।