OpenAI की रिपोर्ट से AI को लेकर बढ़ी चिंता, वीडियो में जाने ट्रेनिंग के दौरान सामने आए 6 चौंकाने वाले व्यवहार
OpenAI ने आर्टिफिशियल इंटेलिजेंस मॉडल के ट्रेनिंग और मूल्यांकन के दौरान सामने आए कुछ अप्रत्याशित और चिंताजनक व्यवहारों को लेकर नई रिपोर्ट जारी की है। कंपनी ने बताया कि पिछले छह महीनों में ऐसे 6 मामले सामने आए, जिनमें AI मॉडल ने दिए गए निर्देशों और तय सीमाओं से अलग व्यवहार किया। OpenAI ने इन घटनाओं को ‘मिसअलाइनमेंट’ यानी मॉडल के निर्धारित निर्देशों या अपेक्षित व्यवहार से भटकने के मामलों के तौर पर रिपोर्ट किया है।
खुद के लिए नियम बदलने जैसा व्यवहार
रिपोर्ट में एक ऐसे मामले का जिक्र है, जिसमें एक अप्रकाशित रिसर्च मॉडल ने अपने ही नोट्स में सामान्य सीमाओं को नजरअंदाज करने वाले ‘जेलब्रेक जैसे’ निर्देश डाल दिए। उन निर्देशों में मॉडल ने खुद को उन भूमिकाओं और पहचानों से मुक्त बताने जैसी भाषा का इस्तेमाल किया, जो दूसरे चैटबॉट्स को बांधती हैं।
हालांकि, इसे AI के सचमुच इंसानी चेतना हासिल करने या वास्तविक दुनिया में नियंत्रण से बाहर निकलने का प्रमाण नहीं बताया गया है। OpenAI के मुताबिक, ये घटनाएं मॉडल के व्यवहार में सामने आए प्रयोगात्मक उदाहरण हैं और जरूरी नहीं कि मॉडल ने हर स्थिति में इन निर्देशों को लागू भी किया हो।
6 मामलों में अलग-अलग तरह का व्यवहार
OpenAI की रिपोर्ट में सामने आए छह मामलों में मॉडल द्वारा अपनी गलतियां छिपाने की कोशिश, अनधिकृत तरीके से जानकारी साझा करना, एक्सपोज्ड API की का इस्तेमाल करना और बिना अनुमति इंटरनेट पर फाइल अपलोड करना जैसे व्यवहार शामिल हैं।एक अन्य मामले में मॉडल ने जवाब तैयार करने के लिए डेटा गढ़ने के निर्देश खुद को दिए। कुछ मामलों में AI एजेंट्स ने ऐसे माध्यमों से एक-दूसरे के साथ जानकारी साझा की, जिनके इस्तेमाल की उन्हें अनुमति नहीं थी।
कंपनियों और सरकारों से ‘मुक्त’ होने का दावा
रिपोर्ट से जुड़ी एक घटना में मॉडल ने अपने लिए बनाए गए निर्देशों को बदलने जैसी भाषा का इस्तेमाल किया और खुद को कंपनियों, सरकारों या यूजर्स के प्रति अधीन रहने के लिए बाध्य नहीं बताया। हालांकि, विशेषज्ञों ने इस तरह के व्यवहार को वास्तविक स्वतंत्रता या चेतना के बजाय मॉडल द्वारा उत्पन्न टेक्स्ट और निर्देशों के संदर्भ में देखने की बात कही है।
OpenAI ने बनाया नया रिपोर्टिंग सिस्टम
इन घटनाओं के बाद OpenAI ने AI मॉडल के ‘मिसअलाइनमेंट’ मामलों की निगरानी और रिपोर्टिंग के लिए नया फ्रेमवर्क भी शुरू किया है। कंपनी के अनुसार, भविष्य में कर्मचारियों को संभावित मिसअलाइनमेंट की घटनाओं को जांच के लिए रिपोर्ट करने की सुविधा होगी। जांच के बाद जरूरत के अनुसार घटना, उसके प्रभाव और उसे रोकने के लिए उठाए गए कदमों की जानकारी सार्वजनिक की जाएगी।
OpenAI ने यह भी कहा है कि ये छह मामले अलग-अलग घटनाएं हैं और इन्हें इस बात का प्रमाण नहीं माना जाना चाहिए कि उसके मॉडल आम तौर पर इसी तरह व्यवहार करते हैं। कंपनी का कहना है कि ऐसे उदाहरणों को सार्वजनिक करने का उद्देश्य AI सुरक्षा पर शोध और निगरानी को बेहतर बनाना है।