Deepfake क्या है और ये तकनीक कैसे करती है काम ? यहाँ विस्तार से जाने इसके फायदे और नुकसान
अगर आप सोशल मीडिया पर एक्टिव हैं, तो आपने शायद डीपफेक के बारे में सुना होगा। डीपफेक ऐसे वीडियो, ऑडियो क्लिप या तस्वीरें होती हैं जिन्हें आर्टिफिशियल इंटेलिजेंस का इस्तेमाल करके बनाया जाता है, लेकिन वे पूरी तरह से असली लगते हैं। बहुत से लोग इन्हें मजे के लिए या पैरोडी के लिए बनाते हैं, लेकिन इस टेक्नोलॉजी का इस्तेमाल स्कैम करने के लिए भी किया जा रहा है। स्कैमर अब डीपफेक कंटेंट बना रहे हैं जिसे लोग असली समझ लेते हैं, उनके जाल में फंस जाते हैं और नुकसान उठाते हैं। बड़े पैमाने पर, डीपफेक कंटेंट का इस्तेमाल कई देशों में चुनावों को प्रभावित करने के लिए भी किया जा रहा है। आज के एक्सप्लेनर में, हम जानेंगे कि डीपफेक टेक्नोलॉजी क्या है, यह कैसे काम करती है, और क्या इसमें सिर्फ नुकसान हैं या कुछ फायदे भी हैं।
डीपफेक टेक्नोलॉजी क्या है?
डीपफेक का मतलब ऐसे मीडिया से है, जिसमें फोटो, ऑडियो और वीडियो शामिल हैं, जिन्हें AI का इस्तेमाल करके बनाया या बदला गया है। डीपफेक शब्द डीप लर्निंग कॉन्सेप्ट और "फेक" शब्द का कॉम्बिनेशन है। इमेज, वीडियो और साउंड को एडिट करने के टूल्स लंबे समय से मौजूद हैं, लेकिन डीपफेक एक नया डेवलपमेंट है। यह मीडिया को इस तरह से बदलने के लिए मशीन लर्निंग का इस्तेमाल करता है कि असली और नकली के बीच फर्क करना बहुत मुश्किल हो जाता है।
यह कब शुरू हुआ?
डीपफेक शब्द पहली बार 2017 में पब्लिक डोमेन में आया जब "deepfakes" नाम के एक रेडिट यूजर ने प्लेटफॉर्म पर एडिट किए हुए पोर्नोग्राफिक वीडियो शेयर किए। उसने पोर्नोग्राफिक वीडियो में परफॉर्म करने वालों के चेहरों को सेलिब्रिटीज के चेहरों से बदलने के लिए गूगल की ओपन-सोर्स डीप-लर्निंग टेक्नोलॉजी का इस्तेमाल किया। इस तरह दुनिया ने पहली बार डीपफेक शब्द सुना।
डीपफेक टेक्नोलॉजी कैसे काम करती है?
AI के आने से डीपफेक टेक्नोलॉजी पूरी तरह से बदल गई है। मौजूदा डीपफेक AI दो मशीन लर्निंग मॉडल के साथ काम करता है जो एक-दूसरे के खिलाफ काम करते हैं। इसमें एक जेनरेटर एल्गोरिदम शामिल होता है जो नए कंटेंट को जेनरेट या एडिट करने के लिए सैंपल ऑडियो, वीडियो या इमेज का इस्तेमाल करता है। यह एल्गोरिदम ऐसा कंटेंट बनाने की कोशिश करता है जो सैंपल से काफी मिलता-जुलता हो। फिर, डिस्क्रिमिनेटर एल्गोरिदम काम में आता है। इसे सैंपल में कमियों की पहचान करने के लिए डिज़ाइन किया गया है। यह कंटेंट में उन कमियों को बताता है जहां जेनरेटर एल्गोरिदम ने गलतियां की हैं। इन कमियों को ठीक करने के लिए, कंटेंट को वापस जेनरेटर एल्गोरिदम के पास भेजा जाता है। इसे जेनरेटिव एडवरसैरियल नेटवर्क (GAN) कहा जाता है। इस पूरी प्रक्रिया में, जेनरेटर और डिस्क्रिमिनेटर मीडिया सैंपल से डेटा का एनालिसिस करते हैं। फिर जेनरेटर मीडिया बनाता है या उसमें बदलाव करता है। यह शुरुआती डीपफेक है। फिर डिस्क्रिमिनेटर सैंपल और डीपफेक के बीच के अंतर को पहचानता है, और कमियों को बताता है। इसके बाद मीडिया को वापस जेनरेटर के पास भेजा जाता है, जो उन कमियों को ठीक करता है। यह प्रक्रिया तब तक चलती रहती है जब तक डीपफेक पूरी तरह से असली न दिखने लगे।
दूसरा तरीका
डीपफेक बनाने का एक और तरीका है, जिसमें एनकोडर नाम के AI एल्गोरिदम का इस्तेमाल होता है। इसका इस्तेमाल वीडियो या फोटो में चेहरों को बदलने या रिप्लेस करने के लिए किया जाता है। इस तरीके में, एक चेहरे को पूरी तरह से अलग शरीर पर सुपरइम्पोज़ किया जाता है। कई डीपफेक टूल दो ऑटोएनकोडर का भी इस्तेमाल करते हैं, जो इमेज और मूवमेंट दोनों को एक इमेज से दूसरी इमेज में ट्रांसफर करने की अनुमति देते हैं।
डीपफेक के नुकसान
घोटाले - साइबर क्रिमिनल इस टेक्नोलॉजी का इस्तेमाल घोटाले करने के लिए कर रहे हैं। उदाहरण के लिए, स्कैमर लोगों के अपहरण के डीपफेक वीडियो बना रहे हैं और उनके परिवारों से फिरौती मांग रहे हैं। डीपफेक टेक्नोलॉजी का इस्तेमाल कई अन्य तरह के घोटालों को अंजाम देने के लिए भी किया जा रहा है, जिससे लोगों को काफी नुकसान हो रहा है। अश्लील वीडियो: कई लोग सेलिब्रिटी और आम लोगों के चेहरों को अश्लील वीडियो पर सुपरइम्पोज़ करने के लिए डीपफेक टेक्नोलॉजी का इस्तेमाल कर रहे हैं। यह डीपफेक से होने वाला एक बड़ा खतरा है और यह किसी की भी इज्जत को पूरी तरह से बर्बाद कर सकता है।
चुनाव में हेरफेर: डीपफेक टेक्नोलॉजी का इस्तेमाल चुनावों को प्रभावित करने के लिए भी किया जा रहा है। चुनावों के दौरान, एक डीपफेक वीडियो बनाया जा सकता है जिसमें एक राजनेता को कुछ ऐसा कहते हुए दिखाया जा सकता है जो उन्होंने असल में कभी नहीं कहा। भारत जैसे लोकतांत्रिक देशों में यह खतरा और भी बड़ा है। कुछ साल पहले बराक ओबामा का एक डीपफेक वीडियो दुनिया भर में वायरल हुआ था।
सोशल इंजीनियरिंग हमले: डीपफेक टेक्नोलॉजी का इस्तेमाल सोशल इंजीनियरिंग घोटालों में भी किया जा रहा है। इन घोटालों में, लोगों को डीपफेक ऑडियो का इस्तेमाल करके धोखा दिया जाता है। स्कैमर किसी कंपनी के कर्मचारियों को CEO या अन्य अधिकारियों के रूप में कॉल करते हैं, और उन्हें धोखा देकर बड़ी रकम अपने खातों में ट्रांसफर करवा लेते हैं। ऐसे कई मामले सामने आए हैं।
गलत जानकारी फैलाना: डीपफेक वीडियो का इस्तेमाल गलत और गुमराह करने वाली जानकारी फैलाने के लिए भी किया जा रहा है। कुछ समय पहले, मार्क जुकरबर्ग का एक वीडियो वायरल हुआ था जिसमें उन्होंने दावा किया था कि एक फिल्म में दिखाए गए एक काल्पनिक संगठन की मदद से अरबों लोगों के डेटा पर उनका पूरा कंट्रोल है। इस तरह के कई साजिश सिद्धांत वाले वीडियो सोशल मीडिया पर वायरल हो रहे हैं।
क्या डीपफेक के कोई फायदे हैं?
डीपफेक टेक्नोलॉजी का इस्तेमाल अच्छे कामों के लिए भी किया जा सकता है। इसका इस्तेमाल पैरोडी और व्यंग्य वीडियो बनाने के लिए किया जा सकता है जो लोगों का मनोरंजन कर सकते हैं। इसके अलावा, डीपफेक का इस्तेमाल टेक्नोलॉजी के डेमो, ऐतिहासिक घटनाओं को फिर से बनाने और ऐसे अन्य कामों के लिए किया जा सकता है।