Deepfake पर YouTube का वार: नया सेफ्टी फीचर करेगा फर्जी वीडियो की तुरंत पहचान, यूजर्स होंगे सुरक्षित

YouTube में एक बड़ा बदलाव आ रहा है; हाल ही में प्रकाशित एक रिपोर्ट के अनुसार, Google के स्वामित्व वाली इस कंपनी ने एक शक्तिशाली AI डीपफेक डिटेक्शन टूल पेश किया है, जो 18 वर्ष और उससे अधिक आयु के सभी उपयोगकर्ताओं के लिए उपलब्ध होगा। इसका अर्थ है कि अब, केवल मशहूर हस्तियां और बड़े इन्फ्लुएंसर ही नहीं – बल्कि *सभी* उपयोगकर्ता – अपने चेहरे वाले AI-जनित क्लोन को हटाने का अनुरोध कर सकेंगे।

AI डीपफेक डिटेक्शन टूल क्या है, और यह कैसे काम करता है?

YouTube का AI डीपफेक डिटेक्शन टूल आपके चेहरे के लिए एक डिजिटल अंगरक्षक (bodyguard) की तरह है। यह YouTube के प्रसिद्ध Content ID सिस्टम के समान है – जो स्वचालित रूप से कॉपीराइट वाले संगीत और मूवी क्लिप को चिह्नित करता है – लेकिन ऑडियो को स्कैन करने के बजाय, यह नया टूल मानवीय चेहरों को स्कैन करता है।

*The Verge* की एक रिपोर्ट बताती है कि इस टूल को सेट अप करने के लिए, उपयोगकर्ताओं को अपने चेहरे का एक छोटा, सेल्फ़ी-शैली वाला वीडियो जमा करना होगा। इसके बाद AI टूल पूरे प्लेटफ़ॉर्म पर लगातार नज़र रखता है, और नए अपलोड किए गए वीडियो को स्कैन करके यह देखता है कि क्या कोई आपके चेहरे के किसी नकली या बदले हुए संस्करण का उपयोग कर रहा है।

यदि सिस्टम को कोई मेल (match) मिलता है, तो वह तुरंत उपयोगकर्ता को सचेत करता है। इसके बाद उपयोगकर्ता संबंधित वीडियो की समीक्षा कर सकते हैं और उस सामग्री को हटाने के लिए YouTube को एक आधिकारिक अनुरोध भेज सकते हैं। विशेष रूप से, अधिकांश हाई-प्रोफ़ाइल डीपफेक वीडियो आमतौर पर राजनेताओं और पॉप सितारों को निशाना बनाते हैं, लेकिन नकली वीडियो बनाने की तकनीक अब इतनी आसानी से उपलब्ध हो गई है कि आम लोग भी साइबर अपराधियों और धोखेबाजों का शिकार बन रहे हैं।

YouTube के एक प्रवक्ता ने यह कहा:

YouTube के प्रवक्ता जैक मेलोन ने *The Verge* को बताया कि रचनाकारों (creators) को सुरक्षा का वही स्तर प्राप्त होगा, चाहे वे एक दशक से YouTube पर वीडियो अपलोड कर रहे हों या अभी शुरुआत कर रहे हों। उन्होंने इस बात पर ज़ोर दिया कि इस टूल का उपयोग करने के लिए बड़ी संख्या में सब्सक्राइबर होना आवश्यक नहीं है; यह सुविधा प्लेटफ़ॉर्म पर मौजूद हर किसी का एक बुनियादी अधिकार है। YouTube ने इस सिस्टम को सक्रिय करने की तैयारी कर रहे उपयोगकर्ताओं को एक संक्षिप्त चेतावनी जारी की है। चूंकि AI अभी पूरी तरह से सटीक नहीं है, इसलिए यह अनजाने में ऐसे वीडियो को भी चिह्नित कर सकता है जिनमें AI-जनित नकली चेहरों के बजाय आपका असली चेहरा दिखाई दे रहा हो। उदाहरण के लिए, यदि कोई व्यक्ति आपकी कोई प्रामाणिक, बिना किसी बदलाव वाली क्लिप अपलोड करता है — शायद किसी पुराने पारिवारिक वीडियो या सार्वजनिक साक्षात्कार से — तो भी यह टूल उसे चिह्नित कर सकता है। ऐसे मामलों में, कंपनी का कहना है कि इन वास्तविक क्लिप को डीपफेक नीति के तहत स्वचालित रूप से नहीं हटाया जा सकता है; इसके बजाय, यह कृत्रिम मीडिया को नियंत्रित करने वाले विशिष्ट नियमों के दायरे में न आकर, सामान्य गोपनीयता और उचित उपयोग के दिशानिर्देशों के दायरे में आता है।