डीपफेक वीडियो की रोकने के लिए सरकार रेगुलेशन लाने की तैयारी कर रही है। केंद्रीय मंत्री अश्विनी वैष्णव ने आज यानी 23 नवंबर को प्रेस कॉन्फ्रेंस करके इसके बारे में जानकारी दी। उन्होंने कहा, 'डीपफेक लोकतंत्र के लिए एक नया खतरा बनकर उभरा है।'
केंद्रीय मंत्री ने बताया कि आज हमने सभी सोशल मीडिया प्लेटफॉर्म को मीटिंग के लिए बुलाया था। सभी के साथ चर्चा हुई और सभी ने डीपफेक के खतरे और इसकी गंभीरता को स्वीकार किया कि ये एक बहुत बड़ा सामाजिक खतरा उभर कर आया है।
प्रधानमंत्री नरेंद्र मोदी ने भी 17 नवंबर को डीपफेक पर चिंता जताई थी। कहा था कि एक वीडियो में मुझे गरबा गीत गाते दिखाया गया है, ऐसे कई वीडियो ऑनलाइन पड़े हुए हैं।
अगले कुछ हफ्ते में तैयार होगा ड्राफ्ट
अश्विनी वैष्णव ने कहा,'डीपफेक पर एक नए रेगुलेशन की जरूरत है और इस पर तुरंत कार्रवाई शुरू होगी। अगले कुछ हफ्तों में रेगुलेशन के ड्राफ्ट को तैयार करने की कोशिश की जाएगी, जिससे जल्दी से जल्दी सोसाइटी और सोशल इंस्टीट्यूशन को बचाने का काम किया जाए।'
उन्होंने कहा- हमें 4 चीजों पर एक साथ मिलकर काम करना पड़ेगा।
क्रिएटर्स और प्लेटफॉर्म की तय होगी जिम्मेदारी
वैष्णव ने कहा कि डीपफेक के क्रिएटर्स और उसको होस्ट करने वाले प्लेटफॉर्म की जिम्मेदारी तय होगी। उन्होंने कहा कि रेगुलेशन को नए नियमों, नए कानून या मौजूदा नियमों में संशोधन करके लाया जा सकता है।
PM डीपफेक टेक्नोलॉजी को बता चुके हैं खतरनाक
PM मोदी ने अपने डीपफेक वीडियो को लेकर कहा था- 'AI की ताकत से ये वीडियो बना है, लेकिन यह एक चिंता का विषय है। विविधता वाली सोसाइटी में, जहां छोटी-छोटी बातों पर लोगों की भावनाओं को ठेस लग जाती है। वहां यह संकट पैदा कर सकता है।
जब AI को बढ़ाने वाले लोग मुझसे मिले थे तो मैंने उन्हें कहा था कि जैसे सिगरेट में चेतावनी लिखी होती है। वैसे ही मैंने कहा कि जो भी इसका यूज करता है तो वहां एक चेतावनी लिखी होनी चाहिए कि 'ये डीपफेक से बना है।'
रश्मिका मंदाना और काजोल का वायरल हो चुका है डीपफेक वीडियो
हाल ही में बॉलीवुड एक्ट्रेस रश्मिका मंदाना और काजोल का डीपफेक वीडियो सोशल मीडिया पर वायरल हुआ था। जारा पटेल नाम की एक लड़की के चेहरे को बदलकर रश्मिका का चेहरा लगा दिया गया था। रश्मिका मंदाना के डीपफेक वीडियो पर अमिताभ बच्चन से लेकर खुद रश्मिका मंदाना तक ने हैरानी जताई थी।
एक x पोस्ट में रश्मिका ने लिखा था, 'ईमानदारी से कहूं तो ऐसा कुछ न केवल मेरे लिए, बल्कि हममें से हर एक के लिए बेहद डरावना है। अगर मेरे साथ ये तब हुआ होता, जब में स्कूल या कॉलेज में थी, तो मैं इससे निपटने का सोच भी नहीं सकती थी।'
डीपफेक क्या है?
आज के डिजिटल दौर में कई बार गलत खबरें और भ्रामक जानकारियां इंटरनेट की मदद से लोगों तक पहुंचाई जा रही हैं। ऐसे ही वीडियो भी पहुंचाए जाते हैं। इसे डीपफेक कहते हैं। इसमें असली और नकली की पहचान बेहद मुश्किल होती है। इसमें आर्टिफिशियल इंटेलिजेंस तकनीक (AI) और मशीन लर्निंग सॉफ्टवेयर का इस्तेमाल किया जाता है।
इनका उपयोग करके मीडिया फाइल जैसे फोटो, ऑडियो और वीडियो की परिवर्तित कॉपी तैयार की जाती है, जो वास्तविक फाइल की तरह ही दिखती है। सरल भाषा में कहें तो डीपफेक, मॉर्फ वीडियो का ही एडवांस रूप है।
रश्मिका मंदाना से जुड़े डीपफेक मामले में FIR दर्ज
साउथ एक्ट्रेस रश्मिका मंदाना के डीपफेक वीडियो मामले में दिल्ली पुलिस ने एक FIR दर्ज की है। न्यूज एजेंसी ANI के मुताबिक, स्पेशल सेल पुलिस मामले की जांच कर रही है।
इसके साथ ही पुलिस ने मेटा कंपनी (फेसबुक-इंस्टाग्राम) से उस खाते का URL (यूनिफॉर्म रिर्सोस लोकेटर) मांगा है, जिससे एक्ट्रेस रश्मिका मंदाना का डीप फेक वीडियो सोशल मीडिया पर शेयर किया गया था।