वॉयस (ऑडियो) डीपफेक

संदर्भ 

• हाल ही में, "4chan" नाम के सोशल मीडिया प्लेटफॉर्म के उपयोगकर्ताओं द्वारा मशहूर हस्तियों के वॉयस डीपफेक बनाने के लिए "स्पीच सिंथेसिस" और "वॉयस क्लोनिंग तकनीक का प्रयोग किया गया। 
• इन डीपफेक ऑडियो में नस्लवादी, अपमानजनक और हिंसक टिप्पणियां की गईं।

वॉयस डीपफेक

• वॉयस डीपफेक का अर्थ किसी व्यक्ति के स्वर, उच्चारण और अन्य अनूठी विशेषताओं की सटीक रूप से नकल करके वास्तविक व्यक्ति की आवाज की नकल करना है।
• ऐसी क्लोन आवाज या सिंथेटिक आवाज उत्पन्न करने के लिए एआई और मजबूत कंप्यूटिंग शक्ति का उपयोग किया जाता है।
• वॉयस डीपफेक बनाने के लिए क्लाउड कंप्यूटिंग शक्ति का लाभ उठाने वाले शक्तिशाली ग्राफिक्स कार्ड वाले उन्नत कंप्यूटर की आवश्यकता होती है।

डीपफेक

• डीपफेक शब्द की उत्पत्ति 2017 में हुई, जब डीपफेक नाम के एक Reddit उपयोगकर्ता ने मशहूर हस्तियों के वीडियो पोस्ट किए थे।
• डीपफेक शब्द का निर्माण डीप लर्निंग और फेक से मिलकर हुआ है, इसमें आर्टिफीशियल इंटेलिजेंस में डीप लर्निंग का प्रयोग करके नकली डिजिटल मीडिया सामग्री (वीडियो, ऑडियो और इमेज) का निर्माण किया जाता है।
• डीपफेक का निर्माण मशीन लर्निंग मॉडल का उपयोग करके किया जाता है, जो छवियों और वीडियो में हेरफेर करने के लिए न्यूरल नेटवर्क का उपयोग करता है। 
• इसके अंतर्गत पावरफुल ग्राफिक्स वाले कंप्यूटरों की सहायता से उपलब्ध डाटा का सम्मिश्रण करके फेक वीडियो, फोटो अथवा ऑडियो तैयार किये जाते है। 
• डीपफेक तकनीक द्वारा मौजूदा वीडियो को डॉक्टरेट करने के अलावा, स्क्रैच से पूरी तरह से काल्पनिक तस्वीरें बनाई जा सकती है तथा वॉयस क्लोन बनाने के लिए ऑडियो को भी डीपफेक किया जा सकता है।
• क्लाउड कंप्यूटिंग, एल्गोरिदम और प्रचुर मात्रा में डेटा तक पहुंच ने डीपफेक के निर्माण के लिए एक आदर्श परिदृश्य तैयार किया है।
• डीपफेक बनाने में लोगों की मदद करने के लिए अब बहुत सारे टूल उपलब्ध हैं, कई कंपनियां इसे एक सेवा के रूप में पेश करती हैं। 

डीपफेक से संबंधित चुनौतियाँ

• जैसा कि किसी भी नवीन तकनीक के साथ होता है, डीपफेक का भी नुकसान पहुंचाने के हथियार के रूप में उपयोग किया जा सकता है।
• अति-यथार्थवादी डिजिटल मिथ्याकरण होने के कारण, डीपफेक को प्रामाणिक मीडिया से अलग करना बहुत कठिन हो जाता है।
• डीपफेक का उपयोग दुष्प्रचार को आसानी से अभूतपूर्व गति के साथ फैलाने के लिए किया जा सकता है। 
• डीपफेक का उपयोग विद्रोही समूहों और आतंकवादी संगठनों द्वारा भड़काऊ भाषण देने या लोगों के बीच राज्य विरोधी भावनाओं को फैलाने  के लिए किया जा सकता है।
• डीपफेक द्वारा किसी व्यक्ति को असामाजिक व्यवहार में लिप्त या अनुचित बातें कहते हुए चित्रित किया जा सकता है, इसके माध्यम से किसी व्यक्ति की प्रतिष्ठा पर गंभीर प्रभाव डाला जा सकता है, उसके पेशेवर और व्यक्तिगत जीवन को बर्बाद किया जा सकता है।
• डीपफेक, व्यक्तिगत सुरक्षा जोखिम भी पैदा कर सकता है, इसके माध्यम से बायोमेट्रिक डेटा की नकल की जा सकती है, और चेहरे या आवाज की पहचान पर आधारित सिस्टम को संभावित रूप से धोखा दिया जा सकता है।
• वित्तीय धोखाधड़ी या गोपनीय जानकारी प्राप्त करने के लिए भी डीपफेक का इस्तेमाल किया जा सकता है।
• सार्वजनिक सुरक्षा को कमजोर करने और देश में अनिश्चितता और अराजकता पैदा करने के लिए डीपफेक का एक उपकरण के रूप में प्रयोग  किया जा सकता है
• डीपफेक का प्रयोग संस्थानों, सार्वजनिक नीति और राजनेताओं के बारे में गलत जानकारी देकर, चुनाव परिणामों को प्रभावित करने के लिए किया जा सकता है।
• डीपफेक का प्रयोग करके अदालतों में नकली घटनाओं को सबूत के रूप में पेश किया जा सकता है तथा झूठे सबूत बनाने के लिए भी इसका प्रयोग किया जा सकता है।
• डीपफेक से होने वाले अल्पकालिक नुकसान के अतिरिक्त, यह समाचार मीडिया में जनता के विश्वास को कम करके दीर्घकालिक सामाजिक नुकसान पहुंचाने में भी सक्षम है। 
• विश्वास में इस तरह का क्षरण एक शून्य-भरोसेमंद समाज के निर्माण की ओर ले जाएगा , जहाँ लोग सत्य और असत्य के बीच अंतर नहीं कर पाएंगे।

डीपफेक का महत्व

• सभी डीपफेक दुर्भावनापूर्ण नहीं होते हैं बल्कि कुछ मनोरंजक और सहायक भी होते हैं।
• डीपफेक के प्रयोग से वीडियो गैलरी और संग्रहालयों को सजीव कर सकते हैं। 
• मनोरंजन उद्योग के लिए, विदेशी भाषा की फिल्मों पर डबिंग को बेहतर बनाने के लिए डीपफेक प्रौद्योगिकी का उपयोग किया जा सकता है।
• यदि किसी गंभीर बीमारी या अन्य किसी कारण से किसी व्यक्ति की आवाज़ चली जाती है, तो डीपफेक के प्रयोग द्वारा उसे दोबारा तैयार किया जा सकता है।

आगे की राह 

• डीपफेक से उत्पन्न गंभीर खतरे का मुकाबला करने के लिए एक बहु-हितधारक और बहु-मॉडल दृष्टिकोण की आवश्यकता है, इस संबंध में सरकार की महत्वपूर्ण भूमिका है।
• भ्रामक सूचनाओं और डीपफेक से निपटने के लिए उपभोक्ताओं और पत्रकारों के लिए मीडिया साक्षरता सबसे प्रभावी उपकरण है।
• मीडिया साक्षरता मीडिया के संदेशों को पहचानने और समझने की क्षमता है, लोगों को इस तथ्य से अवगत होना चाहिए कि अधिकांश मीडिया संदेश लाभ और/या शक्ति प्राप्त करने के लिए आयोजित किए जाते हैं।
• यह समझ उन्हें मिलने वाली जानकारी को समझने, अनुवाद करने और उसका उपयोग करने में सक्षम बनायेगी।
• मीडिया साक्षरता के प्रति जनता की जागरूकता बढ़ाने के लिए प्रयासों को बढ़ाया जाना चाहिए, इससे डीपफेक से होने वाले नुकसान को कम किया जा सकता है।
• डीपफेक से उत्पन्न चुनौती का मुकाबला करने में आम नागरिकों की महत्वपूर्ण भूमिका है, लोगों को सोशल मीडिया पर साझा करने से पहले किसी संदेश की प्रामाणिकता के बारे में सोचना और उसका मूल्यांकन करना चाहिए। 
• डीपफेक के प्रभावी नियमन के लिए प्रौद्योगिकी उद्योग, नागरिक समाज और नीति निर्माताओं के बीच सहयोग की आवश्यकता है। 
• डीपफेक का पता लगाने के लिए उपयोग में आसान और सुलभ प्रौद्योगिकी समाधानों की भी आवश्यकता है, आर्टिफिशियल इंटेलिजेंस के द्वारा नकली वीडियो का पता लगाया जा सकता है। 
• एक ब्लॉकचेन खाता प्रणाली का प्रयोग करके वीडियो, चित्रों और ऑडियो से संबंधित छेड़छाड़ का रिकॉर्ड रखा जा सकता है, इसके माध्यम से उसकी उत्पत्ति और किसी भी हेरफेर को जांचा जा सकता है।
• घटनाओं के बारे में लोगों को सूचित करने में मदद करने के लिए प्रामाणिक और आधिकारिक स्रोतों को और अधिक दृश्यमान बनाया जाना चाहिए, इससे डीपफेक के प्रभावों को कम करने में मदद मिलेगी।
• हालाँकि, भारत में डीपफेक तकनीक का उपयोग करने के खिलाफ कोई कानून नहीं है, लेकिन विशिष्ट कानूनों द्वारा तकनीक के दुरुपयोग, कॉपीराइट उल्लंघन एवं मानहानि आदि को संबोधित किया जाता है।