एक हाई-प्रोफाइल घोटाले के बीच, जर्मनी डीपफेक पोर्न को दंडित करने पर विचार कर रहा है: एनपीआर

रोब शमित्ज़, मेज़बान:

यह एनपीआर न्यूज़ द्वारा मानी गई सभी बातें हैं। मैं रोब शमित्ज़ हूं। यहां जर्मनी में, विश्वासघात, सेक्स और कृत्रिम बुद्धिमत्ता की एक कहानी ने एक राष्ट्र को मंत्रमुग्ध कर दिया है, और इसका हम सभी पर प्रभाव पड़ सकता है। चौवालीस वर्षीय सेलिब्रिटी कोलीन फर्नांडिस ने अपने साथी सेलिब्रिटी पूर्व पति क्रिश्चियन उलमेन पर उनकी तस्वीरें फैलाने का आरोप लगाया है, जिन्हें बाद में कृत्रिम बुद्धिमत्ता द्वारा अश्लील वीडियो में बदल दिया गया। फिर उन्हें इंटरनेट पर प्रसारित किया गया। उलमेन ने आरोपों से इनकार किया है. इन तथाकथित डीपफेक वीडियो के पीछे के लोगों के लिए सख्त कानून की मांग करते हुए हजारों जर्मन सड़कों पर उतर आए हैं। लेकिन आप किसी ऐसी चीज़ की पुलिस कैसे बनाते हैं जिसे बनाना आसान होता जा रहा है और उसका पता लगाना अधिक कठिन होता जा रहा है?

अब हम बर्कमैन क्लेन सेंटर फॉर इंटरनेट एंड सोसाइटी के सह-निदेशक, हार्वर्ड लॉ प्रोफेसर रेबेका टशनेट से जुड़ गए हैं। आपका स्वागत है, रेबेका।

रेबेका टशनेट: धन्यवाद।

शमित्ज़: तो, रेबेका, मुझे लगता है कि ये एआई प्लेटफॉर्म इतनी तेज़ी से विकसित हो रहे हैं कि इन्हें बनाए रखना थोड़ा मुश्किल है। किसी की छवि का उपयोग करके इन डीपफेक वीडियो को बनाने के लिए इन प्लेटफार्मों का उपयोग करना कितना आसान है?

टशनेट: तो मेरे लिए दिलचस्प बात यह है कि यदि आप इसकी समय-सीमा को देखें, तो आरोप संकेत देते हैं कि, आप जानते हैं, सॉफ़्टवेयर का उपयोग ऐसे समय में किया जा रहा है जब यह आवश्यक रूप से उतना व्यापक नहीं था जितना अब है। लेकिन यह क्षमता वास्तव में लंबे समय से उच्च स्तर पर उपलब्ध है। पिछली कुछ “स्टार वार्स” फिल्मों में, लुकासफिल्म कुछ समय से ऐसा करने में सक्षम है।

अंतर यह है कि न्यूडिफाई (पीएच) ऐप्स जैसे ऐप्स का प्रसार हो रहा है। तो मूल रूप से, एक बार जब आपके पास ऐसा करने का मूल विचार हो, तो किसी मॉडल को विशेष रूप से अश्लील चित्र बनाने के लिए प्रशिक्षित करना संभव है। और भले ही जिन बड़े नामों के बारे में आपने सुना है – जैसे एंथ्रोपिक, ओपनएआई इत्यादि – ने इसके खिलाफ रेलिंग लगाई है, किसी के लिए जाना इतना कठिन नहीं है, आप जानते हैं, अपने स्वयं के मॉडल को प्रशिक्षित करना। तो, आप जानते हैं, इसे वापस बोतल में डालना बहुत कठिन है। और ऐसे लोग भी हैं जो इससे पैसा कमा सकते हैं, यही कारण है कि इसे वापस बोतल में डालना बहुत कठिन है।

श्मित्ज़: तो यहाँ जर्मनी के मामले में, आरोप में पीड़ित का कोई परिचित व्यक्ति शामिल है। सबसे पहले, यह कितना सामान्य है? और फिर इन मामलों को साबित करना कितना कठिन हो जाता है?

टशनेट: यह एक अच्छा प्रश्न है क्योंकि कई बार हम आवश्यक रूप से नहीं जानते हैं। अक्सर, जब पर्याप्त सबूत होते हैं, तो किसी ऐसे व्यक्ति का पता लगाना संभव होता है, जो उस व्यक्ति को प्रत्यक्ष रूप से जानता हो – कभी-कभी एक नियोक्ता की तरह, कभी-कभी किसी ऐसे व्यक्ति की तरह जिसके साथ उनका संपर्क था, आप जानते हैं, पिछली नौकरी पर या असफल डेट पर। लेकिन यह अक्सर एक आश्चर्यजनक व्यक्ति होता है। मुझे कहना होगा कि पति, आप जानते हैं, एक विशेष रूप से आश्चर्यजनक व्यक्ति है। लेकिन ऐसा इसलिए है क्योंकि कुछ पुरुष जो चाहते हैं उसे करने का अधिकार महसूस करते हैं, और मुद्दा, अक्सर, यह पता लगाने का होता है कि यह कौन था, जो मुश्किल हो सकता है, और फिर, आप जानते हैं, प्रसार से होने वाले नुकसान को कम करने की कोशिश कर रहे हैं।

शमित्ज़: टेक इट डाउन एक्ट, जिसे कांग्रेस ने 2024 में अमेरिका में पारित किया था, के तहत शिकायत के बाद 48 घंटों के भीतर प्लेटफार्मों को आपत्तिजनक, डीपफेक सामग्री को हटाने की आवश्यकता होती है। मेरा मतलब है, यह बहुत सीधा लगता है, है ना?

टशनेट: ठीक है। मुद्दा यह है कि यह आवश्यक रूप से छवियों को कहीं और जाने से नहीं रोकता है, या आप जानते हैं, उन्हें थोड़ा सा संशोधित करने और दोबारा पोस्ट करने से नहीं रोकता है। और मुझे लगता है कि हर कोई इसे समझता है। यह आपको रक्तस्राव रोकने के लिए एक उपकरण देने के लिए है। लेकिन सच कहूं तो, मैं वास्तव में यह नहीं मानता कि केवल आपराधिक कानून ही, आप जानते हैं, समस्या का समाधान करेगा।

शमित्ज़: तो लोगों को इससे बचाने के लिए और क्या करने की आवश्यकता है?

टशनेट: तो मुझे लगता है कि हम विभिन्न समस्याओं का सामना कर रहे हैं। उनमें से एक इसके ख़िलाफ़ मजबूत सामाजिक मानदंडों की कमी है। इसलिए…

शमित्ज़: ठीक है।

टशनेट: …जिस सादृश्य को मैं चित्रित करना चाहता हूं वह वास्तव में अमेरिका में नशे में गाड़ी चलाना है, इसलिए एक समय था जब नशे में गाड़ी चलाना गलत नहीं माना जाता था, यहां तक ​​कि अपराधीकरण के बाद भी। तो जो होना था वह एक सामाजिक बदलाव था जो कहता है, आप जानते हैं, यह कुछ ऐसा नहीं है जो एक जिम्मेदार व्यक्ति करता है। और इसका मतलब यह नहीं है कि कोई भी नशे में गाड़ी नहीं चलाता है, है ना? यह अब भी होता है. लेकिन इसके आसपास की बातचीत बदल गई। और मुझे लगता है कि यह एक प्रकार की मीडिया साक्षरता शिक्षा है, आप जानते हैं, बदमाशी विरोधी, शिक्षा – ये ऐसे कदम हैं जो दीर्घकालिक परिवर्तन ला सकते हैं।

लेकिन मैं यह स्पष्ट करना चाहता हूं कि ऐसा करना अभी भी संभव है। वास्तव में, आप जानते हैं, ऐतिहासिक रूप से, ऐसा करना संभव था। आप जानते हैं, पहले भी तस्वीरों के साथ छेड़छाड़ कर अश्लील तस्वीरें बनाई जाती थीं। हम इसे और अधिक नियंत्रण में लाने का प्रयास कर सकते हैं।

शमित्ज़: ठीक है। मेरा मतलब है, उस मामले में – आप जानते हैं, आप नशे में गाड़ी चलाने के समानांतर, मेरा मतलब है, नशे में गाड़ी चलाने को कम करने के कारकों में से एक उन लोगों के लिए वास्तव में कठोर दंड था जो शराब पीकर गाड़ी चलाते हुए पकड़े गए थे। मैं सोच रहा हूं कि क्या इस प्रकार का कानून संयुक्त राज्य अमेरिका में काम करेगा? मेरा मतलब है, उदाहरण के लिए, वे यहाँ जर्मनी में यही करने के बारे में बात कर रहे हैं।

टशनेट: मैं इस बारे में थोड़ा झिझक रहा हूं क्योंकि अमेरिका में हम अति-अपराधीकरण और एक तरह से कम समाजीकरण की प्रवृत्ति रखते हैं। मैं इसके द्वारा निर्देशित हूं क्योंकि हालांकि यह स्थिति है – यह स्पष्ट रूप से भयानक है – यह उन चीजों के संदर्भ में असामान्य है जो हम देख रहे हैं जो सबसे अधिक व्यवधान पैदा कर रही हैं, जो कि किशोर लड़कियों के लिए है। और ऐसा करने वाले लोग आमतौर पर किशोर लड़के होते हैं। और इसलिए मैं आमतौर पर किसी किशोर को 20 साल की जेल भेजने का समर्थक नहीं हूं।

आप जानते हैं, ऐसे कई कारण हैं जिनकी वजह से हम कहते हैं, आप जानते हैं कि किशोरों का दिमाग पूरी तरह से विकसित नहीं होता है। वे अभी भी अविश्वसनीय नुकसान कर सकते हैं, और मैं किसी भी तरह से इसे कम नहीं करना चाहता। आप जानते हैं कि हम जो काम करते हैं उसका एक हिस्सा यह है कि अब हम उन्हें सिखाने की कोशिश करते हैं, उदाहरण के लिए, गाड़ी कैसे चलानी है। हमने प्रवेश आवश्यकताओं को स्नातक किया है। इसलिए मुझे लगता है कि हमें जिम्मेदार इंटरनेट उपयोग के बारे में ऐसी चीजें करने की जरूरत है।

शमित्ज़: रेबेका, यह इतनी परेशान करने वाली प्रवृत्ति है, और मुझे आश्चर्य है कि क्या हम इसे और अधिक देख रहे हैं या हम इसे और अधिक देखेंगे क्योंकि एआई प्लेटफ़ॉर्म अधिक से अधिक फैल रहे हैं?

टशनेट: मेरा ईमानदार अनुमान यह है कि हम जो जारी रखेंगे वह एक ऐसी स्थिति है जहां अच्छी तरह से पूंजीकृत, आप जानते हैं, प्रमुख लोग – संभवतः ग्रोक के अपवाद के साथ – रेलिंग के साथ बनाए गए हैं जो इस तरह की चीज़ को रोकते हैं, या कम से कम इस तरह की चीज़ को रोकने के लिए बहुत कठिन प्रयास करते हैं। लेकिन स्कैमी (पीएच) छोटे ऐप्स का एक प्रकार का छोटा सब्सट्रेट है जो उन लोगों के लिए ऐसा करने की क्षमता प्रदान करता है और कभी-कभी प्रदान करता है जो तलाश में जाने के इच्छुक हैं।

श्मिट्ज़: वह हार्वर्ड लॉ स्कूल में बर्कमैन क्लेन सेंटर फॉर इंटरनेट एंड सोसाइटी की सह-निदेशक रेबेका टशनेट थीं। रेबेका, धन्यवाद.

टशनेट: धन्यवाद.

कॉपीराइट © 2026 एनपीआर। सर्वाधिकार सुरक्षित। हमारी वेबसाइट पर पधारें उपयोग की शर्तें और अनुमति पृष्ठों पर www.npr.org अधिक जानकारी के लिए.

एनपीआर प्रतिलेखों की सटीकता और उपलब्धता भिन्न हो सकती है। त्रुटियों को ठीक करने या अपडेट को ऑडियो से मिलाने के लिए ट्रांसक्रिप्ट टेक्स्ट को संशोधित किया जा सकता है। npr.org पर ऑडियो को उसके मूल प्रसारण या प्रकाशन के बाद संपादित किया जा सकता है। एनपीआर की प्रोग्रामिंग का आधिकारिक रिकॉर्ड ऑडियो रिकॉर्ड है।