एक जीओपी हमला विज्ञापन एआई: एनपीआर के साथ चक शूमर को डीपफेक करता है

सीनेट रिपब्लिकन का एक नया हमला विज्ञापन सरकारी शटडाउन के बारे में सीनेटर चक शूमर के वास्तविक शब्दों का उपयोग करता है – लेकिन डेमोक्रेटिक सीनेट अल्पसंख्यक नेता के एआई डीपफेक में।

30 सेकंड वीडियो शुक्रवार को नेशनल रिपब्लिकन सेनेटोरियल कमेटी द्वारा एक्स और यूट्यूब पर पोस्ट किए जाने से कई पर्यवेक्षकों में चिंता पैदा हो गई, जिन्होंने चेतावनी दी कि यह राजनीति में एक नई सीमा पार कर गया है और एआई-जनित डीपफेक अटैक विज्ञापनों की बाढ़ ला सकता है।

एक्स पर कैप्शन दिया गया है “शूमर शटडाउन का तीसरा सप्ताह: ‘हमारे लिए हर दिन बेहतर होता है’,” वीडियो में शूमर का एआई-जनरेटेड संस्करण बार-बार उन शब्दों को कहते हुए और मुस्कुराते हुए दिखाया गया है। वीडियो शूमर के मुस्कुराते हुए समाप्त होता है, जिसमें एक कथावाचक कहता है, “शूमर का शटडाउन पूरे अमेरिका में चीजों को बदतर बना रहा है और डेमोक्रेट इसे पसंद करते हैं।”

“हमारे लिए हर दिन बेहतर होता जाता है” यह शूमर द्वारा पॉलिटिक्स साइट पर दिए गए एक उद्धरण का हिस्सा था पंचबोल समाचार शटडाउन के बारे में 9 अक्टूबर के लेख में। उन्होंने आगे कहा: “ऐसा इसलिए है क्योंकि हमने इस बारे में बहुत पहले से सोचा था और हम जानते थे कि 30 सितंबर को स्वास्थ्य देखभाल केंद्र बिंदु होगा और हमने इसके लिए तैयारी की… उनका पूरा सिद्धांत था – हमें धमकाओ, हमें उलझाओ, और हम एक या दो दिन में हार मान लेंगे।”

हालाँकि, मूल कहानी में केवल शूमर के बयान का पाठ शामिल था, वीडियो या ऑडियो नहीं।

एक एनआरएससी प्रेस विज्ञप्ति विज्ञापन की घोषणा करते हुए इसे शूमर की टिप्पणी की “कल्पना” के रूप में वर्णित किया गया है और कहा गया है कि इसे “आंशिक रूप से कृत्रिम बुद्धिमत्ता सॉफ़्टवेयर का उपयोग करके बनाया गया है और इसमें एआई अस्वीकरण भी शामिल है।”

शूमर के नकली फुटेज में एनआरएससी लोगो का एक छोटा पारदर्शी वॉटरमार्क और निचले दाएं कोने में “एआई जेनरेटेड” शब्द शामिल हैं। यूट्यूब पर, वीडियो एक अतिरिक्त “परिवर्तित या सिंथेटिक सामग्री” रखता है लेबल यह कहते हुए कि “ध्वनि या दृश्य महत्वपूर्ण रूप से संपादित या डिजिटल रूप से उत्पन्न किए गए थे।”

एनआरएससी संचार निदेशक जोआना रोड्रिग्ज ने एनपीआर को एक ईमेल में कहा, “ये चक शूमर के अपने शब्द हैं।” “हम जानते हैं कि शूमर चाहते थे कि लोगों को पता न चले कि उन्होंने यह कहा है, लेकिन उन्होंने ऐसा किया, और यह वीडियो मतदाताओं के लिए यह देखने और सुनने का एक तरीका है कि उन्हें अपने बंद पर कितना गर्व है।”

शूमर के कार्यालय ने टिप्पणी के अनुरोध का जवाब नहीं दिया।

हालांकि यह उद्धरण कुछ ऐसा था जो शूमर ने वास्तव में कहा था, नकली वीडियो फुटेज का आविष्कार करने के लिए एआई का उपयोग एक सीमा को पार करता है, बर्कले में कैलिफोर्निया विश्वविद्यालय के प्रोफेसर हनी फरीद ने कहा, जो हेरफेर किए गए मीडिया का अध्ययन करते हैं।

उन्होंने कहा, “अगर वे उद्धरण का उपयोग करना चाहते थे तो वे शूमर की एक छवि दिखा सकते थे और उद्धरण को ढक सकते थे, जैसा कि अक्सर किया जाता है। यह तर्कसंगत रूप से तर्क नहीं दिया जा सकता है कि सीनेटर शूमर का डीपफेक बनाना एक ही बात है।”

इसके अलावा, फरीद ने कहा कि वीडियो के निचले दाएं कोने पर अस्वीकरण “विशेष रूप से स्पष्ट या स्पष्ट प्रकटीकरण नहीं है, खासकर जब अधिकांश उपयोगकर्ता अपने सोशल मीडिया पोस्ट के माध्यम से स्क्रॉल कर रहे हैं।”

एनआरएससी वीडियो की सोशल मीडिया पर पत्रकारों और अन्य टिप्पणीकारों ने भी आलोचना की, जिनमें दक्षिणपंथी प्रकाशनों के पत्रकार भी शामिल थे।

वाशिंगटन फ्री बीकन के एक राजनीतिक रिपोर्टर जॉन लेविन ने कहा, “शूमर बिट एआई जनित वीडियो है – जिसका खुलासा नीचे दाएं कोने पर किया गया है – लेकिन हम एक भयानक नई दुनिया के द्वार पर हैं।” एक्स पर लिखा.

“एनआरएससी तेजी से अपने विज्ञापनों के लिए एआई की ओर झुक रहा है, लेकिन यह पहली बार है कि मैंने उन्हें किसी प्रतिद्वंद्वी के नकली वीडियो के लिए इसका उपयोग करने की हद तक जाते हुए देखा है। यह एक फिसलन भरा ढलान है, यहां तक ​​कि कोने में छोटे एआई प्रकटीकरण के साथ भी,” वाशिंगटन एग्जामिनर में कांग्रेस रिपोर्टर रैमसे टचबेरी ने कहा, एक्स पर पोस्ट किया गया.

आलोचना के बीच, एनआरएससी के रोड्रिग्ज लिखा अपने स्वयं के एक्स खाते पर: “एआई यहां है और कहीं नहीं जा रहा है। अनुकूलन करें और जीतें या मोती पकड़ें और हारें।”

यह पहली बार नहीं है कि रिपब्लिकन ने शूमर और अन्य डेमोक्रेट का प्रतिरूपण करने के लिए एआई का उपयोग किया है। शटडाउन की पूर्व संध्या पर, राष्ट्रपति ट्रम्प ट्रुथ सोशल पर पोस्ट किया गया स्पष्ट रूप से एआई-जनरेटेड, अपवित्रता-युक्त वीडियो जिसमें शूमर कह रहे हैं कि “अब कोई भी डेमोक्रेट को पसंद नहीं करता है।” वीडियो में हाउस माइनॉरिटी लीडर हकीम जेफ़्रीज़ को भी कार्टूनिस्ट सोम्ब्रेरो और मूंछें पहने हुए दिखाया गया है।

लेकिन शूमर के एनआरएससी के वीडियो के विपरीत, पहले के उदाहरणों को पहचानना आसान था तमाशों को अप्रामाणिक.

फरीद ने चेतावनी दी कि इसका प्रचलन बढ़ रहा है राजनीति में एआई का फर्जीवाड़ा संक्षारक प्रभाव हो सकता है.

उन्होंने कहा, “हालांकि मुझे नहीं लगता कि हमारे नेताओं को भ्रामक डीपफेक पोस्ट करना चाहिए, लेकिन वे यह जोखिम भी उठाते हैं कि जब वे वास्तविक सामग्री पोस्ट करेंगे, तो जनता के पास इसकी प्रामाणिकता पर सवाल उठाने का अच्छा कारण होगा।”