मेटा ने जोखिमों का आकलन करने के लिए एआई के साथ मनुष्यों को बदलने की योजना बनाई है: एनपीआर

वर्षों के लिए, जब मेटा ने इंस्टाग्राम, व्हाट्सएप और फेसबुक के लिए नई सुविधाएँ लॉन्च कीं, तो समीक्षकों की टीमों ने संभावित जोखिमों का मूल्यांकन किया: क्या यह उपयोगकर्ताओं की गोपनीयता का उल्लंघन कर सकता है? क्या यह नाबालिगों को नुकसान पहुंचा सकता है? क्या यह भ्रामक या विषाक्त सामग्री के प्रसार को खराब कर सकता है?

कुछ समय पहले तक, मेटा के अंदर गोपनीयता और अखंडता की समीक्षा के रूप में जाना जाता है, लगभग पूरी तरह से मानव मूल्यांकनकर्ताओं द्वारा आयोजित किया गया था।

लेकिन अब, एनपीआर द्वारा प्राप्त आंतरिक कंपनी के दस्तावेजों के अनुसार, सभी जोखिम आकलन का 90% तक जल्द ही स्वचालित हो जाएगा।

व्यवहार में, इसका मतलब है कि मेटा के एल्गोरिदम के लिए महत्वपूर्ण अपडेट जैसी चीजें, नई सुरक्षा सुविधाएँ और कंपनी के प्लेटफार्मों पर सामग्री को साझा करने की अनुमति कैसे दी जाती है, इसे ज्यादातर आर्टिफिशियल इंटेलिजेंस द्वारा संचालित सिस्टम द्वारा अनुमोदित किया जाएगा – अब कर्मचारियों द्वारा छानबीन के अधीन नहीं है कि कैसे एक मंच परिवर्तन में अव्यवस्थित प्रदर्शन हो सकते हैं या दुरुपयोग किया जा सकता है।

मेटा के अंदर, परिवर्तन को उत्पाद डेवलपर्स के लिए एक जीत के रूप में देखा जा रहा है, जो अब ऐप अपडेट और सुविधाओं को अधिक तेज़ी से जारी करने में सक्षम होगा। लेकिन वर्तमान और पूर्व मेटा के कर्मचारियों को डर है कि नया स्वचालन धक्का एआई को अनुमति देने की कीमत पर आता है कि मेटा के ऐप्स के वास्तविक दुनिया को नुकसान कैसे पहुंचा सकता है।

“इस प्रक्रिया के रूप में इस प्रक्रिया का कार्यात्मक रूप से अधिक सामान तेजी से लॉन्च होता है, कम कठोर जांच और विरोध के साथ, इसका मतलब है कि आप उच्च जोखिम पैदा कर रहे हैं,” एक पूर्व मेटा कार्यकारी ने कहा, जिसने कंपनी से प्रतिशोध के डर से गुमनामी का अनुरोध किया। “दुनिया में समस्याएं पैदा करने से पहले उत्पाद परिवर्तनों की नकारात्मक बाहरीताओं को रोका जाने की संभावना कम होती है।”

मेटा ने एक बयान में कहा कि उसने उपयोगकर्ता गोपनीयता का समर्थन करने के लिए अरबों डॉलर का निवेश किया है।

2012 के बाद से, मेटा रहा है घड़ी के नीचे संघीय व्यापार आयोग के बाद एजेंसी के बाद कंपनी के साथ एक समझौते पर पहुंच गया कि यह उपयोगकर्ताओं की व्यक्तिगत जानकारी को कैसे संभालता है। नतीजतन, वर्तमान और पूर्व मेटा कर्मचारियों के अनुसार, उत्पादों के लिए गोपनीयता की समीक्षा की आवश्यकता है।

अपने बयान में, मेटा ने कहा कि उत्पाद जोखिम समीक्षा परिवर्तनों का उद्देश्य निर्णय लेने को सुव्यवस्थित करना है, यह कहते हुए कि “मानव विशेषज्ञता” का उपयोग अभी भी “उपन्यास और जटिल मुद्दों” के लिए किया जा रहा है, और केवल “कम जोखिम वाले निर्णय” को स्वचालित किया जा रहा है।

लेकिन एनपीआर द्वारा समीक्षा किए गए आंतरिक दस्तावेजों से पता चलता है कि मेटा एआई सुरक्षा, युवा जोखिम और अखंडता के रूप में जाना जाने वाली एक श्रेणी सहित संवेदनशील क्षेत्रों के लिए स्वचालित समीक्षाओं पर विचार कर रहा है जो हिंसक सामग्री और झूठ के प्रसार जैसी चीजों को शामिल करता है।

पूर्व मेटा कर्मचारी: ‘इंजीनियर गोपनीयता विशेषज्ञ नहीं हैं ‘

नई प्रक्रिया का वर्णन करने वाली एक स्लाइड में कहा गया है कि उत्पाद टीमों को अब ज्यादातर मामलों में परियोजना के बारे में एक प्रश्नावली पूरा करने के बाद “त्वरित निर्णय” मिलेगा। एआई-संचालित निर्णय उन्हें संबोधित करने के लिए जोखिम क्षेत्रों और आवश्यकताओं की पहचान करेगा। लॉन्च करने से पहले, उत्पाद टीम को यह सत्यापित करना है कि यह उन आवश्यकताओं को पूरा करता है।

पूर्व प्रणाली के तहत, उत्पाद और फ़ीचर अपडेट अरबों उपयोगकर्ताओं को नहीं भेजे जा सकते थे जब तक कि उन्हें जोखिम मूल्यांकनकर्ताओं का आशीर्वाद प्राप्त नहीं होता। अब, मेटा उत्पादों का निर्माण करने वाले इंजीनियरों को जोखिमों के बारे में अपने निर्णय लेने के लिए सशक्त किया जाता है।

कुछ मामलों में, नए जोखिमों से जुड़ी परियोजनाओं सहित या जहां एक उत्पाद टीम अतिरिक्त प्रतिक्रिया चाहती है, परियोजनाओं को मनुष्यों द्वारा एक मैनुअल समीक्षा दी जाएगी, स्लाइड कहती है, लेकिन यह डिफ़ॉल्ट रूप से नहीं होगा, जैसा कि यह हुआ करता था। अब, उत्पादों का निर्माण करने वाली टीमें वह कॉल करेंगी।

“अधिकांश उत्पाद प्रबंधक और इंजीनियर गोपनीयता विशेषज्ञ नहीं हैं और यह उनकी नौकरी का ध्यान केंद्रित नहीं है। ऐसा नहीं है कि उनका मुख्य रूप से मूल्यांकन किया जाता है और यह नहीं है कि उन्हें प्राथमिकता देने के लिए प्रोत्साहित नहीं किया जाता है,” Zvika Krieger ने कहा, जो 2022 तक मेटा में जिम्मेदार नवाचार के निदेशक थे। मेटा में उत्पाद टीमों का मूल्यांकन किया जाता है कि वे अन्य मेट्रिक्स के बीच कैसे लॉन्च करते हैं।

उन्होंने कहा, “अतीत में, इनमें से कुछ प्रकार के आत्म-मूल्यांकन बॉक्स-चेकिंग अभ्यास बन गए हैं जो महत्वपूर्ण जोखिमों को याद करते हैं,” उन्होंने कहा।

क्राइगर ने कहा कि ऑटोमेशन के माध्यम से मेटा में समीक्षाओं को सुव्यवस्थित करने में सुधार के लिए जगह है, “यदि आप इसे बहुत दूर धकेलते हैं, तो अनिवार्य रूप से समीक्षा की गुणवत्ता और परिणामों को पीड़ित होने जा रहा है।”

मेटा ने चिंता व्यक्त की कि नई प्रणाली दुनिया में समस्याओं का परिचय देगी, यह इंगित करती है कि यह उन निर्णयों का ऑडिट कर रहा है जो स्वचालित प्रणालियों को उन परियोजनाओं के लिए बनाते हैं जो मनुष्यों द्वारा मूल्यांकन नहीं किए जाते हैं।

मेटा दस्तावेजों से पता चलता है कि यूरोपीय संघ में इसके उपयोगकर्ता इन परिवर्तनों से कुछ हद तक अछूता हो सकते हैं। एक आंतरिक घोषणा में कहा गया है कि यूरोपीय संघ में उत्पादों और उपयोगकर्ता डेटा के लिए निर्णय लेना और निरीक्षण आयरलैंड में मेटा के यूरोपीय मुख्यालय के साथ रहेगा। यूरोपीय संघ के पास ऑनलाइन प्लेटफार्मों को नियंत्रित करने वाले नियम हैं, जिनमें शामिल हैं अंकीय सेवा अधिनियमजिसमें मेटा सहित कंपनियों को अपने प्लेटफार्मों को अधिक सख्ती से पुलिस करने और उपयोगकर्ताओं को हानिकारक सामग्री से बचाने की आवश्यकता होती है।

उत्पाद समीक्षा प्रक्रिया में कुछ परिवर्तन थे पहले रिपोर्ट किया गया जानकारी द्वारा, एक तकनीकी समाचार साइट। एनपीआर द्वारा देखे गए आंतरिक दस्तावेजों से पता चलता है कि कर्मचारियों को कंपनी के बाद लंबे समय तक नहीं होने के बारे में सूचित किया गया था अपने तथ्य-जाँच कार्यक्रम को समाप्त कर दिया और इसकी अभद्र भाषा नीतियों को ढीला कर दिया।

एक साथ लिया गया, परिवर्तन अधिक अनर्गल भाषण के पक्ष में मेटा में एक नए जोर को दर्शाते हैं और अधिक तेजी से अपने ऐप्स को अपडेट करते हैं – विभिन्न गार्ड्रिल्स के विघटनकारी ने अपने प्लेटफार्मों के दुरुपयोग पर अंकुश लगाने के लिए वर्षों से अधिनियमित किया है। कंपनी में बड़ी पारियों का भी राष्ट्रपति ट्रम्प के साथ करीने के लिए सीईओ मार्क जुकरबर्ग के प्रयासों का पालन किया गया, जिनके चुनावी जीत जुकरबर्ग ने “सांस्कृतिक टिपिंग पॉइंट” कहा है।

जोखिमों का आकलन करने के लिए तेजी से आगे बढ़ रहा है ‘आत्म-पराजय ‘?

उत्पाद समीक्षाओं में बदलाव को चलाने वाला एक अन्य कारक एक व्यापक है, साल भर का धक्का Tiktok, Openai, Snap और अन्य तकनीकी कंपनियों से बढ़ती प्रतिस्पर्धा के बीच कंपनी को तेजी से आगे बढ़ने में मदद करने के लिए AI को टैप करने के लिए।

मेटा ने कहा कि इस सप्ताह की शुरुआत में वह अपनी सामग्री मॉडरेशन नीतियों को लागू करने में मदद करने के लिए एआई पर अधिक भरोसा कर रहा है।

“हम देखने लगे हैं [large language models] चुनिंदा नीति क्षेत्रों के लिए मानव प्रदर्शन से परे संचालन, “कंपनी ने अपने नवीनतम में लिखा है त्रैमासिक अखंडता रिपोर्ट। इसने कहा कि यह उन एआई मॉडल का उपयोग कर रहा है जो कुछ पदों को स्क्रीन करने के लिए है कि कंपनी “अत्यधिक आश्वस्त” है, इसके नियमों को नहीं तोड़ते हैं।

मेटा ने कहा, “यह हमारे समीक्षकों के लिए क्षमता को मुक्त करता है, जिससे उन्हें सामग्री पर अपनी विशेषज्ञता को प्राथमिकता देने की अनुमति मिलती है।”

टेक पॉलिसी फर्म एंकर चेंज के संस्थापक और सीईओ केटी हरबथ, जिन्होंने फेसबुक पर सार्वजनिक नीति पर काम करने वाले एक दशक का समय बिताया, ने कहा कि संभावित जोखिमों को ध्वजांकित करने के लिए स्वचालित प्रणालियों का उपयोग करने से डुप्लिकेटिक प्रयासों में कटौती करने में मदद मिल सकती है।

“यदि आप जल्दी से आगे बढ़ना चाहते हैं और उच्च गुणवत्ता वाले हैं तो आपको अधिक एआई को शामिल करने की आवश्यकता है, क्योंकि मनुष्य केवल समय में इतना कुछ कर सकते हैं,” उसने कहा। लेकिन उन्होंने कहा कि उन प्रणालियों को भी मनुष्यों से चेक और बैलेंस की आवश्यकता है।

एक अन्य पूर्व मेटा कर्मचारी, जिन्होंने नाम न छापने की शर्त पर बात की थी क्योंकि वे कंपनी से भी प्रतिशोध से डरते हैं, ने सवाल किया कि क्या जोखिम आकलन पर तेजी से आगे बढ़ना मेटा के लिए एक अच्छी रणनीति है।

पूर्व कर्मचारी ने कहा, “यह लगभग आत्म-पराजय लगता है। हर बार जब वे एक नया उत्पाद लॉन्च करते हैं, तो उस पर बहुत अधिक जांच होती है-और यह जांच नियमित रूप से उन मुद्दों को पाती है जिन्हें कंपनी को अधिक गंभीरता से लेना चाहिए था,” पूर्व कर्मचारी ने कहा।

उत्पाद के लिए मेटा के मुख्य गोपनीयता अधिकारी मिशेल प्रॉटी ने अपने आंतरिक संचार उपकरण, कार्यस्थल पर एक मार्च पोस्ट में कहा कि कंपनी “मेटा के जोखिम प्रबंधन प्रक्रियाओं को विकसित करने” के उद्देश्य से “उत्पाद टीमों को सशक्त बना रही है”।

ऑटोमेशन रोल-आउट अप्रैल और मई के माध्यम से रैंपिंग कर रहा है, एक वर्तमान मेटा कर्मचारी ने उत्पाद जोखिम आकलन से परिचित किया, जो आंतरिक संचालन के बारे में सार्वजनिक रूप से बोलने के लिए अधिकृत नहीं था।

प्रॉटी ने कहा कि जोखिम समीक्षाओं को स्वचालित करना और उत्पाद टीमों को 90% मामलों में उत्पाद अपडेट द्वारा उत्पन्न संभावित जोखिमों के बारे में अधिक कहना है, जिसका उद्देश्य “निर्णय लेने को सरल बनाना है।” लेकिन कुछ अंदरूनी सूत्रों का कहना है कि जोखिम मूल्यांकन प्रक्रिया से मनुष्यों को हटाने के लिए रस्सी का सारांश उन समस्याओं को बहुत कम कर देता है जो परिवर्तनों के कारण हो सकते हैं।

“मुझे लगता है कि यह काफी गैर -जिम्मेदाराना है कि हम क्यों मौजूद हैं, इसका इरादा देखते हैं, “मेटा कर्मचारी ने जोखिम समीक्षा प्रक्रिया के करीब कहा।” हम मानव परिप्रेक्ष्य प्रदान करते हैं कि चीजें कैसे गलत हो सकती हैं। “

क्या आपके पास मेटा के परिवर्तनों के बारे में जानकारी है? सिग्नल पर एन्क्रिप्टेड संचार के माध्यम से इन लेखकों तक पहुंचें। बॉबी एलिन Ballyn.77 पर उपलब्ध है और शैनन बॉन्ड Shannonbond.01 पर उपलब्ध है