खबरे

जनरेटिव सिफ़ारिश के लिए छिपा हुआ प्रसार

जनरेटिव सिफ़ारिश के लिए छिपा हुआ प्रसार

arXiv:2511.23021v1 घोषणा प्रकार: नया सार: सिमेंटिक आईडी (एसआईडी) के साथ जेनरेटिव अनुशंसा (जीआर) अपने प्रदर्शन लाभ, भाषा मॉडल एम्बेडिंग के माध्यम से प्रदान की गई सिमेंटिक जानकारी पर पूंजीकरण और अनुमान और भंडारण दक्षता के कारण पारंपरिक अनुशंसा दृष्टिकोण के एक आशाजनक विकल्प के रूप में उभरा है। एसआईडी के साथ मौजूदा जीआर ऑटोरेग्रेसिव मॉडलिंग का उपयोग करके उपयोगकर्ता के इंटरैक्शन इतिहास के अनुरूप एसआईडी के अनुक्रम की संभावना को फ्रेम करता है। हालांकि इसने कुछ सेटिंग्स में प्रभावशाली अगले आइटम भविष्यवाणी प्रदर्शन को जन्म दिया है, एसआईडी मॉडल के साथ ये ऑटोरेग्रेसिव जीआर अनुक्रमिक टोकन-वार डिकोडिंग, प्रशिक्षण डेटा के संभावित रूप से अक्षम उपयोग और टोकन के बीच लघु-संदर्भ संबंधों को सीखने के प्रति पूर्वाग्रह के कारण महंगे अनुमान से ग्रस्त हैं। एनएलपी में हाल की सफलताओं से प्रेरित होकर, हम इसके बजाय मास्क्ड डिफ्यूजन का उपयोग करके उपयोगकर्ता के एसआईडी अनुक्रम की संभावना को मॉडल करने और सीखने का प्रस्ताव करते हैं। नकाबपोश प्रसार अनुक्रम वितरण को सीखने की सुविधा के लिए असतत मास्किंग शोर को नियोजित करता है, और नकाबपोश टोकन की संभावना को सशर्त रूप से स्वतंत्र के रूप में मॉडल करता है, जो कि नकाबपोश टोकन के समानांतर डिकोडिंग की अनुमति देता है। हम गहन प्रयोगों के माध्यम से प्रदर्शित करते हैं कि हमारी प्रस्तावित पद्धति लगातार ऑटोरेग्रेसिव मॉडलिंग से बेहतर प्रदर्शन करती है। यह प्रदर्शन अंतर विशेष रूप से डेटा-बाधित सेटिंग्स में और हमारे अंतर्ज्ञान के अनुरूप मोटे-कठोर रिकॉल के संदर्भ में स्पष्ट है। इसके अलावा, हमारा दृष्टिकोण ऑटोरेग्रेसिव मॉडलिंग के बेहतर प्रदर्शन को बनाए रखते हुए अनुमान के दौरान समानांतर में कई एसआईडी की भविष्यवाणी करने के लचीलेपन की अनुमति देता है।

Share This

COMMENTS

Wordpress (0)
Disqus ( )