अनलिसिंग के ब्लाइंड स्पॉट्स: ओवर-अनलेरिंग और प्रोटोटाइपिकल रिलर्निंग अटैक

ARXIV: 2506.01318V1 घोषणा प्रकार: नया सार: मशीन अनलारिंग (म्यू) का उद्देश्य एक प्रशिक्षित मॉडल से एक निर्दिष्ट भूलने के सेट को महंगा नहीं करना है, फिर भी मौजूदा तकनीकों ने दो महत्वपूर्ण अंधे स्पॉट को अनदेखा कर दिया है: “ओवर-इन-इन-इन-लॉन्गिंग” को भूल गए डेटा को फिर से शुरू किया गया है, और पोस्ट-हॉक “रिलियरिंग” अटैक “अटैक। हम सबसे पहले ओवर-अनलेरिंग मीट्रिक OU@{\ epsilon} को प्राप्त करते हैं, जो कि फ़ॉरगेट सेट के पास के क्षेत्र को संपार्श्विक क्षति का प्रतिनिधित्व करता है, जहां मुख्य रूप से ओवर-अनलिंगिंग दिखाई देती है। इसके बाद, हम एमयू, यानी, प्रोटोटाइपिक रिलर्जिंग अटैक पर एक अप्रत्याशित रिलेटिंग थ्रेट को उजागर करते हैं, जो केवल कुछ नमूनों के साथ भूल वर्ग के प्रति-क्लास प्रोटोटाइप का शोषण करता है, और आसानी से पूर्व-अपूर्ण प्रदर्शन को पुनर्स्थापित करता है। दोनों नेत्रहीन धब्बों का मुकाबला करने के लिए, हम स्पॉटर का परिचय देते हैं, एक प्लग-एंड-प्ले उद्देश्य जो (i) को जोड़ता है (i) पास के क्षेत्र पर एक नकाबपोश ज्ञान-डिस्टिलेशन पेनल्टी को भूल जाता है, जो कि ou@{\ epsilon} को दबाने के लिए सेट करने के लिए सेट किया गया है, और (ii) एक इंट्रा-क्लास फैलाव हानि जो स्कैटर्स भूल-कुलीन रिलियरिंग हमला करता है। CIFAR-10 पर, मान्यताओं में से एक के रूप में, Spotter आधार रेखा के 0.05x से नीचे ou@{\ epsilon} को कम कर देता है, ड्राइव 0%तक सटीकता को भूल जाता है, मूल के साथ अंतर के 1%के भीतर रिटेन सेट की सटीकता को संरक्षित करता है, और बिना किसी संयोग को बनाए रखने के बिना प्रोटोटाइप-अटैक से इनकार करता है। यह पुष्टि करता है कि स्पॉटर अनलेरिंग के ब्लाइंड स्पॉट का एक व्यावहारिक उपाय है।