एलएलएम एजेंटों के साथ व्यवस्थित सुरक्षा खोज और शोषण

पेंगफेई हे और 9 अन्य लेखकों द्वारा लिखे गए को-रेडटीम: ऑर्केस्ट्रेटेड सिक्योरिटी डिस्कवरी एंड एक्सप्लॉइटेशन विद एलएलएम एजेंट्स शीर्षक वाले पेपर का एक पीडीएफ देखें।

पीडीएफ देखें
HTML (प्रयोगात्मक)

अमूर्त:बड़े भाषा मॉडल (एलएलएम) ने साइबर सुरक्षा कार्यों में सहायता करने का वादा दिखाया है, फिर भी मौजूदा दृष्टिकोण सीमित इंटरैक्शन, कमजोर निष्पादन ग्राउंडिंग और अनुभव के पुन: उपयोग की कमी के कारण स्वचालित भेद्यता खोज और शोषण के साथ संघर्ष करते हैं। हम सह-रेडटीम का प्रस्ताव करते हैं, जो एक सुरक्षा-जागरूक मल्टी-एजेंट ढांचा है जो सुरक्षा-डोमेन ज्ञान, कोड-जागरूक विश्लेषण, निष्पादन-आधारित पुनरावृत्त तर्क और दीर्घकालिक स्मृति को एकीकृत करके वास्तविक दुनिया के रेड-टीमिंग वर्कफ़्लो को प्रतिबिंबित करने के लिए डिज़ाइन किया गया है। सह-रेडटीम भेद्यता विश्लेषण को समन्वित खोज और शोषण चरणों में विघटित करता है, जिससे एजेंटों को पूर्व प्रक्षेप पथों से सीखते हुए वास्तविक निष्पादन प्रतिक्रिया के आधार पर कार्यों की योजना बनाने, निष्पादित करने, मान्य करने और परिष्कृत करने में सक्षम बनाया जाता है। चुनौतीपूर्ण सुरक्षा बेंचमार्क पर व्यापक मूल्यांकन से पता चलता है कि को-रेडटीम लगातार विभिन्न बैकबोन मॉडल में मजबूत बेसलाइन से बेहतर प्रदर्शन करता है, भेद्यता शोषण में 60% से अधिक सफलता दर और भेद्यता का पता लगाने में 10% से अधिक पूर्ण सुधार प्राप्त करता है। पृथक्करण और पुनरावृत्ति अध्ययन मजबूत और सामान्यीकरण योग्य साइबर सुरक्षा एजेंटों के निर्माण के लिए निष्पादन प्रतिक्रिया, संरचित इंटरैक्शन और मेमोरी की महत्वपूर्ण भूमिका की पुष्टि करते हैं।