खतरनाक डीएनए के लिए एआई डिजाइन पिछले जैव सुरक्षा उपायों को खिसका सकते हैं, अध्ययन से पता चलता है: एनपीआर

प्रमुख बायोटेक कंपनियां जो वैज्ञानिकों के लिए मेड-टू-ऑर्डर डीएनए को मंथन करती हैं, वे खतरनाक जैविक सामग्री को बुराई करने वालों के हाथों से बाहर रखने के लिए सुरक्षा प्रदान करती हैं। वे किसी को भी खरीदने, कहने, चेचक या एंथ्रेक्स जीन को पकड़ने की कोशिश करने के लिए अपने आदेशों को स्क्रीन करते हैं।

लेकिन अब, एक नया अध्ययन जर्नल में विज्ञान यह प्रदर्शित किया है कि कैसे एआई का उपयोग उन जैव सुरक्षा प्रक्रियाओं को आसानी से दरकिनार करने के लिए किया जा सकता है।

एआई शोधकर्ताओं की एक टीम ने पाया कि प्रोटीन-डिज़ाइन उपकरणों का उपयोग विषाक्त प्रोटीन के डीएनए कोड को “पैराफ्रेज़” करने के लिए किया जा सकता है, “उन्हें फिर से लिखने के तरीकों से, जो उनकी संरचना को संरक्षित कर सकते हैं, और संभावित रूप से उनके कार्य कर सकते हैं,” एरिक होर्विट्ज़Microsoft के मुख्य वैज्ञानिक अधिकारी।

कंप्यूटर वैज्ञानिकों ने 75,000 से अधिक वेरिएंट के खतरनाक प्रोटीन के लिए डीएनए कोड उत्पन्न करने के लिए एक एआई प्रोग्राम का उपयोग किया – और डीएनए निर्माताओं द्वारा उपयोग किए जाने वाले फ़ायरवॉल लगातार उन्हें पकड़ने में सक्षम नहीं थे।

“हमारी चिंता के लिए,” होरविट्ज़ कहते हैं, “ये सुधारित अनुक्रम जैव सुरक्षा स्क्रीनिंग सिस्टम से पहले डीएनए संश्लेषण कंपनियों द्वारा दुनिया भर में इस्तेमाल किया गया था, जो खतरनाक आदेशों को चिह्नित करने के लिए फिसल गया।”

एक फिक्स जल्दी से लिखा गया और बायोसेक्योरिटी स्क्रीनिंग सॉफ्टवेयर पर थप्पड़ मारा गया। लेकिन यह सही नहीं है – यह अभी भी वेरिएंट के एक छोटे से अंश का पता लगाने में सक्षम नहीं था।

और यह सिर्फ नवीनतम एपिसोड है जिसमें दिखाया गया है कि कैसे एआई शक्तिशाली जैविक उपकरणों के संभावित दुरुपयोग के बारे में लंबे समय से चली आ रही चिंताओं को संशोधित कर रहा है।

खुले विज्ञान के संकट

“एआई-संचालित प्रोटीन डिजाइन विज्ञान में सबसे रोमांचक सीमाओं में से एक है। हम पहले से ही चिकित्सा और सार्वजनिक स्वास्थ्य में प्रगति देख रहे हैं,” होरविट्ज़ कहते हैं। “फिर भी कई शक्तिशाली प्रौद्योगिकियों की तरह, इन समान उपकरणों का अक्सर दुरुपयोग किया जा सकता है।”

सालों से, जीवविज्ञानी ने चिंतित हैं कि उनके कभी-कभी सुधार करने वाले डीएनए टूल को शक्तिशाली बायोथ्रीट को डिजाइन करने के लिए दोहन किया जा सकता है, जैसे अधिक वायरल वायरस या आसानी से फैलने वाले विषाक्त पदार्थ। वे भी हैं बहस क्या यह वास्तव में कुछ प्रयोगात्मक परिणामों को खुले तौर पर प्रकाशित करने के लिए बुद्धिमान है, भले ही खुली चर्चा और स्वतंत्र प्रतिकृति विज्ञान का जीवनकाल रहा हो।

इस नए अध्ययन को प्रकाशित करने वाले शोधकर्ताओं और पत्रिका ने अपनी कुछ जानकारी वापस रखने का फैसला किया, और यह प्रतिबंधित कर देगा कि कौन अपने डेटा और सॉफ्टवेयर तक पहुंच प्राप्त करता है। उन्होंने एक तृतीय पक्ष, एक गैर-लाभकारी को सूचीबद्ध किया, जिसे अंतर्राष्ट्रीय जैव सुरक्षा और विज्ञान के लिए जैव सुरक्षा पहल कहा जाता है, जिसके बारे में निर्णय लेने के लिए कि किसके पास एक वैध आवश्यकता है।

होरविट्ज़ कहते हैं, “यह पहली बार है जब इस तरह के मॉडल को एक वैज्ञानिक प्रकाशन में खतरनाक जानकारी साझा करने के जोखिमों का प्रबंधन करने के लिए नियोजित किया गया है।”

जो वैज्ञानिक भविष्य के जैव सुरक्षा खतरों के बारे में चिंतित हैं, उन्होंने कुछ समय के लिए इस काम की प्रशंसा की।

“मेरी समग्र प्रतिक्रिया अनुकूल थी,” कहते हैं आर्टुरो कैसडेवालजॉन्स हॉपकिंस विश्वविद्यालय में एक माइक्रोबायोलॉजिस्ट और इम्यूनोलॉजिस्ट। “यहां हमारे पास एक ऐसी प्रणाली है जिसमें हम कमजोरियों की पहचान कर रहे हैं। और जो आप देख रहे हैं वह ज्ञात कमजोरियों को ठीक करने का एक प्रयास है।”

परेशानी यह है कि कैसादेवल कहते हैं, “हम किस कमजोरियों के बारे में नहीं जानते हैं, इसके लिए भविष्य के सुधारों की आवश्यकता होगी?”

वह नोट करता है कि इस टीम ने वास्तव में एआई द्वारा डिज़ाइन किए गए किसी भी प्रोटीन को उत्पन्न करने के लिए कोई प्रयोगशाला काम नहीं किया है, यह देखने के लिए कि क्या वे वास्तव में जैविक मूल खतरों की गतिविधि की नकल करेंगे।

इस तरह का काम एक महत्वपूर्ण वास्तविकता जांच होगी क्योंकि समाज एआई से इस तरह के उभरते खतरे के साथ जूझता है, कैसादेवल कहते हैं, लेकिन करना मुश्किल होगा, क्योंकि यह अंतरराष्ट्रीय संधियों द्वारा जैविक हथियारों के विकास को प्रतिबंधित करने से रोक सकता है।

एक एआई “फ्रेट ट्रेन” से आगे निकलना

यह पहली बार नहीं है जब वैज्ञानिकों ने जैविक सेटिंग में एआई के पुरुषवादी उपयोग की क्षमता का पता लगाया है।

उदाहरण के लिए, कुछ साल पहले, एक और टीम आश्चर्य यदि AI का उपयोग उपन्यास अणुओं को उत्पन्न करने के लिए किया जा सकता है जिसमें तंत्रिका एजेंटों के समान गुण होंगे। छह घंटे से भी कम समय में, एआई उपकरण ने 40,000 अणुओं को विनम्रता से नियंत्रित किया जो अनुरोधित मानदंडों को पूरा करते हैं।

यह न केवल ज्ञात रासायनिक युद्ध एजेंटों के साथ आया जैसे कि कुख्यात एक जिसे वीएक्स कहा जाता है, बल्कि कई अज्ञात अणुओं को भी डिजाइन किया गया था जो प्रशंसनीय दिखते थे और अधिक विषाक्त होने की भविष्यवाणी की गई थी। शोधकर्ताओं ने लिखा, “हमने अपने सहज सामान्य मॉडल को दवा के एक सहायक उपकरण से संभावित घातक अणुओं के एक जनरेटर में बदल दिया था।”

उस टीम ने भी खुले तौर पर उन रासायनिक संरचनाओं को प्रकाशित नहीं किया, जिन्हें एआई टूल ने तैयार किया था, या उन्हें प्रयोगशाला में बनाया था, “क्योंकि उन्हें लगा कि वे बहुत खतरनाक थे,” डेविड रिलमैनस्टैनफोर्ड विश्वविद्यालय में एक शोधकर्ता। “उन्होंने बस कहा, हम आपको एक चेतावनी के रूप में इस बारे में बता रहे हैं।”

Relman इस नवीनतम अध्ययन के बारे में सोचता है कि कैसे AI का उपयोग सुरक्षा स्क्रीनिंग से बचने के लिए किया जा सकता है और इसे संबोधित करने का एक तरीका खोजने के लिए, प्रशंसनीय है। उसी समय, वे कहते हैं, यह सिर्फ दिखाता है कि एक बहुत बड़ी समस्या है।

“मुझे लगता है कि यह हमें झूलता हुआ छोड़ देता है और सोचता है, ‘ठीक है, वास्तव में हम क्या करने वाले हैं?” “वह कहते हैं। “हम एक फ्रेट ट्रेन से आगे कैसे निकलते हैं जो कि पटरियों को दूर करने के खतरे में, कभी -कभी तेज और पटरियों को तेज करने और दौड़ने के लिए है?”

इस तरह की चिंताओं के बावजूद, कुछ जैव सुरक्षा विशेषज्ञों को आश्वस्त होने के कारण देखते हैं।

ट्विस्ट बायोसाइंस मेड-टू-ऑर्डर डीएनए का एक प्रमुख प्रदाता है, और पिछले दस वर्षों में, इसे पांच बार से कम कानून प्रवर्तन के आदेशों का उल्लेख करना पड़ा है, जेम्स डिगेंस, पॉलिसी के प्रमुख और बायोसेक्युरिटी ट्विस्ट बायोसाइंस और इंटरनेशनल जीन सिंथेसिस कंसोर्टियम, एक उद्योग समूह में निदेशक मंडल के कुर्सी पर कहते हैं।

“यह एक अविश्वसनीय रूप से दुर्लभ चीज है,” वे कहते हैं। “साइबर सुरक्षा की दुनिया में, आपके पास अभिनेताओं की एक मेजबान है जो सिस्टम को एक्सेस करने की कोशिश कर रहे हैं। यह बायोटेक में ऐसा नहीं है। जो लोग वास्तव में दुरुपयोग बनाने की कोशिश कर रहे हैं, उनमें से वास्तविक संख्या शून्य के बहुत करीब हो सकती है। और इसलिए मुझे लगता है कि ये सिस्टम इसके खिलाफ एक महत्वपूर्ण बल्ल्क हैं, लेकिन हम सभी को इस तथ्य में आराम मिलना चाहिए कि यह एक सामान्य परिदृश्य नहीं है।”