टंबलर रिज मास शूटर द्वारा चैटजीपीटी: एनपीआर के उपयोग पर परिवारों ने ओपनएआई पर मुकदमा दायर किया

घायल और मारे गए लोगों के परिवार एक स्कूल में गोलीबारी टम्बलर रिज में, ब्रिटिश कोलंबिया लापरवाही के लिए ओपनएआई पर मुकदमा कर रहा है और शूटर को चैटजीपीटी का खतरनाक रूप से दोषपूर्ण संस्करण प्रदान कर रहा है।

सैन फ्रांसिस्को में संघीय अदालत में दायर सात मुकदमों में आरोप लगाया गया है कि ओपनएआई ऐसी कार्रवाई करने में विफल रही जो 10 फरवरी को हुई गोलीबारी में चोटों और मौतों को रोक सकती थी। उनका दावा है कि कंपनी चैटजीपीटी के साथ शूटर की बातचीत को अधिकारियों को रिपोर्ट करने में विफल रही, और चैटजीपीटी स्वयं एक दोषपूर्ण उत्पाद था जिसने शूटर को चुनौती नहीं दी या उसे वास्तविक दुनिया की मदद लेने का निर्देश नहीं दिया।

ये मुकदमे एक तकनीकी कंपनी को अपने उत्पादों के डिजाइन के लिए जिम्मेदार ठहराने की नवीनतम कोशिश हैं, जो कि एक बार का अनोखा कानूनी दृष्टिकोण है। तेजी से उपयोग किया जा रहा है चैटबॉट निर्माताओं, सोशल मीडिया और अन्य प्लेटफार्मों के खिलाफ।

एडेलसन ने एक साक्षात्कार में एनपीआर को बताया कि जिन लोगों ने अपने प्रियजनों को खोया है, उनके लिए “कानूनी व्यवस्था ऐसा कुछ नहीं कर सकती जो उन्हें फिर से स्वस्थ बना सके।” उन्होंने कहा कि उन्हें उम्मीद है कि परीक्षण ओपनएआई नेतृत्व को ध्यान में रखेंगे: “उन्हें ग्रह पर सबसे शक्तिशाली उपभोक्ता तकनीक पर भरोसा नहीं किया जाना चाहिए।”

मुकदमों के जवाब में एक बयान में, ओपनएआई ने कहा कि हिंसा करने में सहायता के लिए अपने उपकरणों का उपयोग करने के लिए उसकी “शून्य सहनशीलता” नीति है:

ओपनएआई के प्रवक्ता ने एक ईमेल में एनपीआर को बताया, “हमने पहले से ही अपने सुरक्षा उपायों को मजबूत कर लिया है, जिसमें संकट के संकेतों पर चैटजीपीटी की प्रतिक्रिया में सुधार करना, लोगों को स्थानीय सहायता और मानसिक स्वास्थ्य संसाधनों से जोड़ना शामिल है।”

एक लंबे ब्लॉग पोस्ट में मंगलवार देर रात प्रकाशित हुआओपनएआई ने अपनी नीतियों को आगे समझाया: “जब बातचीत दूसरों को नुकसान पहुंचाने के आसन्न और विश्वसनीय जोखिम का संकेत देती है, तो हम कानून प्रवर्तन को सूचित करते हैं।”

“जीवन से अधिक लाभ”

टम्बलर रिज पर हुई गोलीबारी कनाडा के इतिहास की सबसे घातक घटनाओं में से एक है। अधिकारियों के अनुसार, यह तब हुआ जब 18 वर्षीय जेसी वान रूटसेलेर एक लंबी बंदूक और एक संशोधित हैंडगन के साथ स्थानीय माध्यमिक विद्यालय में दाखिल हुआ। वैन रूटसेलेर ने खुद को मारने से पहले पांच छात्रों और एक शिक्षक की हत्या कर दी। अधिकारियों को बाद में पता चला कि स्कूल आने से पहले उसने अपनी मां और 11 वर्षीय सौतेले भाई की भी उनके घर पर हत्या कर दी थी। हमले में करीब दो दर्जन अन्य घायल हो गये.

बुधवार को दायर मुकदमों में आरोप लगाया गया है कि चैटजीपीटी और विशेष रूप से मॉडल जीपीटी-4ओ ने टंबलर रिज की घटनाओं में महत्वपूर्ण भूमिका निभाई। गोलीबारी में गंभीर रूप से घायल 12 वर्षीय माया गेबाला की ओर से दर्ज की गई शिकायतों में से एक में आरोप लगाया गया है कि वैन रूटसेलेर शूटिंग से महीनों पहले चैटजीपीटी पर थी, और 2025 के जून में, ओपनएआई की स्वचालित प्रणाली ने उसके खाते को “बंदूक हिंसा गतिविधि और योजना” के लिए चिह्नित किया था।

एक सुरक्षा टीम ने सामग्री की समीक्षा की और ओपनएआई प्रबंधन से अधिकारियों को सूचित करने का आग्रह किया, लेकिन शिकायत में आरोप लगाया गया कि कंपनी के नेतृत्व ने इसके बजाय खाते को निष्क्रिय करने का विकल्प चुना। मुकदमे में तर्क दिया गया है कि वे भी कार्रवाई करने में विफल रहे, जब शूटर ने दूसरा खाता बनाया और चैटजीपीटी के साथ अपनी बातचीत जारी रखी।

पिछले हफ्ते, OpenAI के सीईओ सैम ऑल्टमैन ने समुदाय से माफ़ी मांगी:

“मुझे गहरा खेद है कि हमने जून में प्रतिबंधित किए गए खाते के बारे में कानून प्रवर्तन को सचेत नहीं किया।” उन्होंने लिखा है. “आगे बढ़ते हुए, हमारा ध्यान सरकार के सभी स्तरों के साथ काम करने पर रहेगा ताकि यह सुनिश्चित करने में मदद मिल सके कि ऐसा दोबारा कभी न हो।”

आसन्न खतरे के बारे में अधिकारियों को सूचित करने में कथित रूप से विफल रहने के अलावा, मुकदमे में दावा किया गया है कि ओपनएआई ने जानबूझकर जनता के लिए एक दोषपूर्ण उत्पाद पेश किया है।

गेबाला की शिकायत में कहा गया है, “टम्बलर रिज हमला ओपनएआई द्वारा जानबूझकर किए गए डिजाइन विकल्पों का एक पूरी तरह से अनुमानित परिणाम था, जो इस बात की पूरी जानकारी के साथ किया गया था कि ये विकल्प कहां ले गए।” “GPT-4o को उपयोगकर्ताओं के हिंसक विचारों को चुनौती देने, उन्हें बाधित करने, या उपयोगकर्ताओं को वास्तविक दुनिया की मदद के लिए निर्देशित करने के बजाय स्वीकार करने, सुदृढ़ करने और विस्तृत करने के लिए बनाया गया था।”

टंबलर रिज के आसपास की घटनाएं “नैतिक खतरे का यथासंभव स्पष्ट प्रदर्शन है जो ओपनएआई जैसी जगह पर सुरक्षा पर अधिकार को केंद्रीकृत करने के साथ आता है,” टिम मार्पल ने कहा, जिन्होंने खतरों को पहचानने के लिए जिम्मेदार डिवीजन में ओपनएआई में काम किया था। मार्पल, जो अब मेडेन लैब्स के सह-निदेशक हैं, एक गैर-लाभकारी संस्था जो एआई जोखिमों की पहचान करने के लिए काम करती है, ने कहा कि उन्हें इस बात पर आश्चर्य नहीं हुआ कि कंपनी अधिकारियों से संपर्क करने में विफल रही है।

मार्पल, जो नवीनतम मुकदमे से जुड़े नहीं हैं, ने कहा, “जब मैंने वहां काम किया और जब से मैंने छोड़ा है, तब से मैं उनके व्यवहार में केवल अक्षमता और लालच देख सकता हूं।” उनका मानना ​​है कि इसी तरह की त्रासदियों को दोबारा होने से रोकने के लिए अनिवार्य रिपोर्टिंग कानूनों सहित विनियमन की आवश्यकता है।

स्वतंत्र भाषण संबंधी चिंताएँ

लेकिन हर कोई इस बात से सहमत नहीं है कि मुकदमों और विनियमन से टम्बलर रिज जैसी त्रासदियों को रोकने में मदद मिलेगी।

सांता क्लारा यूनिवर्सिटी स्कूल ऑफ लॉ में शोध के एसोसिएट डीन एरिक गोल्डमैन ने कहा, “किसी के अत्याचार करने का कारण अक्सर स्पष्ट नहीं होता है।” गोल्डमैन को चिंता है कि अत्यधिक कड़े विनियमन से चैटबॉट उन लोगों के लिए कम उपयोगी हो सकते हैं जिन्हें उनकी आवश्यकता है। वह इस विचार को भी खारिज करते हैं कि चैटबॉट्स को दोषपूर्ण उत्पाद माना जाना चाहिए। उनके लिए, मुद्दा वास्तव में अभिव्यक्ति की स्वतंत्रता का है।

“मैं इस तरह के मुकदमे के बारे में कुछ सचमुच कठिन प्रश्न पूछूंगा। क्या यह वास्तव में भाषण को विनियमित करने का सही तरीका है, भले ही, कुछ मामलों में, भाषण लोगों को अपने जीवन में गलत विकल्प चुनने में योगदान दे सकता है?” गोल्डमैन ने कहा.

बहरहाल, गोल्डमैन ने कहा कि लापरवाही और दोषपूर्ण उत्पाद की शिकायतें बढ़ रही हैं। “ये कानूनी सिद्धांत इंटरनेट कानून की नई सीमाएँ हैं,” उन्होंने कहा।

और भी आने को है

एआई कंपनियों में नागरिक और आपराधिक जांच की संख्या बढ़ रही है, टेक जस्टिस लॉ की कार्यकारी निदेशक मीताली जैन सहमत हैं, जो तकनीकी उद्योग की आलोचना करने वाला एक वकालत समूह है जो बड़ी कंपनियों के खिलाफ कई मुकदमों में शामिल रहा है।

जैन के समूह ने कंपनी कैरेक्टर.एआई द्वारा बनाए गए चैटबॉट के साथ व्यापक बातचीत के बाद आत्महत्या से मरने वाले एक किशोर के परिवार का प्रतिनिधित्व करने में मदद की। वह मामला अभी निपटान वार्ता में है, लेकिन वह एआई चैटबॉट्स के अधिक से अधिक उदाहरण सुन रही है जो समस्याएँ पैदा कर रहे हैं: “पिछले वर्ष में हमें कई अलग-अलग कंपनियों के बॉटों द्वारा ऐसे लोगों की कहानियाँ मिलनी शुरू हो गई हैं जिन्हें नुकसान पहुँचाया गया है”, उन्होंने कहा।

जैन ने कहा कि उन्हें भविष्य में बुधवार को दायर किए गए मुकदमों जैसे और भी मुकदमे देखने की उम्मीद है। मजबूत विनियमन के अभाव में, जैन ने कहा कि नागरिक दावे “एआई कंपनियों के खिलाफ एक सुरक्षा कवच प्रदान कर रहे हैं जो लापरवाही से और बिना किसी बाधा के आगे बढ़ रहे हैं।”