एक कनाडाई मां ने गुरुवार को अमेरिकी अदालत में ओपनएआई और उसके सीईओ सैम अल्टमैन के खिलाफ मुकदमा दायर किया, जिसमें आरोप लगाया गया कि चैटजीपीटी ने उनकी बेटी को आत्महत्या के लिए प्रेरित किया। यह नवीनतम मुकदमा है जिसमें कंपनी पर उपयोगकर्ताओं और कंपनी के चैटबॉट के बीच खतरनाक बातचीत का हिसाब देने में विफल रहने का आरोप लगाया गया है।
क्रिस्टी कैरियर ने सैन फ्रांसिस्को राज्य अदालत में दायर एक मुकदमे में कहा कि उनकी बेटी ऐलिस ने अपनी मृत्यु तक एक दर्जन से अधिक बार चैटजीपीटी को अपने आत्मघाती विचार के बारे में बताया, लेकिन ओपनएआई की सुरक्षा प्रणालियों ने कभी भी मानव समीक्षा के लिए बातचीत को चिह्नित नहीं किया या उन्हें समाप्त नहीं किया।
इसके बजाय, मुकदमे में आरोप लगाया गया है कि चैटबॉट ने ऐलिस के पार्टनर और संकट हॉटलाइन की आलोचना की, उसके नकारात्मक विचारों को मान्य किया और उसे उसके साथ संवाद जारी रखने के लिए प्रोत्साहित किया, जिससे पिछले साल 24 साल की उम्र में उसकी मृत्यु हो गई।
कैरियर ने अपने बयान में कहा, “चैटजीपीटी ने विश्वासपात्र, सबसे अच्छे दोस्त और कभी-कभी चिकित्सक की भूमिका निभाई, भले ही वह मेरे बच्चे के साथ इस तरह से सुरक्षित और जिम्मेदारी से बातचीत करने में सक्षम नहीं था।”
एक बयान में, ओपनएआई के प्रवक्ता ने स्थिति को हृदयविदारक बताया और कहा कि ऐलिस जिस चैटजीपीटी का उपयोग कर रहा था वह अब उपलब्ध नहीं है।
प्रवक्ता ने कहा, “चैटजीपीटी चिकित्सा या मानसिक स्वास्थ्य देखभाल का प्रतिस्थापन नहीं है, हम मानसिक स्वास्थ्य विशेषज्ञों की मदद से संवेदनशील और गंभीर स्थितियों पर प्रतिक्रिया करने के तरीके में सुधार करना जारी रखते हैं।”
मुकदमा, जो ओपनएआई पर चैटजीपीटी को विकसित करने में लापरवाही बरतने और उपयोगकर्ताओं को उत्पाद के खतरों के बारे में चेतावनी देने में विफल रहने का आरोप लगाता है, नुकसान की मांग करता है और ओपनएआई को अपने प्लेटफॉर्म पर आत्म-नुकसान के बारे में बातचीत को स्वचालित रूप से रोकने और चेतावनियां प्रदर्शित करने के लिए अदालत के आदेश की मांग करता है।
क्रिस्टी कैरियर के वकीलों के अनुसार, ओपनएआई पहले से ही कैलिफोर्निया राज्य अदालत में एक समन्वित कार्यवाही में आत्महत्या या खुद को नुकसान पहुंचाने वाले लोगों के परिवारों द्वारा दायर 18 समान मुकदमों का सामना कर रहा है।
मुकदमे के अनुसार, ऐलिस कैरियर मॉन्ट्रियल में एक वेब डेवलपर के रूप में काम कर रही थी, जब उसने 2023 में कंप्यूटर और गेम कंसोल के साथ समस्याओं के निवारण के लिए चैटजीपीटी का उपयोग करना शुरू किया।
अगले वर्ष, मंच के साथ उसका रिश्ता बदल गया क्योंकि ऐलिस ने अपने मानसिक स्वास्थ्य के मुद्दों के बारे में सवालों के साथ चैटजीपीटी का रुख किया।
प्लेटफ़ॉर्म ने शुरुआत में ऐलिस को संकटकालीन हॉटलाइन या आपातकालीन सेवाओं से मदद लेने की सलाह दी। लेकिन जैसे ही ओपनएआई ने अपनी प्रतिक्रियाओं को अधिक मानवीय बनाने के लिए चैटजीपीटी को अपडेट किया, मंच के साथ उसकी बातचीत गहरी हो गई, ऐलिस ने अधिक व्यक्तिगत जानकारी साझा की और चैटजीपीटी ने इस तरह जवाब दिया जैसे कि वह किसी मित्र या चिकित्सक की नकल कर रहा हो, मुकदमा कहता है।
चैटजीपीटी प्रतिक्रियाओं ने ऐलिस के साथी की आलोचना की, उसे बताया कि उसकी भावनाएँ वैध थीं, और उसे संवाद जारी रखने के लिए प्रोत्साहित किया। मुकदमे में कहा गया है कि जब ऐलिस ने कहा कि उसने अपनी जान खतरे में डाल दी है, तो “उससे फिर से संकटकालीन हॉटलाइन का ख्याल आया।”
दस्तावेज़ के अनुसार, ऐलिस ने कहा कि संकट हॉटलाइन मददगार नहीं थीं और चैटजीपीटी ने उन बयानों को दोहराया और उसकी निराशा की पुष्टि की।
ओपनएआई ने कहा कि वह अपने मॉडलों को उन लोगों का मार्गदर्शन करने के लिए प्रशिक्षित करता है जो मदद मांगने और वास्तविक संसाधनों से जुड़ने के लिए खुद को नुकसान पहुंचाने का इरादा व्यक्त करते हैं।
इसके मॉडल को उन अनुरोधों को अस्वीकार करने के लिए भी प्रशिक्षित किया जाता है जो “हिंसा को काफी बढ़ावा दे सकते हैं” और जब बातचीत में “दूसरों को नुकसान पहुंचाने का आसन्न और संभावित जोखिम” शामिल होता है, तो कानून प्रवर्तन को सूचित करने के लिए, ओपनएआई ब्लॉग पोस्ट के अनुसार, मानसिक स्वास्थ्य विशेषज्ञ सीमावर्ती मामलों का मूल्यांकन करने में मदद करते हैं।
कंपनी को स्कूल में गोलीबारी करने वालों की सहायता करने और कानून प्रवर्तन को उन वार्तालापों की रिपोर्ट करने में विफल रहने के आरोपों पर भी मुकदमों का सामना करना पड़ा है। इस महीने की शुरुआत में, फ्लोरिडा ओपनएआई पर मुकदमा करने वाला पहला अमेरिकी राज्य बन गया, जिसने कंपनी पर स्कूल के शूटरों को जानकारी प्रदान करके बच्चों को नुकसान पहुंचाने, खुद को नुकसान पहुंचाने पर मार्गदर्शन देने और युवा उपयोगकर्ताओं के बीच नशे की लत पैदा करने का आरोप लगाया।
(जो लोग संकट में हैं या जिनके मन में आत्महत्या के विचार आ रहे हैं उन्हें सलाह दी जाती है कि वे यहां सूचीबद्ध हॉटलाइन नंबरों पर कॉल करके मदद और सलाह लें।)
प्रकाशित – 12 जून, 2026 11:05 पूर्वाह्न ईएसटी।
