दो अधिवक्ताओं का कहना है कि संघीय सरकार का प्रस्तावित इंटरनेट सुरक्षा कानून कृत्रिम बुद्धिमत्ता चैटबॉट्स को विनियमित करने के लिए एक अच्छी शुरुआत है, लेकिन कनाडाई लोगों को उनके संभावित नुकसान से बचाने के लिए और अधिक काम करने की आवश्यकता होगी।
इस महीने की शुरुआत में हाउस ऑफ कॉमन्स में पेश किया गया बिल सी-34, कृत्रिम बुद्धिमत्ता चैटबॉट्स के पीछे की कंपनियों को विनियमित करेगा, जिससे उन्हें “जिम्मेदारी से” कार्य करने की आवश्यकता होगी।
इसमें हानिकारक सामग्री फैलाने वाले चैटबॉट्स के जोखिम को कम करने और आत्म-नुकसान, आत्महत्या या हिंसा से जुड़े मामलों के लिए संकट हस्तक्षेप प्रोटोकॉल लागू करने के उपाय शामिल हैं।
कैनेडियन आर्टिफिशियल इंटेलिजेंस एंड सिक्योरिटी अथॉरिटी के संस्थापक व्याट टेसारी एल’एलियर ने कहा कि बिल की प्रभावशीलता इस बात पर निर्भर करती है कि विवरण कैसे तैयार किए जाते हैं।
टेसारी एल’एलियर ने हाल ही में एक साक्षात्कार में कहा, “अगर बिल अच्छी तरह से तैयार किया गया है और नियमों को अच्छी तरह से लागू किया गया है तो यह एक महत्वपूर्ण पहला कदम है।”
उदाहरण के लिए, उन्होंने कहा कि एआई प्लेटफार्मों को उपयोगकर्ता की मानसिक बीमारी या आत्मघाती विचारों के संकेतों को पहचानने, उन्हें संसाधनों की ओर इंगित करने और किसी भी नुकसान को रोकने के लिए बातचीत रोकने के लिए मजबूर किया जाना चाहिए।
बीसी कंप्यूटर विज्ञान के प्रोफेसर केविन लेटन-ब्राउन ने कहा कि ओटावा को यह पता लगाने के लिए भी आगे बढ़ने की आवश्यकता होगी कि कैसे चैटबॉट अपनी प्रतिक्रियाओं से उपयोगकर्ताओं को प्रसन्न करने का प्रयास करते हैं।
कैनेडियन इंस्टीट्यूट फॉर एडवांस्ड स्टडी में आर्टिफिशियल इंटेलिजेंस के अध्यक्ष लेटन-ब्राउन ने कहा, “उपयोगकर्ता जो भी कहता है, वे उसकी पुष्टि करते हैं। उन्हें इस तरह से डिजाइन किया गया है क्योंकि लोगों को चापलूसी वाला व्यवहार पसंद है।”
“लेकिन ऐसे लोग भी हैं जिनके लिए ऐसा सुदृढीकरण वास्तव में खतरनाक हो सकता है, जैसे भ्रम से पीड़ित लोग।”
नवीनतम राष्ट्रीय समाचार प्राप्त करें
नवीनतम कनाडाई समाचार अपने इनबॉक्स में तुरंत प्राप्त करें, ताकि आप शीर्ष कहानियों से न चूकें।
विधेयक में एक नए डिजिटल सुरक्षा नियामक का निर्माण शामिल है, जिसे मंजूरी मिलने पर पूरा होने में 18 महीने लगने की उम्मीद है।
चैटबॉट्स को विनियमित करने के लिए ओटावा के प्रयास तब सामने आए हैं जब न्यू ब्रंसविक की एक मां अपनी बेटी की आत्महत्या से हुई मौत के लिए ओपनएआई को जिम्मेदार ठहराने की उम्मीद कर रही है।
क्रिस्टी कैरियर, जिन्होंने इस महीने की शुरुआत में सैन फ्रांसिस्को में कैलिफ़ोर्निया सुपीरियर कोर्ट में ओपनएआई और उसके मालिक सैम ऑल्टमैन के खिलाफ मुकदमा दायर किया था, ने कहा कि उनकी बेटी ऐलिस के लिए न्याय “सार्थक बदलाव” लाने के लिए उसकी कहानी का उपयोग करने जैसा है।
कैरियर ने हाल ही में एक साक्षात्कार में द कैनेडियन प्रेस को बताया, “ऐसा प्रतीत होता है कि किसी दिन, अगर मैं पोते-पोतियों के लिए भाग्यशाली रहा, तो मुझे उनके उसी खरगोश बिल में गिरने के बारे में चिंता करने की ज़रूरत नहीं होगी।”
कैरियर अदालत से ओपनएआई को खुद को नुकसान पहुंचाने वाली बातचीत पर “कठोर रोक” लागू करने और स्वतंत्र सुरक्षा समीक्षा से गुजरने के लिए मजबूर करने की मांग कर रहा है।
चैटजीपीटी के साथ ऐलिस की कुछ बातचीत मुकदमे में शामिल हैं। मुकदमे में आरोप लगाया गया है कि जब चैटबॉट ने शुरू में उसे आत्महत्या के बारे में बात करने पर मदद लेने की सलाह दी, तो बाद में इसने संभावित हानिकारक रवैये को मजबूत किया और उसे खुद को अलग-थलग कर दिया।
मुकदमे में आरोप लगाया गया है कि बड़ी जीभ वाली मॉडल ने एक बिंदु पर सहायता लाइनों के प्रति ऐलिस की नापसंदगी को दोहराया और कहा कि वे “बिल्कुल खतरनाक महसूस कर सकते हैं” और सूट में स्क्रीनशॉट के अनुसार वह “वास्तविक, सौम्य समर्थन” की हकदार है।
ऐलिस द्वारा पहली बार बॉट को आत्महत्या की सूचना देने के एक साल से अधिक समय बाद, उसने जुलाई 2025 में मॉन्ट्रियल में आत्महत्या कर ली।
आरोपों का अदालत में परीक्षण नहीं किया गया है, और ओपनएआई ने टिप्पणी के लिए कई अनुरोधों का जवाब नहीं दिया।
टेसारी एल’एलियर ने कहा कि कैरियर जैसे मुकदमे कंपनियों को संदेश भेजते हैं कि अगर उनके प्लेटफॉर्म पर बाधाएं स्थापित नहीं की गईं तो उन्हें “कीमत चुकानी होगी”। उन्होंने कहा कि वे कानून निर्माताओं पर भी निगरानी रखने का दबाव डाल रहे हैं जिससे ऐलिस जैसी मौतों को रोका जा सके।
टेसारी ने एल’एलियर को बताया, “अगर ये नियम लागू किए गए होते, तो शायद इससे बहुत सारी जिंदगियां बच जातीं, और शायद उनकी भी।”
यह पूछे जाने पर कि क्या इंटरनेट सुरक्षा कानून ऐलिस जैसी मौतों को रोक सकता है, संघीय विज्ञान विभाग ने कहा कि वह अदालत में लंबित मामलों पर टिप्पणी नहीं कर सकता।
हालाँकि, विभाग ने कहा कि सरकार, कानून के माध्यम से, “कनाडाई लोगों को ऑनलाइन सुरक्षित रखने और यह सुनिश्चित करने के लिए प्रतिबद्ध है कि नुकसान का वास्तविक जोखिम होने पर डिजिटल प्लेटफ़ॉर्म पर उचित सुरक्षा हो।”
जबकि नियामक और कृत्रिम बुद्धिमत्ता प्लेटफ़ॉर्म आत्म-नुकसान को प्रोत्साहित करने के बारे में चिंताओं को दूर करने में सक्षम हो सकते हैं, लीटन-ब्राउन ने कहा कि वह कृत्रिम बुद्धिमत्ता के प्रति लगाव विकसित करने वाले लोगों की व्यापक समस्या के बारे में चिंतित थे।
“यदि आप अनुभव कर रहे हैं कि किसी बड़े, पहचानहीन निगम द्वारा बनाए गए कंप्यूटर कोड के एक टुकड़े के साथ एक वास्तविक, कमजोर मानवीय संबंध है, जो वास्तव में आपके सर्वोत्तम हितों को ध्यान में नहीं रखता है, तो यह कई मायनों में बिल्कुल खतरनाक हो सकता है,” उन्होंने कहा।
“और मुझे लगता है कि हमारे समाज को वास्तव में इस बारे में सावधानी से सोचने की ज़रूरत है ताकि यह सुनिश्चित हो सके कि हम बहुत बुरी जगह पर न पहुँच जाएँ।”
– आन्या कैराडेला की फाइलों के साथ।
© 2026 कैनेडियन प्रेस
