कनाडा के गोपनीयता आयुक्त का कहना है कि कंपनी एक्स के ग्रोक एआई चैटबॉट ने यौन डीपफेक के साथ कानून तोड़ा है

कनाडा के गोपनीयता आयुक्त (ओपीसी) के कार्यालय का कहना है कि ट्विटर उपयोगकर्ता एक्स के ग्रोक चैटबॉट ने गोपनीयता कानूनों का उल्लंघन किया है क्योंकि लॉन्च होने पर इसके एआई-संचालित छवि निर्माण सुविधा के लिए पर्याप्त सुरक्षा उपाय नहीं थे।

एक प्रेस विज्ञप्ति में, ओपीसी ने लिखा है कि “सुरक्षा की कमी ने दुनिया भर के उपयोगकर्ताओं को सहमति के बिना यौन डीपफेक बनाने और वितरित करने की अनुमति दी है, जिनमें से कई महिलाओं और बच्चों को लक्षित करते हैं।” जनवरी में, एलोन मस्क के स्वामित्व वाले स्टोर एक्स को अंतरराष्ट्रीय स्तर पर आलोचना का सामना करना पड़ा, क्योंकि लोगों ने ग्रोक को विभिन्न अवस्थाओं में महिलाओं और बच्चों की नग्न अवस्था में तस्वीरें बनाने के लिए कहा – अक्सर बिकनी में, लेकिन कभी-कभी नग्न – उनकी सहमति के बिना।

अपनी जांच के अनुसार, गोपनीयता आयुक्त फिलिप डुफ्रेसने ने कहा कि ग्रोक ने एक समय पर “6,000 से अधिक उत्पन्न किए [sexualized] प्रति घंटे छवियाँ”, जिससे कुल “लाखों” यौन डीपफेक का निर्माण हुआ। जब जनवरी में पहली बार खबर सामने आई, तो कनाडाई एआई मंत्री इवान सोलोमन ने इसकी अनुमति देने के लिए एक्स की निंदा की, लेकिन मंच पर प्रतिबंध लगाने से इनकार कर दिया। सांसदों ने अंततः “लगभग-नग्न” छवियों वाले डीपफेक को अपराध घोषित करने के लिए अप्रैल में प्रस्तावित कानून में संशोधन किया।

इस सब के बावजूद, न तो एक्स और न ही अब ऑनलाइन मस्क ने कभी जिम्मेदारी का दावा किया है। मस्क ने अपनी ओर से कहा कि उन्हें ग्रोक द्वारा कामुक छवियां बनाने के “वस्तुतः शून्य” उदाहरणों के बारे में पता था, जबकि एक्स ने एक आधिकारिक बयान में तर्क दिया कि ग्रोक के अनुचित अनुरोध बनाने की जिम्मेदारी मुख्य रूप से उपयोगकर्ताओं की है। सोशल मीडिया प्लेटफ़ॉर्म ने इस सुविधा को एक्स प्रीमियम सदस्यों को भुगतान करने तक सीमित करने का निर्णय लिया है – दूसरे शब्दों में, महिलाओं और नाबालिगों की अश्लील और यहां तक ​​कि नग्न छवियों से सीधे लाभ कमाना।

ओपीसी की नई रिपोर्ट में, डुफ्रेसने ने कहा कि एक्स ने तब से “नए उपाय शुरू किए हैं, जिसमें इस जोखिम को कम करने के लिए सुरक्षा उपाय शामिल हैं कि उनके उपकरण का दुरुपयोग यौन डीपफेक बनाने के लिए किया जाएगा, साथ ही उनके प्लेटफार्मों पर इस हानिकारक सामग्री का पता लगाने और हटाने के लिए सक्रिय जांच भी शामिल है।” उन्होंने यह भी नोट किया कि एक्स ने उपयोगकर्ताओं के लिए विभिन्न सुरक्षा उपायों को लागू करने के लिए प्रतिबद्ध किया है, जिसमें सुरक्षा उपायों में सुधार के लिए त्रैमासिक रिपोर्ट और तीसरे पक्ष के ऑडिट शामिल हैं।

हालाँकि, उन्होंने कहा कि उन्होंने “सिफारिश की है कि कंपनियां इन उपायों को और बेहतर बनाने के लिए अतिरिक्त उपाय करें और इस मुद्दे को संबोधित करने में अपनी प्रभावशीलता प्रदर्शित करें।” उन्होंने कहा कि “आधुनिक दुनिया के लिए डिज़ाइन किए गए आधुनिक गोपनीयता कानूनों और प्रशासनिक मौद्रिक दंड और आदेश देने की शक्तियों सहित कंपनियों को अनुपालन के लिए मजबूर करने की आवश्यकता है।”

हालाँकि, यह ध्यान दिया जाना चाहिए कि अभी भी ग्रोक द्वारा महिलाओं की यौन छवियां बनाने की खबरें हैं। नए में तारयुक्त इस सप्ताह प्रकाशित एक जांच में, प्रकाशन ने पाया कि कम से कम एक राजनेता सहित मशहूर हस्तियों की दर्जनों “नग्न” छवियां अभी भी एक्स पर बनाई और वितरित की जा रही हैं।

ओपीसी ने बार-बार डीपफेक की इन रिपोर्टों पर कोई टिप्पणी नहीं की है, लेकिन कहा है कि वह निगरानी करना जारी रखेगी कि एक्स इन उन्नत सुरक्षा उपायों को लागू करने के लिए अपने दायित्वों को कैसे पूरा करता है। इस बीच, संघीय सरकार ने 16 साल से कम उम्र के युवाओं के लिए सोशल मीडिया पर प्रतिबंध लगाने और कृत्रिम बुद्धिमत्ता चैटबॉट पर प्रतिबंध लगाने के लिए कानून का प्रस्ताव रखा है।

स्रोत: कनाडा के गोपनीयता आयुक्त का कार्यालय।