एलायंस फॉर चिल्ड्रेन राइट्स ने चेतावनी दी है कि पर्याप्त विनियमन के बिना कृत्रिम बुद्धिमत्ता प्रौद्योगिकी के तेजी से विकास से बच्चों को “बहुत वास्तविक खतरों” का सामना करना पड़ता है।
गठबंधन ने यह चेतावनी तब जारी की जब राजनेता, विशेषज्ञ और राजनीतिक प्रतिनिधि बुधवार को कृत्रिम बुद्धिमत्ता और जवाबदेही पर एक सम्मेलन के लिए डबलिन में एकत्र हुए।
संगठन ओरेचटास में एआई विनियमन विधेयक पर आगामी विधायी बहस से पहले बच्चों के लिए एआई के खतरों की जांच करने के लिए नीति निर्माताओं को एक साथ लाने के लिए एक कार्यक्रम आयोजित कर रहा है।
डिजिटल नीति विशेषज्ञ लिज़ कैरोलन का मुख्य भाषण तकनीकी विकास की गति और मौजूदा सुरक्षा उपायों की पर्याप्तता के बारे में चिंताओं को उजागर करेगा।
ऑनलाइन सुरक्षा समन्वयक नोएलीन ब्लैकवेल से अपेक्षा की जाती है कि वह इस बात पर प्रकाश डालें कि वह बच्चों को नुकसान पहुंचाने वाले ऑनलाइन नुकसान के बढ़ते स्तर को क्या कहती है।
सुश्री ब्लैकवेल ने कहा, “एआई तकनीक अपने आप में कोई समस्या नहीं है।”
“यह अनियमित या खराब विनियमित उपयोग है। उचित नियामक संरचना के बिना, जब ये जोखिम बच्चों के लिए वास्तविकता बन जाते हैं तो हम जिम्मेदार लोगों की पहचान नहीं कर सकते हैं या उन्हें जवाबदेह नहीं ठहरा सकते हैं।”
एलायंस एक समर्पित हेल्पलाइन प्रदान करता है जो बच्चों के अधिकारों के संबंध में निःशुल्क, गोपनीय कानूनी जानकारी और सलाह प्रदान करती है।
संगठन द्वारा जारी आंकड़ों के अनुसार, उसे 2025 में 61,317 रिपोर्टें मिलीं, जिनमें से 54,603 कथित बाल यौन शोषण सामग्री से संबंधित थीं।
इनमें से 49,808 की पुष्टि की गई और उन्हें हटाने की कार्रवाई के लिए कानून प्रवर्तन के पास भेजा गया, जो पिछले वर्ष से 10.8% की वृद्धि है।
यह भी बताया गया कि मूल्यांकन की गई 99.6% सामग्री स्रोत पर ही हटा दी गई थी। इसी अवधि के दौरान, कृत्रिम बुद्धिमत्ता का उपयोग करके बनाई गई बाल यौन शोषण सामग्री की 1,544 छवियां खोजी गईं।
समूह ने यूरोपीय संसद की अनुसंधान सेवा के अनुमान का हवाला दिया कि लगभग 98% डीपफेक अश्लील हैं। उन्होंने अनुमानों की ओर भी इशारा किया कि 2025 में लगभग 8 मिलियन डीपफेक वितरित किए जाएंगे, जो 2023 में 500,000 से काफी अधिक है।
आर्टिफिशियल इंटेलिजेंस बिल पर ओरेचटास बहस से पहले, बाल अधिकार गठबंधन ने प्रस्तावित कानून में कमियों के रूप में इसे देखने की आलोचना की है।
इसका तर्क है कि यह बच्चों को एक कमजोर श्रेणी के रूप में नहीं पहचानता है और डिजिटल डेटा की सुरक्षा सुनिश्चित करने के लिए नियुक्त प्रमुख अधिकारियों की निगरानी जिम्मेदारियों पर पर्याप्त ध्यान नहीं देता है।
संगठन ने कहा कि जहां एआई महत्वपूर्ण अवसर प्रदान करता है, वहीं मजबूत सुरक्षा की कमी के कारण एल्गोरिथम सिस्टम द्वारा तेजी से आकार ले रहे ऑनलाइन वातावरण में बच्चों को हानिकारक सामग्री, शोषण और हेरफेर का खतरा है।
उन्होंने मजबूत कानूनी ढाँचे का आह्वान किया जो यह सुनिश्चित करे कि नवाचार के साथ-साथ बाल सुरक्षा एक प्राथमिकता है, उन्होंने चेतावनी दी कि वर्तमान दृष्टिकोण सोशल मीडिया प्लेटफार्मों को विनियमित करने में देखी गई पिछली विफलताओं को दोहराने का जोखिम उठाते हैं।
