एआई यौन शोषण की आशंकाओं के बीच ब्रिटिश माता-पिता ने बच्चों की तस्वीरें साझा करने के खिलाफ चेतावनी दी

यूके की राष्ट्रीय अपराध एजेंसी ने माता-पिता को सलाह दी है कि वे एआई-जनित यौन शोषण सामग्री की वृद्धि से निपटने के लिए ऐतिहासिक मार्गदर्शन के तहत अपने बच्चों की तस्वीरों को सार्वजनिक रूप से ऑनलाइन प्रदर्शित न करें।

एनसीए और बाल सुरक्षा निगरानी संस्था इंटरनेट वॉच फाउंडेशन द्वारा जारी की गई सलाह, माता-पिता और देखभाल करने वालों को अपने सोशल मीडिया खातों को निजी बनाने या “करीबी दोस्तों” के समूह के माध्यम से अपने बच्चों की तस्वीरें साझा करने के लिए प्रोत्साहित करती है।

एनसीए और आईडब्ल्यूएफ ने इस बात पर जोर दिया कि वे माता-पिता को यह नहीं बता रहे हैं कि ऑनलाइन कैसे व्यवहार करना है, लेकिन उन्होंने कहा कि उन्हें समस्या के बारे में पता होना चाहिए और इससे कैसे निपटना चाहिए।

मार्गदर्शन में पुरानी तस्वीरों के लिए सोशल मीडिया खातों की जांच करने की भी सिफारिश की गई है, जिनका उपयोग शिकारियों द्वारा किया जा सकता है, और उदाहरण के लिए, स्कूलों या खेल क्लबों के साथ फोटो सहमति समझौतों की समीक्षा की जा सकती है, जिन पर वर्षों पहले हस्ताक्षर किए गए होंगे, कृत्रिम बुद्धिमत्ता में सफलताओं से छवि हेरफेर संभव होने से पहले।

एनसीए के वरिष्ठ प्रबंधक टिम राइट ने कहा, “हम माता-पिता और देखभाल करने वालों को आज कुछ सरल कदम उठाने के लिए प्रोत्साहित करते हैं।”

गाइड तीन चरणों की रूपरेखा प्रस्तुत करता है: सोशल मीडिया खातों पर गोपनीयता सेटिंग्स की समीक्षा करना; यह जाँचना कि उनके बच्चों की छवियाँ कौन देख सकता है; और लोगों और संगठनों को बच्चों की तस्वीरें ऑनलाइन पोस्ट करने की अनुमति देने के बारे में खुली चर्चा करना।

एनसीए ने कहा कि अधिकांश माता-पिता और देखभालकर्ता इस बात से अनजान हैं कि प्रौद्योगिकी में प्रगति ने अपराधियों को बाल यौन शोषण सामग्री (सीएसएएम) बनाने के लिए सार्वजनिक रूप से उपलब्ध उपकरण दिए हैं, बिना सीधे संपर्क करने या पीड़ितों को ‘संवारने’ की आवश्यकता के बिना।

एनसीए में बाल यौन शोषण शिक्षा प्रबंधक लोर्ना सिंक्लेयर ने कहा, “औसत माता-पिता या देखभालकर्ता किसी बच्चे की तस्वीर यह सोचकर ऑनलाइन पोस्ट नहीं करते हैं कि इसे हटा दिया जाएगा और सीएसएएम में बदल दिया जाएगा।” “कई माता-पिता और देखभाल करने वाले इस बात से अनजान हैं कि यह समस्या मौजूद है।”

IWF के अनुसार, ऑनलाइन पाई जाने वाली AI-जनित बाल यौन शोषण सामग्री की मात्रा में पिछले साल 14% की वृद्धि हुई, 2025 में यथार्थवादी CSAM की 8,029 AI-जनित छवियों और वीडियो की पहचान की गई।

IWF, जो CSAM घटनाओं पर नज़र रखता है और एक रिपोर्टिंग हॉटलाइन संचालित करता है, से 18 वर्ष से कम उम्र के बच्चों ने संपर्क किया है, जिन्हें AI द्वारा उनकी तस्वीरें उजागर होने के बाद जबरन वसूली करने वालों द्वारा ब्लैकमेल किया जा रहा था। 18 वर्ष से कम उम्र के बच्चों की उनकी सहमति के बिना ली गई स्पष्ट छवियों को हटाने के लिए एक गोपनीय सेवा, रिपोर्ट रिमूव, ने छवि हेरफेर के उदाहरणों की भी सूचना दी, जिसमें सामान्य, पूरी तरह से कपड़े पहने सेल्फी को कृत्रिम बुद्धिमत्ता का उपयोग करके अत्यधिक अश्लील साहित्य में बदल दिया गया।

चाइल्डलाइन द्वारा रिपोर्ट किए गए एक अन्य मामले में, एक 15 वर्षीय लड़की ने कहा कि एक अजनबी ने उसके चेहरे और शयनकक्ष का उपयोग करते हुए उसकी “वास्तव में विश्वसनीय” नग्न तस्वीर ली, जाहिर तौर पर उसके इंस्टाग्राम अकाउंट से स्रोत सामग्री ली।

मार्गदर्शन का प्रकाशन यूके स्कूल वेबसाइटों के उन मामलों का भी अनुसरण करता है, जिन्हें ब्लैकमेलरों द्वारा लक्षित किया गया था, जिन्होंने बच्चों की तस्वीरें एकत्र कीं, उन्हें बाल यौन शोषण सामग्री में बदलने के लिए कृत्रिम बुद्धिमत्ता उपकरणों का उपयोग किया और फिर परिणाम प्रकाशित करने की धमकी दी। ऑनलाइन नुकसान पर यूके की सलाहकार संस्था, अर्ली वार्निंग वर्किंग ग्रुप (ईडब्ल्यूडब्ल्यूजी), जिसमें एनसीए और आईडब्ल्यूएफ शामिल हैं, ने सिफारिश की है कि स्कूल अपनी वेबसाइटों और सोशल मीडिया खातों से विद्यार्थियों के चेहरे की पहचानने योग्य तस्वीरें हटा दें।

आईडब्ल्यूएफ के तकनीकी निदेशक डैन सेक्स्टन ने कहा कि वह माता-पिता को अपने बच्चों की तस्वीरें सार्वजनिक रूप से प्रदर्शित न करने के लिए कहने में “बहुत असहज” थे, लेकिन उनका मानना ​​​​था कि कोई अन्य विकल्प नहीं था। उन्होंने कहा, “मैं नहीं जानता कि माता-पिता को और क्या बताऊं।” “मैं बहुत सावधान रहूँगा [about putting pictures of children online] क्योंकि कोई सुरक्षा नहीं है।”

एनसीए और आईडब्ल्यूएफ दिशानिर्देश कहते हैं: “यदि आप अपने बच्चे की तस्वीरें ऑनलाइन साझा करना चाहते हैं, तो हम एक ‘घनिष्ठ मित्र’ समूह बनाने या दृश्यता सीमित करने का सुझाव देते हैं ताकि केवल चयनित लोग ही उन्हें देख सकें।”

बच्चों की चैरिटी एनएसपीसीसी भी सिफारिश करती है कि 18 साल से कम उम्र के लोग अपने सोशल मीडिया अकाउंट को निजी रखें।

मार्गदर्शन के हिस्से के रूप में जारी किए गए वीडियो काल्पनिक परिदृश्य दिखाते हैं जिसमें माता-पिता रोजमर्रा की परिस्थितियों में अपने बच्चों की तस्वीरें लेते हैं, जैसे कि खेल खेलना या स्कूल के गेट पर खड़े होना, और उन्हें ऑनलाइन तस्वीरें पोस्ट करने के जोखिमों की याद दिलाई जाती है। एनसीए और आईडब्ल्यूएफ का कहना है कि वे माता-पिता और बच्चों को प्रोत्साहित करना चाहते हैं कि अगर वे इससे असहज हैं तो वे ऑनलाइन फोटो साझा करने से इनकार कर दें।

सोशल मीडिया ऑडिट दिशानिर्देश उपयोगकर्ताओं को यह निर्धारित करने के लिए अपने स्वयं के सोशल मीडिया खातों की जांच करने के लिए कहते हैं कि क्या उनके बच्चे का “चेहरा, शरीर या स्कूल की वर्दी” दिखाई दे रही है, क्या वे छवि के अभी भी ऑनलाइन होने से सहज हैं, और क्या इसे हटाया जा सकता है या निजी बनाया जा सकता है। वह यह देखने की भी सलाह देते हैं कि क्या दोस्तों या परिवार ने ऐतिहासिक पोस्ट सहित माता-पिता के बच्चे की तस्वीरें डाउनलोड की हैं, और उन पोस्ट के साथ क्या कार्रवाई की जा सकती है, इस बारे में “स्पष्ट और शांत” चर्चा करें।

मार्गदर्शन स्कूल, नर्सरी या क्लब में माता-पिता द्वारा अपने बच्चे की छवि का उपयोग करने की अनुमति देने के लिए हस्ताक्षरित सहमति प्रपत्रों की समीक्षा करने और इस पर विचार करने की भी सिफारिश करता है कि क्या वे उस सहमति को वापस लेना चाहते हैं।

IWF के विपणन प्रमुख टॉम डायसन ने कहा: “यदि आप किसी वेबसाइट या सोशल मीडिया से अपने बच्चों की तस्वीर हटाना चाहते हैं, तो आप ऐसा पूरी तरह से कर सकते हैं।”