इन्स्टाग्रामवरील सशुल्क जाहिरातींद्वारे बाल लैंगिक शोषण आणि शोषण सामग्री (CSEAM) उपलब्ध करून देण्याच्या आरोपांवरून केंद्राने मेटाला नोटीस बजावली आहे. इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्रालयाने (MeitY) अशी सामग्री तात्काळ काढून टाकण्याचे आदेश दिले असून सात दिवसांत उत्तर मागितले आहे..

इन्स्टाग्रामवरील सशुल्क जाहिरातींचा वापर बाल लैंगिक शोषण आणि शोषण सामग्री (CSEAM) उपलब्ध करून देण्यासाठी केला जात असल्याचा आरोप समोर आल्यानंतर केंद्राने मेटाला नोटीस बजावली आहे. सरकारने कंपनीला अशी सामग्री तात्काळ काढून टाकण्याचे, जाहिरातींना मंजुरी कशी देण्यात आली याचे स्पष्टीकरण देण्याचे आणि भविष्यात अशा घटना टाळण्यासाठी कोणत्या उपाययोजना लागू केल्या जातील याचा तपशील देण्याचे निर्देश दिले आहेत.

कथित CSEAM सामग्री तात्काळ काढून टाकण्याचे सरकारचे निर्देश

इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्रालयाने (MeitY) शनिवारी इंस्टाग्राम आणि फेसबुकची मूळ कंपनी असलेल्या मेटाला नोटीस बजावली असून, बाल लैंगिक शोषण आणि शोषण सामग्री (CSEAM) उपलब्ध करून देण्यास मदत करणारी सर्व सामग्री तात्काळ काढून टाकण्याचे आदेश दिले आहेत.

सूत्रांनुसार, मंत्रालयाने कंपनीकडून सात दिवसांच्या आत सविस्तर स्पष्टीकरण मागितले आहे आणि असा इशारा दिला आहे की, याचे पालन न केल्यास किंवा आवश्यक माहिती न दिल्यास माहिती तंत्रज्ञान कायदा तसेच बाल लैंगिक शोषण प्रतिबंधक कायदा (पॉक्सो), २०१२ अंतर्गत कायदेशीर कारवाई केली जाऊ शकते. या नोटीसमध्ये, सरकारने बाल लैंगिक शोषणाशी संबंधित सामग्रीचे 'अल्गोरिदमद्वारे होणारे प्रवर्धन' (algorithmic amplification) असे वर्णन केलेल्या गोष्टीला आळा घालण्यासाठी तातडीच्या सुधारणात्मक उपाययोजना करण्याचे आवाहनही केले आहे.

बीबीसीच्या तपासानंतर कारवाई

सरकारची ही कारवाई बीबीसीच्या अलीकडील तपासानंतर झाली आहे, ज्यामध्ये असा आरोप करण्यात आला होता की, कंपनीकडे नियंत्रण यंत्रणा (moderation mechanisms) अस्तित्वात असूनही, मेटाची शिफारस प्रणाली (recommendation systems) बाल लैंगिक शोषणाचे साहित्य असलेले व्हिडिओ प्रसारित करत होती.

या अहवालात असाही दावा करण्यात आला आहे की, इन्स्टाग्रामवर 'रेप व्हिडिओ' (बलात्काराचा व्हिडिओ) आणि 'चाइल्ड व्हिडिओ' (मुलांचा व्हिडिओ) यांसारख्या शोध संज्ञा (search terms) असलेल्या सशुल्क जाहिराती (paid advertisements) दाखवल्या जात होत्या. या जाहिरातींवर क्लिक करणाऱ्या वापरकर्त्यांना कथितरित्या टेलिग्राम चॅनेलवर पुनर्निर्देशित केले जात होते, जिथे अशी बेकायदेशीर सामग्री विक्रीसाठी उपलब्ध करून दिली जात होती.

या निष्कर्षांमुळे मेटाच्या सामग्री नियंत्रण आणि जाहिरात पुनरावलोकन प्रक्रियेच्या परिणामकारकतेबद्दल चिंता निर्माण झाली आहे, विशेषतः अशा वेळी जेव्हा कंपनीच्या जाहिरात धोरणांमध्ये नग्नता, लैंगिकदृष्ट्या स्पष्ट सामग्री आणि बाल शोषणाशी संबंधित सामग्रीला स्पष्टपणे मनाई आहे.

जाहिरात मंजुरी प्रक्रियेवर सरकारकडून उत्तरे

सरकारने आपल्या नोटीसमध्ये मेटाला विचारले आहे की, अशा कीवर्ड्स असलेल्या जाहिरातींना प्रकाशनासाठी कशी मंजुरी देण्यात आली आणि आरोप समोर आल्यानंतर कोणती पावले उचलण्यात आली.

भविष्यात त्यांच्या प्लॅटफॉर्मवर अशाच प्रकारच्या जाहिराती किंवा मजकूर दिसणार नाहीत याची खात्री करण्यासाठी कंपनी कोणती सुरक्षा उपाययोजना करणार आहे, याचा तपशीलही मंत्रालयाने मागवला आहे.

सूत्रांनी पीटीआयला सांगितले की, जर तपासात असे सिद्ध झाले की कंपनीने बाल लैंगिक शोषणाच्या साहित्याला प्रोत्साहन देणाऱ्या जाहिरातींमधून महसूल मिळवला आहे, तर मेटा मध्यस्थ संरक्षणाचा आधार घेऊ शकत नाही.

"एक मध्यस्थ म्हणूनही, बाल लैंगिक शोषणाच्या साहित्याला प्रोत्साहन देणाऱ्या सशुल्क जाहिरातींच्या बाबतीत मेटा 'थर्ड-पार्टी कंटेंट डिफेन्स'चा (तृतीय-पक्ष सामग्री संरक्षणाचा) आधार घेऊ शकत नाही. जर आरोप सिद्ध झाले, तर ज्या जाहिरातींमधून कंपनीने महसूल मिळवला आहे, त्यासाठी तिला जबाबदार धरले जाईल," असे एका सूत्राने सांगितले.

मेटाकडून शून्य-सहिष्णुता धोरणाचा पुनरुच्चार

बीबीसीच्या अहवालावरील पीटीआयच्या प्रश्नांना उत्तर देताना, मेटाच्या प्रवक्त्याने सांगितले की, कंपनी जाहिरातींसह बाल लैंगिक शोषणाच्या साहित्याविरुद्ध शून्य-सहिष्णुता धोरण राखते.

प्रवक्त्याने सांगितले की, मेटा उल्लंघन करणारी सामग्री सक्रियपणे शोधून काढून टाकण्यासाठी प्रगत कृत्रिम बुद्धिमत्तेच्या साधनांचा वापर करते, परंतु हे मान्य केले की, सुमारे ३.५ अब्ज वापरकर्त्यांना सेवा देणाऱ्या तिच्या प्लॅटफॉर्मवर पकडले जाण्यापासून वाचण्याचा प्रयत्न करणाऱ्या गुन्हेगारांविरुद्ध कंपनीचा सतत लढा सुरू आहे.

मेटाने पुढे सांगितले की, ऑनलाइन बाल शोषणाचा सामना करण्यासाठी तिचे विशेषज्ञ संघ सतत शोध प्रणाली मजबूत करत आहेत, भक्षकांना ओळखण्यासाठी नवीन तंत्रज्ञान विकसित करत आहेत, आक्षेपार्ह वेबसाइट्सच्या लिंक्स ब्लॉक करत आहेत आणि इतर तंत्रज्ञान कंपन्यांसोबत गुप्त माहितीची देवाणघेवाण करत आहेत.

कायदेशीर तरतुदी

माहिती तंत्रज्ञान कायद्यामध्ये मुलांना लैंगिकदृष्ट्या स्पष्ट कृत्यांमध्ये दर्शवणारी इलेक्ट्रॉनिक सामग्री प्रकाशित करण्या किंवा प्रसारित करण्याविरुद्ध कठोर तरतुदी आहेत. कलम ६७बी विशेषतः ऑनलाइन बाल लैंगिक शोषणाच्या सामग्रीची निर्मिती, प्रकाशन, प्रसारण, ब्राउझिंग, डाउनलोडिंग, जाहिरात किंवा वितरण याला गुन्हेगारी ठरवते.

सरकारची सूचना डिजिटल प्लॅटफॉर्मच्या जबाबदारीवर अधिक बारकाईने लक्ष ठेवण्याचे संकेत देते, विशेषतः जेव्हा अशी सामग्री सशुल्क जाहिरातींद्वारे प्रसारित केली जाते.