बाल शोषणाविरुद्ध लढा देण्यासाठी आम्ही केलेली उपाययोजना

महत्त्वाचे मुद्दे:

● आज आम्ही आमच्या प्लॅटफॉर्म्सवर बाल लैंगिक शोषणाविरुद्ध लढा देण्याच्या प्रयत्नांसाठी केलेल्या अतिरिक्त उपायांची माहिती देत आहोत.

● आम्ही शोधून काढलेल्या गैरप्रकारांच्या विरोधातील क्लृप्त्यांचा सामना करण्यासाठी आणि सीएसएएम दर्शवणाऱ्या किंवा प्लॅटफॉर्मबाहेर अशा उल्लंघन करणाऱ्या घडामोडींकडे वापरकर्त्यांना नेणाऱ्या जाहिराती शोधण्याच्या आमच्या सिस्टीम्सची कार्यक्षमता सुधारण्यासाठी नवीन एआय टूल्ससह अतिरिक्त उपाय सादर केले आहेत.

● जानेवारी ते जून २०२६ दरम्यान, आम्ही भारतात फेसबुक आणि इन्स्टाग्रामवर बाल लैंगिक शोषण करणाऱ्या ५.३ दशलक्ष घटकांवर कारवाई केली; यापैकी ९८ टक्‍क्‍यांपेक्षा जास्त घटक कोणाकडूनही तक्रार येण्यापूर्वीच शोधून काढून त्यावर सक्रियपणे कारवाई करण्यात आली.

आमच्या अॅप्सवर तरुणांना सुरक्षित ठेवणे हे आम्ही करत असलेले सर्वात महत्त्वाचे काम आहे आणि हे काम कधीही थांबत नाही.

इंटरनेटवर मुलांचे शोषण करू पाहणारे अत्याधुनिक गैरप्रवृत्तीचे घटक एका जागी थांबून राहत नाहीत. हे निष्णात विकृत घटक वेगवेगळ्या प्लॅटफॉर्म्सचा वापर करतात आणि तपास टाळण्यासाठी आपल्या पद्धती सातत्याने बदलत राहतात. त्यांच्यापुढे राहण्यासाठी सतत स्वतः:मध्ये बदल घडवून आणणे आवश्यक असते. म्हणून, आम्ही आमची टूल्स सतत विकसित करत आहोत, उद्योग क्षेत्रात यासंबंधीचे सिग्नल्स शेअर करत आहोत आणि अशा गुन्हेगारांवर कायदेशीर कारवाई व्हावी म्हणून त्यांची तक्रार कायद्याची अंमलबजावणी करणाऱ्या संस्थांकडे करत आहोत.

आम्ही उचललेली पावले

आमच्या प्लॅटफॉर्मवर संभाव्य बाल लैंगिक शोषण किंवा शोषणात्मक कंटेंट आढळतो किंवा त्याविषयी माहिती मिळते, तेव्हा आम्ही त्याची सखोल चौकशी करतो. तो कंटेंट आमच्या नियमांचे उल्लंघन करत असेल तर आम्ही कंटेंट काढून टाकतो. तसेच विकृत घटकांकडून दुर्भावनेने कंटेंट शेअर केला जात असल्याचे संकेत मिळाल्यास आम्ही त्यामागील अकाउंट्स बंद करतो. त्यानंतर लागू कायद्यानुसार, आम्ही या मजकूराची तक्रार नॅशनल सेंटर फॉर मिसिंग अँड एक्स्प्लॉइटेड चिल्ड्रनकडे (एनसीएमईसी) करतो. पण, आम्ही केवळ एवढ्यावरच थांबलेलो नाही. आम्ही बाल सुरक्षेसाठी अनेक वर्षांपासून अशा गैरप्रवृत्तींचे संपूर्ण नेटवर्क पद्धतशीरपणे उद्ध्वस्त करण्याचे काम करत आहोत, यामध्ये माजी एफबीआय तपास अधिकाऱ्यांसह तज्ज्ञांच्या आमच्या टीमचा समावेश आहे, जे विकृत अकाउंट्सचे नेटवर्क सक्रियपणे उघडकीस आणण्यासाठी, हटवण्यासाठी आणि त्याची तक्रार करण्यासाठी मॅन्युअल चौकशी करतात. आम्ही या सिंडिकेट्सच्या कार्यपद्धतीचा सातत्याने अभ्यास करतो, ज्यामुळे केवळ एका-एका अकाउंटवर कारवाई न करता संपूर्ण नेटवर्कच्या पातळीवर त्यांच्यावर कठोर कारवाई करता येईल.

आज आम्ही आमच्या प्लॅटफॉर्म्सवर बाल लैंगिक शोषणाविरुद्ध लढा देण्याच्या प्रयत्नांना अधिक दृढ करण्यासाठी केलेल्या अतिरिक्त उपायांची माहिती देत आहोत.

आमच्या जाहिरात पुनरावलोकन प्रक्रियेत नवीन सुधारणा

ऑनलाइन विकृत घटकांनी आपल्या क्लृप्त्या बदलल्या आहेत आणि जाहिराती असे माध्यम बनले आहे, जिथे ही गोष्ट प्रामुख्याने पाहायला मिळाली आहे. तपास टाळण्यासाठी विशेषरित्या तयार केलेल्या मजकूराद्वारे हे गैरप्रवृत्तीचे घटक आमच्या सिस्टीम्सचा गैरफायदा घेण्याचा सातत्याने प्रयत्न करतात. एखादी जाहिरात वरवर पाहता निरुपद्रवी वाटू शकते, पण तपास यंत्रणेची नजर चुकवून गुप्तपणे वापरकर्त्यांना आमच्या प्लॅटफॉर्मबाहेर होस्ट केलेल्या बेकायदेशीर मजकूराकडे घेऊन जाऊ शकते.

या दुर्भावनापूर्ण जाहिरात योजनेचे स्वरूप एकदा समजून घेतल्यानंतर, आम्ही केवळ आमच्याकडे तक्रार आलेल्या जाहिरातींपुरते मर्यादित राहिलो नाही. आम्ही आमच्या सर्व प्लॅटफॉर्म्सवर याच्याशी संबंधित सर्व घडामोडी शोधण्यासाठी आमचा तपास अधिक व्यापक केला, यामागील उल्लंघन करणारे अकाउंट्स बंद केले आणि त्यात समाविष्ट असलेल्या बाह्य लिंक्स ब्लॉक केल्या.

त्यानंतर आम्ही शोधून काढलेल्या क्लृप्त्यांचा सामना करण्यासाठी आणि सीएसएएम दर्शवणाऱ्या किंवा प्लॅटफॉर्मबाहेर अशा उल्लंघन करणाऱ्या कृत्यांकडे वापरकर्त्यांना घेऊन जाणाऱ्या जाहिराती शोधण्याच्या आमच्या सिस्टीम्सची कार्यक्षमता सुधारण्यासाठी नवीन एआय टूल्ससह अतिरिक्त उपाय सादर केले. यामध्ये पुढील बाबींचा समावेश होता:

● चाइल्ड सेक्शुअल एक्स्प्लॉइटेशन (सीएसई) (बाल लैंगिक शोषण) मजकूराच्या “साइनपोस्टिंग”चा शोध घेण्यासाठी नवीन लार्ज लँग्वेज मॉडेल (एलएलएम) डिटेक्शन – वरवर निरुपद्रवी वाटणारा असा जाहिरात कंटेंट, ज्याच्याद्वारे व्यक्तींना आमच्या प्लॅटफॉर्मबाहेरील बेकायदेशीर कंटेंट किंवा हानीकारक कृत्यांकडे गुपचूपपणे वळवले जात असल्याचा दाट संशय असतो

● एखादी जाहिरात केवळ काय दाखवते एवढेच नव्हे, तर वापरकर्त्यांना नेमके कुठे घेऊन जाते याची अधिक सखोल माहिती मिळवणे; ज्यामुळे आम्ही अशा नियमांचे उल्लंघन करणाऱ्या अंतिम लिंक्स ब्लॉक करू शकू आणि जबाबदार अकाउंट्सवर कारवाई करू शकू

● आमच्या तपासातील निष्कर्षांच्या आधारे अधिक सक्षम केलेल्या सिग्नल्सचा वापर करून, पूर्वीच्या सिस्टीम्सच्या नजरेतून सुटलेला सीएसई कंटेंट शोधून काढण्यासाठी जाहिरात मजकूराची अतिरिक्त एआय-सक्षम तपासणी;

● आमच्या स्वतः:च्या सुरक्षा यंत्रणेतील उणिवा शोधण्यासाठी सक्रियपणे तपासणी करणारा रेड-टीमिंग एआय एजंट, ज्यामुळे अशा गैरप्रवृत्तींच्या नव्या सीएसई क्लृप्त्या मोठ्या प्रमाणावर पसरण्याआधीच आम्हाला त्या शोधून काढता येतील; आणि

● वारंवार नियम मोडणाऱ्यांचा शोध घेण्याची क्षमता अधिक दृढ करण्यात आली – अकाउंट्स हटवल्यानंतर पुन्हा नवीन अकाउंट्स तयार करण्याचा प्रयत्न करणाऱ्या गैरप्रवृत्तीच्या घटकांना ओळखण्यासाठी ही यंत्रणा अधिक सक्षम करण्यात आली आहे.

आमच्या या कार्यामागील तंत्रज्ञान

आमच्या विविध प्रकारच्या एआय आणि ऑटोमेटेड टूल्सच्या माध्यमातून सीएसएएम आणि बाल सुरक्षेशी संबंधित इतर उल्लंघन सक्रियपणे शोधण्याचे काम केले जाते:

● बिहेव्हियरल सिग्नल्स, जे संशयास्पद वर्तणूक पद्धतींमध्ये गुंतलेले अकाउंट्स शोधण्यासाठी मेटाडेटा आणि वर्तणुकीशी संबंधित संकेतांच्या संयोजनाचे विश्लेषण करतात.

● फोटोडीएनए आणि फोटो व व्हिडिओ-मॅचिंगचे इतर तंत्रज्ञान, ज्याचा वापर २०११ पासून मेटाच्या सर्व अॅप्सवर ज्ञात असलेल्या सीएसएएमच्या मिळत्याजुळत्या प्रती शोधून त्या हटवण्यासाठी केला जातो. या उद्देशासाठी मेटा अशा इमेज आणि व्हिडिओ हॅशचा उद्योग क्षेत्रातील सर्वात मोठा डेटाबेस राखते, नव्याने शोधलेले हॅश यामध्ये जोडते आणि त्यानंतर टेक कोलिशनच्या लँटर्न प्रोग्रामद्वारे (Tech Coalition’s Lantern program) हे हॅश उद्योग क्षेत्रातील इतर घटकांसोबत शेअर करते, ज्यामुळे इतर सहभागी कंपन्या देखील असा कंटेंट हटवू शकतील आणि संपूर्ण इंटरनेट अधिक सुरक्षित राहण्यास मदत होईल. मेटा याच तंत्रज्ञानाचा वापर बाह्य लिंक्सच्या प्रिव्ह्यूमध्ये सीएसएएम शोधण्यासाठीही करते. या मॅचिंग तंत्रज्ञानाद्वारे ओळखला गेलेला सर्व सीएसएएम कंटेंट लागू कायद्यानुसार एनसीएमईसीच्या मदतीने कायदा अंमलबजावणी अधिकाऱ्यांना कळवला जातो.

● आम्ही उल्लंघन करणारा सीएसएएम कंटेंट होस्ट करणाऱ्या किंवा तयार करणाऱ्या बाह्य वेबसाइट्सच्या लिंक्स ब्लॉक करण्याचे काम करतो. एकदा एखादी लिंक ब्लॉक झाल्यानंतर, आम्ही ती लिंक असलेले इतर सर्व कंटेंट जसे, जाहिराती, पोस्ट्स किंवा कमेंट्स शोधून ते हटवतो. व्यक्ती फेसबुक, इन्स्टाग्राम आणि थ्रेड्सवर अशा ब्लॉक केलेल्या लिंक्स असलेला कंटेंट पोस्ट करू शकणार नाहीत यासाठी आम्ही उपाययोजना करतो, तसेच ब्लॉक केलेल्या लिंक्स असलेल्या जाहिराती अपलोड करतानाच नाकारल्या जातात.

● ह्युरिस्टिक्स-आधारित नियम, ज्यामध्ये जाहिरातींसह नवीन किंवा नव्याने समोर येणाऱ्या उल्लंघनांच्या पद्धती सक्रियपणे ओळखण्यासाठी आणि त्यावर मोठ्या प्रमाणावर कारवाई करण्यासाठी ऑटोमेटेड क्लासिफायर्स, एआय मॉडेल्स आणि इतर संकेतांचे संयोजन आहे.

आकडेवारीमधून निदर्शनास आलेली माहिती

जागतिक स्तरावर जानेवारी ते जून २०२६ दरम्यान, आम्ही फेसबुक आणि इन्स्टाग्रामवरील बाल लैंगिक शोषणाशी संबंधित ३३.२ दशलक्ष कंटेंट घटकांवर कारवाई केली, ज्यापैकी ९७ टक्‍क्‍यांपेक्षा जास्त कंटेंट कोणाकडूनही तक्रार येण्यापूर्वीच शोधून त्यावर सक्रियपणे कारवाई करण्यात आली, तर याच कालावधीत भारतात आम्ही फेसबुक आणि इन्स्टाग्रामवर बाल लैंगिक शोषणाच्या ५.३ दशलक्ष कंटेंट घटकांवर कारवाई केली, ज्यापैकी ९८ टक्‍क्‍यांपेक्षा जास्त कंटेंट कोणतीही तक्रार येण्यापूर्वीच शोधून त्यावर सक्रियपणे कारवाई करण्यात आली.

कायदा अंमलबजावणी संस्थांसोबत कार्य

आम्ही या गुन्ह्यांमागील व्यक्तींना जबाबदार धरून त्यांच्यावर कायदेशीर कारवाई करण्यासाठी संबंधित प्राधिकरणांसोबत सातत्याने काम करत आहोत. या सप्टेंबरमध्ये आम्ही जाहीर केले की, मेटा आता बाल सुरक्षेशी संबंधित प्रकरणांची थेट माहिती इंडियन सायबरक्राईम कोऑर्डिनेशन सेंटर (I4C) द्वारे चालवल्या जाणाऱ्या नॅशनल सायबर क्राईम रिपोर्टिंग पोर्टलवर (cybercrime.gov.in) देईल. हे पाऊल आमच्या सध्याच्या रिपोर्टिंग प्रक्रियेला अधिक दृढ करते, ज्यामध्ये आम्ही नॅशनल सेंटर फॉर मिसिंग अँड एक्स्प्लॉइटेड चिल्ड्रनच्या (एनसीएमईसी) मदतीने नॅशनल सायबर क्राईम रिपोर्टिंग पोर्टलद्वारे कायदा अंमलबजावणी संस्थांना बाल लैंगिक शोषण कं

टेंटची माहिती देतो.