अल्पवयीन मुलीवर अत्याचार आणि डेटा गोपनीयता त्रुटींमुळे Snapchat वर खटला

मिसूरीमध्ये एक भीषण कायदेशीर लढाई सुरू झाली आहे, कारण प्लॅटफॉर्मवर भेटलेल्या एका प्रौढ अनोळखी व्यक्तीने केलेल्या क्रूर बलात्कारानंतर एका १२ वर्षीय मुलीच्या पालकांनी Snap Inc. वर खटला दाखल केला आहे. या खटल्यात असा आरोप करण्यात आला आहे की, Snapchat च्या स्वतःच्या उत्पादन डिझाइनमुळे, ज्यामध्ये "Snap Maps" वैशिष्ट्याचा समावेश आहे, त्या गुन्हेगाराला अल्पवयीन मुलीचा मागोवा घेण्यास आणि तिचा गैरफायदा घेण्यास थेट मदत झाली.

शोषणाची यंत्रणा: अल्गोरिदमपासून शारीरिक हानीपर्यंत

२४ जून २०२६ रोजी दाखल करण्यात आलेल्या या खटल्यात, Snapchat ची तांत्रिक रचना गुन्हेगारांकडून कशी शस्त्र म्हणून वापरली जाऊ शकते, याचे भयावह चित्र समोर आले आहे. कायदेशीर कागदपत्रांनुसार, पीडित मुलगी २०२१ मध्ये वयाच्या ११ व्या वर्षी हे ॲप वापरू लागली होती, ज्यामुळे प्लॅटफॉर्मची १३ वर्षांची किमान वयाची अट सहजपणे बगल दिली गेली.

या आरोपाचा मुख्य आधार दोन गंभीर त्रुटींवर आहे: शिफारस करणारा अल्गोरिदम (recommendation algorithm) आणि Snap Maps वैशिष्ट्य. खटल्यात असा दावा करण्यात आला आहे की, ॲपच्या अल्गोरिदमने त्या अल्पवयीन मुलीला आणि इतर स्थानिक किशोरवयीन मुलींना गेब्रियल जोएल व्हॅलेंटिन-रिओस या २५ वर्षीय प्रौढ व्यक्तीला सुचवले, ज्याचे त्यांच्याशी प्रत्यक्षात कोणतेही संबंध नव्हते. शिवाय, "Snap Maps" वैशिष्ट्यामुळे व्हॅलेंटिन-रिओसला मुलीच्या माहितीशिवाय तिचा अचूक घरचा पत्ता मिळाला असा आरोप आहे. या डिजिटल खुणांमुळे गुन्हेगाराला पीडितेची फसवणूक करणे (grooming) शक्य झाले—स्वतःला १७ वर्षांचा स्थानिक विद्यार्थी असल्याचे खोटे सांगून—आणि त्यानंतर प्रत्यक्ष भेटून अत्याचार केला. व्हॅलेंटिन-रिओसने यापूर्वीच वैधानिक बलात्कार (statutory rape) केल्याची कबुली दिली असून तो १८ वर्षांच्या कारावासाची शिक्षा भोगत आहे.

प्रणालीगत त्रुटी आणि वारंवार होणारे अपराध

फिर्यादींचा असा युक्तिवाद आहे की ही केवळ एक विलग तांत्रिक चूक नसून ती एक प्रणालीगत डिझाइनमधील त्रुटी आहे. त्यांचा असा आरोप आहे की Snapchat च्या इंटरफेसमुळे वापरकर्त्यांना नको असलेले अश्लील साहित्य (explicit content) टाळणे जवळजवळ अशक्य झाले होते आणि व्हॅलेंटिन-रिओस प्लॅटफॉर्मच्या धोरणांचे उल्लंघन करून अनेक खाती चालवत आहे, याची कंपनीला माहिती होती.

बाल सुरक्षिततेबाबत कायदेशीर उत्तरदायित्वाचा हा Snap चा पहिला अनुभव नाही. २०२४ मध्ये, न्यू मेक्सिको राज्याने असा खटला दाखल केला होता ज्यामध्ये असा आरोप करण्यात आला होता की Snapchat चे डिझाइन 'सेक्सटॉर्शन' (sextortion) आणि लैंगिक अत्याचाराला प्रोत्साहन देते. सध्याच्या फिर्यादींचे प्रतिनिधित्व करणाऱ्या 'सोशल मीडिया व्हिक्टिम्स लॉ सेंटर'चा असा युक्तिवाद आहे की, Snap च्या अधिकाऱ्यांना हे दीर्घकाळापासून माहित आहे की त्यांची वैशिष्ट्ये गुन्हेगारांसाठी एक "आदर्श वातावरण" तयार करतात, तरीही त्यांनी सुरक्षिततेपेक्षा वापरकर्त्यांच्या सक्रियतेला (engagement) सातत्याने प्राधान्य दिले आहे.

प्लॅटफॉर्मच्या उत्तरदायित्वाचे जागतिक आव्हान

सोशल मीडिया दिग्गज डिजिटल क्षेत्रात वर्चस्व गाजवत असताना, अल्गोरिदमची वाढ आणि वापरकर्त्यांचे संरक्षण यामधील तणाव टोकाला पोहोचत आहे. ही केस एका वाढत्या जागतिक प्रवाहावर प्रकाश टाकते, जिथे न्यायिक व्यवस्था त्यांच्या उत्पादन डिझाइनमुळे होणाऱ्या "अपेक्षित हानीसाठी" (predictable harms) टेक कंपन्यांना जबाबदार धरण्याचा प्रयत्न करत आहे. "अनिर्दिष्ट नुकसान" (unspecified damages) मिळवण्यासाठी केलेली कायदेशीर मागणी आणि विशिष्ट पद्धती बदलण्यासाठी न्यायालयाचा आदेश, सिलिकॉन व्हॅली अल्पवयीन मुलांच्या सुरक्षिततेचे व्यवस्थापन कसे करते, यामध्ये बदल घडवून आणण्याचा एक महत्त्वपूर्ण प्रयत्न आहे.

भारतासाठी याचे महत्त्व

या कायदेशीर घडामोडींचे परिणाम अमेरिकेच्या सीमांच्या पलीकडे, विशेषतः भारतासारख्या देशासाठी अत्यंत महत्त्वाचे आहेत, ज्याच्याकडे जगातील सर्वात मोठी आणि तरुण डिजिटल लोकसंख्या आहे.

• डिजिटल सुरक्षा नियमावली मजबूत करणे: ही केस भारतीय नियामक संस्थांना, जसे की इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्रालय (MeitY), IT नियमांतर्गत अधिक कडक "Safety by Design" प्रोटोकॉलची मागणी करण्यासाठी महत्त्वपूर्ण आधार प्रदान करते, ज्यामुळे अल्गोरिदममुळे होणाऱ्या हानीसाठी प्लॅटफॉर्मला जबाबदार धरले जाईल याची खात्री होईल.
• डेटा गोपनीयता आणि जिओलोकेशन धोके: "Snap Maps" चा गैरवापर रिअल-टाइम जिओलोकेशन शेअरिंगमधील अत्यंत धोक्यावर प्रकाश टाकतो. भारतीय पालक आणि धोरणकर्त्यांसाठी, डिजिटल पावलांच्या (digital footprints) माध्यमातून होणारा प्रत्यक्ष पाठलाग रोखण्यासाठी 'डेटा मिनिमायझेशन' (data minimization) तत्त्वांची कडक अंमलबजावणी करण्याची गरज यातून अधोरेखित होते.
• वाढलेले कॉर्पोरेट उत्तरदायित्व: भारत डिजिटल नाविन्य आणि नागरिक सुरक्षा यांचा समतोल साधण्याचा प्रयत्न करत असताना, या खटल्यांमुळे निर्माण झालेला नजीर जागतिक टेक कंपन्या भारतीय बाजारपेठेत अशाच प्रकारच्या कायदेशीर लढाई टाळण्यासाठी कंटेंट मॉडरेशन आणि वयाची पडताळणी (age verification) कशा प्रकारे करतात, यावर परिणाम करू शकतो.