७० वर्षांच्या एका ऑस्ट्रेलियन व्यक्तीला अत्याधुनिक AI-आधारित रोमान्स स्कॅमचा (प्रेमप्रकरणाच्या नावाखाली होणारी फसवणूक) बळी ठरवण्यात आले असून, एका "deepfake" व्यक्तिमत्त्वामुळे त्यांनी १,८०,००० डॉलर्स गमावले आहेत. ही घटना सायबर गुन्हेगारीच्या भयानक उत्क्रांतीवर प्रकाश टाकते, जिथे मानवी अंतर्ज्ञान आणि भावनिक संरक्षणांना बगल देण्यासाठी कृत्रिम बुद्धिमत्तेचा (AI) वापर शस्त्र म्हणून केला जात आहे.

हाय-टेक रोमान्स स्कॅमची रचना

पीडित, एक वृद्ध ऑस्ट्रेलियन रहिवासी, यांनी सांगितले की ते एका AI-निर्मित व्यक्तिमत्त्वाशी भावनिकरित्या गुंतले होते, ज्यामध्ये कालांतराने काही स्पष्ट तांत्रिक त्रुटी दिसून आल्या, जसे की डिजिटल प्रतिमांमध्ये सहा बोटे असणे. या "uncanny valley" (विचित्र वाटणाऱ्या) धोक्यांच्या सूचना असूनही, भावनिक फेरफार इतके यशस्वी झाले की त्यांनी फसवणूक करणाऱ्यांना १,८०,००० डॉलर्स (सुमारे ₹१.५ कोटी) हस्तांतरित करण्यास तयार झाले.

हा खटला Generative AI मुळे आंतरराष्ट्रीय सायबर गुन्हेगारी टोळ्यांसाठी प्रवेश सुलभ कसा होत आहे याचे एक महत्त्वपूर्ण उदाहरण आहे. poorly written emails वर अवलंबून असलेल्या पारंपारिक फिशिंग स्कॅम्सच्या उलट, हे आधुनिक "pig butchering" स्कॅम्स दीर्घकालीन मानसिक विश्वास निर्माण करण्यासाठी अति-वास्तववादी deepfake ऑडिओ आणि व्हिडिओचा वापर करतात. सत्य समजल्यानंतर पीडितांनी त्यांचे सर्व इंटरनेट अकाउंट्स बंद करण्याचा निर्णय घेणे, या प्रगत सोशल इंजिनीअरिंग तंत्रांमुळे निर्माण झालेला खोल मानसिक आघात आणि डिजिटल विश्वासाचा पूर्णपणे झालेला ऱ्हास अधोरेखित करतो.

AI-निर्मित चुकीच्या माहितीचा (Disinformation) वाढता धोका

या विशिष्ट स्कॅममधील तांत्रिक त्रुटी—सहा बोटांचे असणे—हे सध्याच्या AI इमेज जनरेशन मॉडेल्सचे एक सामान्य लक्षण आहे. तथापि, जसे Large Language Models (LLMs) आणि diffusion models विकसित होत आहेत, तसे हे दृश्य दोष वेगाने नाहीसे होत आहेत. गुन्हेगारी नेटवर्क आता हजारो बनावट ओळख तयार करण्यासाठी AI चा वापर करत आहेत, ज्यामुळे त्यांना मोठ्या प्रमाणावर असुरक्षित लोकसंख्येला लक्ष्य करणे शक्य होत आहे.

हा बदल "opportunistic hacking" कडून "industrialized deception" कडे होणारा प्रवास दर्शवतो. गुन्हेगारी टोळ्या आता फक्त पासवर्ड चोरत नाहीत; तर ते एकाकीपणा, दुःख किंवा सोबतीची इच्छा यांसारख्या विशिष्ट मानवी कमकुवतपणाचा फायदा घेण्यासाठी संपूर्ण मानवी व्यक्तिमत्त्वे तयार करत आहेत. हे deepfakes ज्या वेगाने तैनात केले जाऊ शकतात, त्याचा अर्थ असा आहे की कायदा अंमलबजावणी यंत्रणा सध्या Generative AI च्या "डार्क" बाजूतील वेगाने होणाऱ्या तांत्रिक प्रगतीशी जुळवून घेण्यासाठी संघर्ष करत आहे.

जागतिक असुरक्षितता आणि डिजिटल सुरक्षा

ही घटना वैयक्तिक संवादांमध्ये AI च्या वापराचे नियमन करण्यासाठी मजबूत आंतरराष्ट्रीय चौकटीच्या अभावाबाबत जागतिक इशारा म्हणून काम करते. जसे deepfakes वास्तवापासून वेगळे ओळखणे कठीण होत आहे, तशी "जे दिसते तेच सत्य असते" ही मूलभूत संकल्पना मोडीत निघत आहे. या ऑस्ट्रेलियन प्रकरणातील आर्थिक नुकसान हे भविष्यात घरगुती संपत्तीवर होणाऱ्या मोठ्या जागतिक नुकसानीची पूर्वसूचना आहे, विशेषतः वृद्ध लोकसंख्येमध्ये ज्यांना आधुनिक AI च्या क्षमतेबद्दल डिजिटल साक्षरता कमी असू शकते.

भारतासाठी याचा अर्थ काय

  • सायबर सुरक्षा ही राष्ट्रीय सुरक्षा म्हणून: भारत India Stack आणि व्यापक इंटरनेट विस्तारामुळे मोठ्या प्रमाणावर डिजिटल परिवर्तनातून जात असताना, AI-आधारित सोशल इंजिनीअरिंग स्कॅम्सचा धोका आर्थिक स्थिरता आणि वैयक्तिक डिजिटल विश्वासासाठी मोठा धोका निर्माण करतो.
  • AI नियमन आणि साक्षरतेची गरज: भारत सरकार आणि CERT-In सारख्या नियामक संस्थांनी "AI-detection" साधनांच्या विकासाला प्राधान्य दिले पाहिजे आणि ज्येष्ठ नागरिकांना deepfake व्यक्तिमत्त्वांच्या अस्तित्वाबद्दल शिक्षित करण्यासाठी मोठ्या प्रमाणावर डिजिटल साक्षरता मोहिमा राबवल्या पाहिजेत.
  • आंतरराष्ट्रीय सहकार्य मजबूत करणे: हे स्कॅम्स अनेकदा सीमापलीकडे कार्यरत असलेल्या आंतरराष्ट्रीय टोळ्यांद्वारे आयोजित केले जात असल्याने, AI-आधारित फसवणुकीतून निर्माण झालेला अवैध निधी शोधण्यासाठी आणि रोखण्यासाठी भारताने जागतिक संस्थांशी आपली इंटेलिजन्स-शेअरिंग आणि कायदेशीर सहकार्य मजबूत केले पाहिजे.

प्रतिवाद: शोध आणि जागरूकता प्रभावाचा तीव्रता कमी करू शकते

पुढे काय पाहावे

  • नियामक चौकटी (Regulatory frameworks) ज्या आर्थिक सेवांच्या संदर्भात सिंथेटिक मीडियाला संबोधित करतात.
  • तंत्रज्ञान कंपन्या आणि कायदा अंमलबजावणी यंत्रणांमधील सहकार्य जे रिअल टाइममध्ये धोक्यांची माहिती (threat intelligence) शेअर करतील.

ऑस्ट्रेलियन प्रकरण एक इशारा आहे: जसा generative AI अधिक प्रगत होत आहे, तसा खरा संबंध आणि रचलेले फसवणूक यांच्यातील रेषा धूसर होत आहे. सतर्कता, उत्तम शोध तंत्रज्ञान आणि व्यापक डिजिटल साक्षरता हे अशा भविष्याविरुद्धचे एकमेव संरक्षण आहेत जिथे एक साधा व्हिडिओ कॉल महागडा सापळा ठरू शकतो.