गेल्या काही वर्षांपासून, सुरक्षा उद्योग कृत्रिम बुद्धिमत्तेबद्दल (AI) संरक्षकांसाठी एक 'फोर्स मल्टिप्लायर' (शक्तीवर्धक) म्हणून बोलत आहे. ही कथा अशी होती: मशीन लर्निंग मॉडेल्स लॉग्स तपासतील, मानवी विश्लेषकांकडून सुटलेले विसंगती (anomalies) शोधतील आणि धोक्याचा शोध घेण्याचे कंटाळवाणे काम हाताळतील. ही कथा केवळ अर्धवट सत्य आहे. Check Point Research च्या ताज्या निष्कर्षानुसार, दुसरी बाजू अशी आहे की हल्लेखोर आता केवळ प्रयोगांच्या पलीकडे गेले आहेत. ते आता थेट हल्ले करण्यासाठी AI चा वापर करत आहेत. हे तंत्रज्ञान आता केवळ पुढील ॲप्लिकेशन स्टॅक तयार करणाऱ्या डेव्हलपर्ससाठीचे साधन राहिलेले नाही. गुन्हेगारांच्या हातात हे एक सक्रिय शस्त्र बनले आहे, जे आपण यापूर्वी कधीही न पाहिलेल्या प्रमाणात फसवणूक स्वयंचलित (automate) करत आहेत.
जेव्हा हल्लेखोर थेट ऑपरेशन्ससाठी AI वापरतात
हा अहवाल धोक्याचे घटक (threat actors) त्यांच्या मोहिमा कशा प्रकारे आयोजित करतात, यामध्ये झालेल्या निर्णायक बदलावर प्रकाश टाकतो. स्थिर कोड आणि मॅन्युअल कमांड-अँड-कंट्रोलवर अवलंबून राहण्याऐवजी, हल्लेखोर VoidLink सारखे जटिल मालवेअर फ्रेमवर्क तयार करत आहेत. अशा प्रकारचे फ्रेमवर्क एका 'मॉड्यूलर' दृष्टिकोनाकडे निर्देश करतात, जिथे घटक अनुकूल होऊ शकतात, अपडेट होऊ शकतात आणि गतिमानपणे संवाद साधू शकतात. जेव्हा AI या प्रणाली चालवते, तेव्हा मालवेअर मोहिमा अत्यंत अनपेक्षित होतात. पेलोड्स (Payloads) ज्या वातावरणात ते शिरतात त्यानुसार त्यांचे वर्तन बदलू शकतात, ज्यामुळे 'सिग्नेचर-आधारित शोध' (signature-based detection) अधिक कठीण होतो आणि अशा 'वर्तणूक देखरेखीची' (behavioral monitoring) गरज भासते जी मोजक्याच संस्थांनी पूर्णपणे लागू केली आहे.
अधिक चिंताजनक बाब म्हणजे व्यावसायिक AI मॉडेल्सचा थेट गैरवापर होणे. हल्लेखोर केवळ गुप्त फोरम्समध्ये तयार केलेल्या भूमिगत साधनांपुरते मर्यादित नाहीत. ते त्याच लार्ज लँग्वेज मॉडेल्स आणि AI सेवांचा गैरवापर करत आहेत ज्यांचा वापर कायदेशीर व्यवसाय दररोज करतात. सिस्टम्स 'जेलब्रेक' करून, प्रॉम्प्ट इंजिनिअरिंगमध्ये सुधारणा करून किंवा केवळ मोठ्या प्रमाणात API कॉल्स स्वयंचलित करून, गुन्हेगार सुरक्षा सेटिंग्ज बायपास करतात आणि मशीनच्या वेगाने फिशिंग ईमेल, घातक स्क्रिप्ट्स आणि सोशल इंजिनिअरिंगचे जाळे तयार करतात. यात एक मोठी विडंबना आहे: लोकांना कोड लिहिण्यास किंवा दस्तऐवज सारांशित करण्यास मदत करण्यासाठी तयार केलेली पायाभूत सुविधा आता त्याच संस्थांमध्ये घुसखोरी करण्यासाठी हायजॅक केली जात आहे ज्यांनी त्यासाठी पैसे दिले आहेत.
समजून घेण्यासारखे चार AI-चालित धोके
Check Point च्या विश्लेषणानुसार चार विशिष्ट गैरवापराच्या प्रकरणांकडे लक्ष वेधले आहे, जे सुरक्षा पथकांनी तपशीलवार ओळखणे आवश्यक आहे. यातील प्रत्येक धोका मानवी मर्यादांशिवाय हल्लेखोर काय साध्य करू शकतात, याचे गणित बदलतो.
स्वयंचलित फिशिंग हल्ले (Automated phishing attacks) दशकांपासून प्राथमिक स्वरूपात अस्तित्वात आहेत, परंतु AI उर्वरित अडथळे दूर करते. हल्लेखोर सोशल मीडिया आणि कॉर्पोरेट वेबसाइट्सवरून माहिती गोळा करून काही सेकंदात अत्यंत वैयक्तिकृत ईमेल तयार करू शकतात, ज्यामध्ये टोन, भाषा आणि संदर्भ अशा प्रकारे बदलले जातात की मोठ्या प्रमाणात पाठवल्या जाणाऱ्या मोहिमा देखील वैयक्तिक संदेशांसारख्या वाटतात. जेव्हा प्रत्येक 'स्पिअर-फिशिंग' (spear-phishing) ईमेल हाताने तयार केल्यासारखा वाटतो, तेव्हा拙 व्याकरण किंवा मास-ईमेल हेडर्सवर आधारित पारंपारिक शोध पद्धती अपयशी ठरतात.
व्हॉइस-एजंट विशिंग किट्स (Voice-agent vishing kits) हे रेकॉर्ड केलेल्या डीपफेक्सच्या पलीकडे गेलेल्या वाढीचे प्रतिनिधित्व करतात. ही किट्स पीडितांशी रिअल-टाइममध्ये संवाद साधण्यास सक्षम असलेल्या इंटरअॅक्टिव्ह व्हॉइस एजंट्सचा वापर करतात. अशी कल्पना करा की एक कॉल तुमच्या IT हेल्प डेस्कसारखाच वाटतो, तुमच्या प्रश्नांना नैसर्गिकरित्या प्रतिसाद देतो आणि तातडीने तुमचा मल्टी-फॅक्टर ऑथेंटिकेशन (MFA) कोड मागतो. आवाज कृत्रिम असतो, स्क्रिप्ट त्वरित तयार केली जाते आणि पीडित अशा सॉफ्टवेअरशी बोलत असतो ज्याला कधीही भीती वाटत नाही, जो कधीही शब्दांत अडकत नाही आणि जो आपल्या ध्येयापासून कधीही विचलित होत नाही.
खोट्या आभासी ओळख (Forged virtual identities) हे फसवणुकीचे स्वरूप केवळ एका कॉलपुरते मर्यादित न ठेवता संपूर्ण व्यक्तिमत्त्वापर्यंत विस्तारते. धोक्याचे घटक तयार केलेले फोटो, बनावट नोकरीचा इतिहास आणि कृत्रिम नेटवर्क कनेक्शनसह सिंथेटिक प्रोफाइल्स तयार करू शकतात. या ओळखी केवळ एक संदेश पाठवत नाहीत; त्या व्यावसायिक नेटवर्कमध्ये सामील होऊ शकतात, उद्योगातील चर्चेत भाग घेऊ शकतात आणि घातक पेलोड पाठवण्यापूर्वी किंवा संवेदनशील क्रेडेंशियल्सची मागणी करण्यापूर्वी आठवडे किंवा महिने विश्वास निर्माण करू शकतात. ही दीर्घकालीन फसवणूक आता औद्योगिक स्तरावर पोहोचली आहे.
अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन हल्ले (Indirect prompt injection attacks) थेट अंतिम वापरकर्त्याऐवजी AI ॲप्लिकेशन्सच्या आर्किटेक्चरला लक्ष्य करतात. हल्लेखोर वेबपेज, दस्तऐवज किंवा ईमेलमध्ये घातक सूचना लपवतात, ज्यावर नंतर AI एजंट प्रक्रिया करतो. जेव्हा एखादे कॉर्पोरेट असिस्टंट टूल तो दूषित डेटा वाचते, तेव्हा ते हल्लेखोराने टाकलेल्या सूचनांचे पालन करते, ज्यामुळे संभाव्यतः गोपनीय माहिती लीक होऊ शकते किंवा वापरकर्त्याच्या वतीने अनधिकृत कृती केल्या जाऊ शकतात. ॲप्लिकेशनमध्ये बिघाड झाल्यासारखे वाटते, परंतु ते केवळ अशा आदेशांचे पालन करत असते जे त्याने कधीही पाहिले नसावेत.
अंतर्गत आघाडी: अनधिकृत AI आणि डेटा लीक
या बाह्य धोक्यांसोबतच, कार्यालयाच्या भिंतींच्या आत घडत असलेल्या एका शांत संकटाची तीव्रताही वाढत आहे. संस्थांना आता अनधिकृत AI वापरामुळे, ज्याला अनेकदा 'shadow AI' म्हटले जाते, गंभीर धोक्यांचा सामना करावा लागत आहे, जिथे कर्मचारी आपली दैनंदिन कामे जलद करण्यासाठी मालकीचा कोड, ग्राहकांचे रेकॉर्ड्स किंवा धोरणात्मक योजना सार्वजनिक चॅटबॉट्समध्ये पेस्ट करतात. याचा परिणाम असा होतो की