کم تاخیر والے ایونٹ اینالیٹکس کی تعمیر

بڑے جسمانی مقامات (physical venues) کے لیے ڈیٹا پائپ لائنز بنانا مشکل کام ہے۔

20,000 افراد پر مشتمل ایونٹ ایک عام ویب ایپ کے مقابلے میں مختلف مسائل پیدا کرتا ہے۔ ایک ویب ایپ میں، صارفین مختلف ٹائم زونز میں پھیلے ہوتے ہیں۔ ایک مقام (venue) میں، ہزاروں لوگ ایک ہی وقت میں ڈیٹا کے اچانک اضافے (data spikes) کا باعث بنتے ہیں۔

بیچ پروسیسنگ (Batch processing) یا لانگ پولنگ (long-polling) کی وجہ سے تاخیر (lag) ہو سکتی ہے۔ ہجوم کے کنٹرول میں، 15 منٹ کی تاخیر بھی ناکامی ہے۔ آپ مسائل کو روکنے کے بجائے پرانے مسائل پر ردعمل دینے کے قابل ہو جاتے ہیں۔

سیکنڈ کے ایک حصے سے بھی کم رفتار حاصل کرنے کے لیے، آپ کو ایج ہارڈ ویئر (edge hardware) سے اپنے ڈیش بورڈ تک ایک مسلسل اسٹریم کی ضرورت ہوتی ہے۔

یہاں ایک مستحکم ٹیلی میٹری پائپ لائن (telemetry pipeline) کا خاکہ پیش ہے۔

لیئر 1: آف لائن فرسٹ ایج کمپیوٹ (Offline-First Edge Compute)

آپ کو 5 ملی سیکنڈ سے بھی کم تاخیر (latency) کی ضرورت ہے۔ آپ کو نیٹ ورک کے منقطع ہونے (network drops) کو بھی سنبھالنا ہوگا۔ Redis جیسے مقامی ان میموری کیش (in-memory cache) والے ایج نوڈز کا استعمال کریں۔ ایونٹ شروع ہونے سے پہلے اپنے کلاؤڈ ڈیٹا بیس کو ان نوڈز پر مِرر (mirror) کر لیں۔

جب کوئی شریکِ عمل (attendee) ٹیگ اسکین کرتا ہے، تو سسٹم مقامی کیش (local cache) کو چیک کرتا ہے۔ یہ انٹرنیٹ کو نظر انداز کر کے گیٹس کی آمد و رفت کو جاری رکھتا ہے۔

لیئر 2: MQTT کے ذریعے غیر ہم آہنگ انجیشن (Asynchronous Ingestion)

مقامات کے نیٹ ورکس اکثر غیر مستحکم ہوتے ہیں۔ MQTT کا استعمال کریں کیونکہ یہ ہلکا پھلکا (lightweight) ہے۔ ایج نوڈز کلاؤڈ بروکر کو پیغامات بھیجتے ہیں۔ پھر بروکر ڈیٹا کو آپ کے انجیشن کیوز (ingestion queues) کی طرف بھیج دیتا ہے۔

لیئر 3: فل ڈپلیکس ویب ساکٹس (Full-Duplex WebSockets)

اپنے فرنٹ اینڈ کو اپ ڈیٹس کے لیے درخواست (request) کرنے پر مجبور نہ کریں۔ اپنے API گیٹ وے کے ساتھ مستقل رابطہ برقرار رکھنے کے لیے WebSockets کا استعمال کریں۔ اس سے یہ یقینی بنتا ہے کہ آپریشنز ٹیم ایک سیکنڈ سے بھی کم وقت میں تبدیلیوں کو دیکھ سکے۔

یہ سیٹ اپ ٹیموں کو ہجوم کے اچانک اضافے یا کم مصروفیت کو فوری طور پر پہچاننے کی اجازت دیتا ہے۔ آپ رکاوٹ (bottleneck) پیدا ہونے سے پہلے عملے کو دوسری طرف بھیج سکتے ہیں۔

آپ گھنے ہجوم کے لیے اپنے IoT ہارڈ ویئر کو کیسے بہتر بناتے ہیں؟ اپنے خیالات نیچے شیئر کریں۔

ماخذ: https://dev.to/stampiq/architecting-low-latency-real-time-event-analytics-at-scale-from-edge-rfid-to-websockets-3098