𝗚𝗹𝗼𝗯𝗮𝗹 𝗡𝗲𝘁𝘄𝗼𝗿𝗸 𝗟𝗮𝘁𝗲𝗻𝗰𝘆 𝗘𝘅𝗽𝗹𝗮𝗶𝗻𝗲𝗱
లేటెన్సీ ఆధునిక సాఫ్ట్వేర్ను దెబ్బతీస్తుంది. నెట్వర్క్ లేయర్లో ఒక మిల్లీసెకను ఆలస్యం జరిగినా, మీ అప్లికేషన్లో సెకన్ల కొద్దీ లాగ్ (lag) ఏర్పడుతుంది. ఇది రియల్-టైమ్ టూల్స్ మరియు AI స్ట్రీమింగ్ అనుభవాన్ని దెబ్బతీస్తుంది.
చాలా మంది ఇంజనీర్లు ఇంటర్నెట్ను ఒక మాయా మేఘం (magic cloud) లాగా భావిస్తారు. కానీ వాస్తవానికి ఇది భౌతికమైనది మరియు కఠినమైన నియమాలకు లోబడి ఉంటుంది.
కాంతి వేగ పరిమితి (The Speed of Light Limit) డేటా సముద్రగర్భంలోని ఫైబర్-ఆప్టిక్ కేబుల్స్ ద్వారా ప్రయాణిస్తుంది. శూన్యంలో (vacuum) కంటే గాజులో కాంతి వేగం తక్కువగా ఉంటుంది. ఫైబర్లో కాంతి సుమారు 204,500 కిమీ/సెకను వేగంతో ప్రయాణిస్తుంది.
పసిఫిక్ మహాసముద్రం గుండా ఉండే 9,000 కిమీ మార్గంలో కనీసం 88ms ఆలస్యం ఉంటుంది. మీరు ఈ పరిమితిని దాటలేరు. భౌతిక శాస్త్ర నియమాలు మీ పనితీరుపై ఒక కనిష్ట పరిమితిని విధిస్తాయి.
Anycast vs Unicast Unicast నెట్వర్క్లో, ప్రతి సర్వర్కు ఒక ప్రత్యేకమైన IP ఉంటుంది. లండన్లోని వినియోగదారు న్యూయార్క్ సర్వర్ను సంప్రదించినప్పుడు, ప్యాకెట్లు అనేక హాప్ల (hops) ద్వారా సుదూర ప్రాంతాలకు ప్రయాణిస్తాయి. ఇది అధిక లేటెన్సీకి దారితీస్తుంది.
Anycast దీనిని మారుస్తుంది. మీరు ఒకే IPని బహుళ ఎడ్జ్ లొకేషన్లకు కేటాయించవచ్చు.
- రూటర్లు BGPని ఉపయోగించి అతి తక్కువ దూరం ఉన్న మార్గాన్ని కనుగొంటాయి.
- ప్యాకెట్లు అత్యంత సమీపంలో ఉన్న ఫిజికల్ నోడ్కు చేరుతాయి.
- కనెక్షన్ వినియోగదారునికి దగ్గరగా ప్రారంభమవుతుంది. ఇది మీ నెట్వర్క్ను మీ కస్టమర్లకు మరింత దగ్గరగా తీసుకువస్తుంది.
ప్యాకెట్ లాస్ (Packet Loss) వల్ల కలిగే ప్రమాదం చాలా మంది అడ్మిన్లు 1% ప్యాకెట్ లాస్ ఉన్నా పర్వాలేదని అనుకుంటారు. కానీ హై-స్పీడ్ APIల విషయానికి వస్తే, ఇది ఒక విపత్తు.
Cubic వంటి ప్రామాణిక TCP ప్రోటోకాల్లు ప్యాకెట్ లాస్ను మొత్తం కంజెషన్ (congestion) గా పరిగణిస్తాయి. ఒక ప్యాకెట్ డ్రాప్ అయితే, సిస్టమ్ దాని వేగాన్ని 30% తగ్గిస్తుంది. పదేపదే ప్యాకెట్ లాస్ జరగడం వల్ల కనెక్షన్ ఎప్పటికీ పూర్తి వేగాన్ని అందుకోలేదు.
కనెక్షన్ టైమ్ అవుట్ (timeout) అయితే, వేచి ఉండే సమయం ప్రతిసారీ రెట్టింపు అవుతుంది. చిన్నపాటి ప్యాకెట్ డ్రాప్ కూడా అప్లికేషన్ను సెకన్ల పాటు స్తంభింపజేయవచ్చు.
దీనిని ఎలా పరిష్కరించాలి? ఈ పరిమితులను అధిగమించడానికి ఆధునిక బృందాలు రెండు ప్రధాన సాధనాలను ఉపయోగిస్తాయి:
- BBR: ఈ అల్గారిథమ్ ప్రతి డ్రాప్ అయిన ప్యాకెట్కు గుడ్డిగా స్పందించకుండా, వాస్తవ బ్యాండ్విడ్త్ను కొలుస్తుంది. ఇది వేగాన్ని స్థిరంగా ఉంచుతుంది.
- QUIC: ఈ ప్రోటోకాల్ UDP పై నడుస్తుంది. ఒక ప్యాకెట్ పోయినంత మాత్రాన మిగిలిన డేటా స్ట్రీమ్లు ఆగిపోకుండా ఇది నిరోధిస్తుంది. సాంప్రదాయ TCPలో మీరు చూసే ఫ్రీజ్ (freeze) సమస్యను ఇది అడ్డుకుంటుంది.
ఈ భౌతిక మరియు రూటింగ్ నియమాలను అర్థం చేసుకోవడం ద్వారా మీరు వేగవంతమైన గ్లోబల్ సిస్టమ్లను నిర్మించవచ్చు.