Explication de la latence réseau mondiale
La latence tue les logiciels modernes. Une milliseconde de délai au niveau de la couche réseau provoque des secondes de décalage dans votre application. Cela ruine l'expérience pour les outils en temps réel et le streaming d'IA.
La plupart des ingénieurs considèrent Internet comme un nuage magique. La réalité est physique et rigide.
La limite de la vitesse de la lumière
Les données voyagent via des câbles sous-marins à fibre optique. La lumière se déplace plus lentement dans le verre que dans le vide. La lumière voyage dans la fibre à environ 204 500 km/s.
Un trajet de 9 000 km à travers le Pacifique présente un délai minimum de 88 ms. Vous ne pouvez pas briser cette limite. La physique impose un plancher à vos performances.
Anycast vs Unicast
Dans un réseau Unicast, chaque serveur possède une adresse IP unique. Si un utilisateur à Londres contacte un serveur à New York, les paquets parcourent de longues distances à travers de nombreux sauts. Cela crée une latence élevée.
L'Anycast change la donne. Vous attribuez la même IP à plusieurs emplacements edge.
- Les routeurs trouvent le chemin le plus court en utilisant le BGP.
- Les paquets sont envoyés vers le nœud physique le plus proche.
- La connexion démarre à proximité de l'utilisateur. Cela rapproche votre réseau de vos clients.
Le danger de la perte de paquets
De nombreux administrateurs pensent qu'une perte de paquets de 1 % est acceptable. Pour les API à haute vitesse, c'est un désastre.
Les protocoles TCP standards comme Cubic traitent la perte de paquets comme une congestion totale. Si un paquet est perdu, le système réduit sa vitesse de 30 %. Des pertes répétées empêchent la connexion d'atteindre jamais sa vitesse maximale.
Si la connexion atteint un délai d'attente (timeout), le temps d'attente double à chaque fois. Une infime perte peut geler une application pendant plusieurs secondes.
Comment y remédier
Les équipes modernes utilisent deux outils principaux pour surmonter ces limites :
- BBR : Cet algorithme mesure la bande passante réelle au lieu de réagir aveuglément à chaque paquet perdu. Il maintient des vitesses stables.
- QUIC : Ce protocole fonctionne sur UDP. Il empêche la perte d'un seul paquet d'interrompre tous les autres flux de données. Cela évite le gel que l'on observe avec le TCP traditionnel.
Comprendre ces règles physiques et de routage vous aide à construire des systèmes mondiaux plus rapides.