From Spikes to Savings: Kubernetes Cost Optimization

Nuestra factura de AWS aumentó un 34% en un trimestre. La hoja de ruta del producto no mostraba cambios. La causa era sencilla: nuestros clústeres de Kubernetes estaban desperdiciando dinero.

Los ingenieros suelen adivinar cuánta CPU y memoria necesita un servicio. Redondean al alza para estar seguros. Esto crea capacidad fantasma. Pagas por recursos que tus aplicaciones nunca utilizan.

Así es como lo solucionamos y ahorramos un 34% en los costos mensuales.

The Core Problem: Requests vs Limits

Los requests son lo que garantizas. Kubernetes utiliza este número para ubicar tu pod en un nodo. Este número es el que determina tu factura.

Los limits son el techo. Si un pod alcanza un límite de CPU, se ralentiza. Si alcanza un límite de memoria, muere.

Muchos equipos configuran los requests iguales a los limits. Esto significa que pagas por la capacidad máxima las 24 horas del día, los 7 días de la semana, incluso cuando tu servicio está inactivo.

Our Strategy for Savings

  • Mide antes de actuar: utiliza Prometheus y Grafana para ver el uso real.
  • Usa percentiles: observa el uso del p95 durante 4 semanas. No uses promedios. Los promedios ocultan los picos.
  • Ajusta el tamaño de los requests: establece los requests en el uso del p95 más un margen del 20%.
  • Gestiona los límites de CPU: evita límites de CPU muy ajustados en servicios sensibles para prevenir el throttling.
  • Automatiza el escalado: utiliza HPA para los picos de tráfico y VPA para ajustar pods individuales.

The Results

Redujimos nuestro número de nodos de 40 a 26. La utilización media de CPU aumentó del 14% al 52%. Los costos mensuales de computación bajaron de $48,200 a $31,900. De hecho, la latencia mejoró un 35%.

La optimización no es un proyecto de una sola vez. Es un hábito. Si escribes una solicitud de recursos basada en una suposición, estás desperdiciando dinero.

Checklist for your cluster:

• Crea un dashboard que muestre el uso solicitado frente al uso real. • Establece los requests basándote en 4 semanas de datos. • Ejecuta VPA en modo de recomendación antes de permitirle realizar cambios. • Revisa las especificaciones de recursos cada trimestre. • Brinda a los equipos de ingeniería visibilidad sobre sus propios costos.

Source: https://dev.to/samarth_05/from-spikes-to-savings-practical-k8s-cost-optimization-for-2026-75k

Optional learning community: https://t.me/GyaanSetuAi