Un equipo de IA de voz anunció que logró reducir la latencia de respuesta de extremo a extremo en llamadas telefónicas reales a menos de 1,8 segundos, lo que representa una caída del 55 % respecto a su primer prototipo. El solapamiento de flujos de procesamiento, un detector de actividad de voz neuronal, la síntesis de texto a voz por streaming y la pre-búsqueda especulativa de intención impulsaron esta mejora y elevaron las tasas de conversión de citas en aproximadamente un 30 %.

Por qué la latencia es importante para los asistentes de voz

Las pausas largas hacen que quienes llaman se pregunten si el sistema sigue escuchando. En las primeras pruebas, el prototipo esperaba 2,9 segundos antes de responder. Los usuarios repetían lo que habían dicho o colgaban, una señal clara de que el retraso estaba rompiendo el flujo conversacional. Para cualquier servicio en tiempo real —atención al cliente, reservas, búsqueda de información— cada segundo de silencio erosiona la confianza y reduce la conversión.

Los ajustes técnicos que recortaron un segundo

El equipo abandonó el flujo de trabajo estrictamente secuencial y permitió que cada etapa se ejecutara en paralelo, alimentando a la siguiente tan pronto como tuviera suficientes datos.

  • Detección de actividad de voz (VAD) neuronal. Un pequeño modelo neuronal supervisa el flujo de audio y predice cuándo el hablante termina una frase, reduciendo la ventana de detección de unos 800 ms a 280 ms.
  • Síntesis de texto a voz (TTS) por streaming. En lugar de esperar la respuesta textual completa, el sistema envía la primera frase al sintetizador de inmediato, de modo que el audio comienza mientras el resto de la respuesta aún se está generando.
  • Pre-búsqueda especulativa de intención. Mientras el usuario aún está hablando, el modelo predice la intención probable y realiza consultas al backend por adelantado. Si la suposición es correcta, la respuesta está lista en el momento en que termina el enunciado; si es errónea, la respuesta de respaldo (fallback) llega rápidamente de todos modos.

Lo que muestran los números y qué observar a continuación

Con el diseño de procesos solapados, el tiempo total de respuesta cayó por debajo de los 1,8 segundos y las tasas de conversión de citas aumentaron un 30 %.

Este enfoque añade complejidad: los flujos paralelos y las consultas especulativas consumen más capacidad de cómputo y exigen un manejo de errores cuidadoso cuando las predicciones fallan. Los equipos que consideren seguir la misma ruta deben sopesar el coste del hardware frente al aumento esperado en la interacción del usuario.