Del "tokenmaxxing" al ROI: Tiffany Luck de NEA sobre la realidad de la IA

La era del "tokenmaxxing" —donde los CEOs de Silicon Valley fomentaban el uso ilimitado de la IA sin importar el coste— está dando paso rápidamente a un periodo de intenso escrutinio financiero. A medida que las empresas superan el entusiasmo inicial, el enfoque ha pasado del mero consumo a un Retorno de la Inversión (ROI) demostrable.

El fin de la era del "tokenmaxxing"

A principios de este año, la tendencia predominante en tecnología era el "tokenmaxxing", un impulso para integrar la IA en todos los flujos de trabajo posibles para maximizar la utilidad. Sin embargo, los costes astronómicos del consumo de modelos de lenguaje de gran tamaño (LLM) han provocado un importante baño de realidad. Informes de alto perfil sugieren que empresas como Uber supuestamente agotaron todo su presupuesto anual de IA en cuestión de pocos meses.

Esta presión fiscal ha obligado a las organizaciones a implementar controles estrictos; algunas empresas incluso han recortado licencias de Claude para departamentos específicos o han retirado las tablas de clasificación internas de IA, como Meta. Para los inversores de capital riesgo como Tiffany Luck, socia de NEA, este cambio señala una transición del gasto experimental a un disciplinado "ajuste de cuentas por el ROI".

El auge del agnosticismo de modelos y las estrategias de despliegue

Mientras las empresas lidian con estos costes, está surgiendo un nuevo patrón de adopción empresarial. En lugar de comprometerse con un único proveedor, las empresas están "combinando y emparejando" cada vez más diferentes modelos para optimizar tanto el rendimiento como el precio. Este enfoque multi-modelo permite a las empresas utilizar modelos costosos y de alto razonamiento para tareas complejas, mientras utilizan modelos más pequeños y económicos para la automatización rutinaria.

Para facilitar esta integración, una nueva clase de talento se está volviendo esencial: el ingeniero de despliegue avanzado (forward-deployed engineer). Luck sugiere que estos ingenieros están actuando como un "caballo de Troya" para la adopción de la IA dentro de las grandes organizaciones. Al trabajar directamente en la primera línea de la implementación, ayudan a cerrar la brecha entre las capacidades brutas de los modelos y los casos de uso empresariales específicos y orientados al valor, asegurando que las herramientas de IA realmente resuelvan problemas empresariales en lugar de simplemente añadir complejidad.

Encontrando valor en todo el stack de IA

Un error común en el mercado actual es pensar que el valor se concentra únicamente en la capa del modelo. Si bien la carrera por el LLM más potente continúa, Tiffany Luck sostiene que la creación de valor significativo está ocurriendo en cada capa del stack de IA.

Desde las startups que construyen infraestructura especializada para ayudar a las empresas a rastrear el gasto en IA, hasta los desarrolladores que crean "agentes personales" que ofrecen "momentos mágicos" en las experiencias del consumidor, las oportunidades se están diversificando. A medida que la industria madura, es probable que los ganadores no sean aquellos que simplemente proporcionen la mayor cantidad de tokens, sino aquellos que proporcionen la inteligencia más eficiente, integrada y medible.

Conclusiones clave