Do Tokenmaxxing ao ROI: Tiffany Luck, da NEA, sobre o choque de realidade da IA

A era do "tokenmaxxing" — em que os CEOs do Vale do Silício incentivavam o uso ilimitado de IA, independentemente do custo — está rapidamente dando lugar a um período de intenso escrutínio financeiro. À medida que as empresas superam o hype inicial, o foco mudou do puro consumo para um Retorno sobre o Investimento (ROI) demonstrável.

O Fim da Era do Tokenmaxxing

No início deste ano, a tendência predominante na tecnologia era o "tokenmaxxing", um esforço para integrar a IA em todos os fluxos de trabalho possíveis para maximizar a utilidade. No entanto, os custos astronômicos do consumo de modelos de linguagem de grande escala (LLM) levaram a um choque de realidade significativo. Relatórios de alto perfil sugerem que empresas como a Uber teriam esgotado todo o seu orçamento anual de IA em apenas alguns meses.

Essa pressão fiscal forçou as organizações a implementar controles rigorosos, com algumas empresas chegando a cortar licenças do Claude para departamentos específicos ou aposentar rankings internos de IA, como a Meta. Para capitalistas de risco como a parceira da NEA, Tiffany Luck, essa mudança sinaliza uma transição de gastos experimentais para um "acerto de contas do ROI" disciplinado.

A Ascensão do Agnosticismo de Modelo e das Estratégias de Implantação

Enquanto as empresas lidam com esses custos, um novo padrão de adoção empresarial está surgindo. Em vez de se comprometerem com um único provedor, as empresas estão cada vez mais "combinando" diferentes modelos para otimizar tanto o desempenho quanto o preço. Essa abordagem multi-modelo permite que as empresas utilizem modelos caros e de alto raciocínio para tarefas complexas, enquanto utilizam modelos menores e mais baratos para automação rotineira.

Para facilitar essa integração, uma nova classe de talento está se tornando essencial: o engenheiro de implantação direta (forward-deployed engineer). Luck sugere que esses engenheiros estão atuando como um "Cavalo de Troia" para a adoção de IA dentro de grandes organizações. Ao trabalhar diretamente na linha de frente da implementação, eles ajudam a preencher a lacuna entre as capacidades brutas dos modelos e casos de uso de negócios específicos e orientados por valor, garantindo que as ferramentas de IA realmente resolvam problemas empresariais em vez de apenas adicionar complexidade.

Encontrando Valor em Todo o Stack de IA

Um equívoco comum no mercado atual é que o valor está concentrado apenas na camada de modelo. Embora a corrida pelo LLM mais poderoso continue, Tiffany Luck argumenta que a criação de valor significativa está acontecendo em todas as camadas do stack de IA.

De startups que constroem infraestrutura especializada para ajudar empresas a monitorar gastos com IA, a desenvolvedores criando "agentes pessoais" que proporcionam "momentos mágicos" em experiências de consumo, as oportunidades estão se diversificando. À medida que a indústria amadurece, os vencedores provavelmente não serão aqueles que simplesmente fornecem o maior número de tokens, mas sim aqueles que fornecem a inteligência mais eficiente, integrada e mensurável.

Principais Conclusões