Du tokenmaxxing au ROI : Tiffany Luck de NEA sur le retour à la réalité de l'IA

L'ère du « tokenmaxxing » — où les PDG de la Silicon Valley encourageaient une utilisation illimitée de l'IA quel qu'en soit le coût — cède rapidement la place à une période d'examen financier intense. Alors que les entreprises dépassent l'engouement initial, l'accent est passé de la simple consommation à un retour sur investissement (ROI) démontrable.

La fin de l'ère du tokenmaxxing

Plus tôt cette année, la tendance dominante dans la tech était le « tokenmaxxing », une volonté d'intégrer l'IA dans chaque flux de travail possible afin de maximiser l'utilité. Cependant, les coûts astronomiques de la consommation de modèles de langage étendus (LLM) ont entraîné un important retour à la réalité. Des rapports de grande envergure suggèrent que des entreprises comme Uber auraient épuisé la totalité de leur budget annuel dédié à l'IA en seulement quelques mois.

Cette pression budgétaire a forcé les organisations à mettre en place des contrôles stricts, certaines entreprises allant jusqu'à supprimer des licences Claude pour certains départements ou abandonner les classements (leaderboards) d'IA internes, comme c'est le cas pour Meta. Pour les investisseurs en capital-risque comme Tiffany Luck, partenaire chez NEA, ce changement signale une transition entre les dépenses expérimentales et une « heure des comptes sur le ROI » disciplinée.

L'essor de l'agnosticisme de modèle et des stratégies de déploiement

Alors que les entreprises sont aux prises avec ces coûts, un nouveau modèle d'adoption en entreprise émerge. Plutôt que de s'engager auprès d'un fournisseur unique, les entreprises « combinent » de plus en plus différents modèles pour optimiser à la fois la performance et le prix. Cette approche multi-modèles permet aux entreprises d'utiliser des modèles coûteux à haut niveau de raisonnement pour les tâches complexes, tout en utilisant des modèles plus petits et moins chers pour l'automatisation de routine.

Pour faciliter cette intégration, une nouvelle catégorie de talents devient essentielle : l'ingénieur de déploiement sur le terrain (forward-deployed engineer). Luck suggère que ces ingénieurs agissent comme un « cheval de Troie » pour l'adoption de l'IA au sein des grandes organisations. En travaillant directement sur le front de l'implémentation, ils aident à combler le fossé entre les capacités brutes des modèles et des cas d'usage métier spécifiques et axés sur la valeur, garantissant que les outils d'IA résolvent réellement les problèmes de l'entreprise plutôt que de simplement ajouter de la complexité.

Trouver de la valeur sur l'ensemble de la stack IA

Une idée reçue courante sur le marché actuel est que la valeur est concentrée uniquement au niveau de la couche des modèles. Alors que la course au LLM le plus puissant se poursuit, Tiffany Luck soutient qu'une création de valeur significative se produit à chaque couche de la stack IA.

Des startups qui construisent des infrastructures spécialisées pour aider les entreprises à suivre leurs dépenses en IA, aux développeurs créant des « agents personnels » qui offrent des « moments magiques » dans les expériences client, les opportunités se diversifient. À mesure que le secteur mûrit, les gagnants ne seront probablement pas ceux qui fournissent simplement le plus de tokens, mais ceux qui fournissent l'intelligence la plus efficace, intégrée et mesurable.

Points clés