Pourquoi les entreprises peinent à calculer le retour sur investissement de l'IA

La vague initiale de « tokenmaxxing » — où les PDG encourageaient une utilisation agressive et incontrôlée de l'IA — se heurte à un brutal retour à la réalité alors que les budgets d'entreprise font l'objet d'un examen minutieux. À mesure que les entreprises dépassent la phase d'expérimentation, le défi central n'est plus la simple adoption, mais la preuve d'un retour sur investissement (ROI) tangible.

Du « tokenmaxxing » à la responsabilité budgétaire

Plus tôt cette année, la Silicon Valley a été saisie par le « tokenmaxxing », une tendance où les organisations poussaient l'utilisation de l'IA à ses limites absolues pour maximiser ses capacités. Cependant, les implications financières de cet enthousiasme débridé sont aujourd'hui mises en lumière. Des rapports indiquent que des acteurs majeurs comme Uber auraient épuisé leurs budgets annuels d'IA en seulement quelques mois.

Cette explosion de la consommation a entraîné une phase de correction dans le paysage des entreprises. Nous voyons des organisations réduire la voilure, comme des entreprises supprimant des licences Claude pour certains départements, et même Meta qui aurait mis fin à son classement interne de l'IA. Ces mesures signalent un passage d'une mentalité de « croissance à tout prix » à une approche de discipline fiscale rigoureuse et de gestion des ressources.

La recherche de « moments magiques » et d'agents personnels

Malgré le resserrement budgétaire, Tiffany Luck, associée chez NEA, reste optimiste quant au potentiel transformateur de l'IA, particulièrement dans le secteur de la consommation. Luck souligne l'importance d'identifier les « moments magiques » — ces instants précis où l'IA apporte une utilité indéniable et à haute valeur ajoutée à l'utilisateur final.

L'industrie dépasse les simples chatbots pour s'orienter vers le développement d'agents personnels sophistiqués. Ces agents représentent la prochaine frontière de l'IA, passant d'outils réactifs à des assistants proactifs capables de gérer des tâches complexes. Pour les investisseurs en capital-risque et les fondateurs, l'objectif est de dépasser les implémentations génériques de LLM pour construire des agents spécialisés qui résolvent des problèmes à forte friction de manière à justifier leurs coûts opérationnels importants.

L'essor de la gestion des dépenses liées à l'IA

À mesure que l'écart entre le battage médiatique autour de l'IA et la productivité réelle se réduit, un nouveau sous-secteur de startups émerge pour combler ce fossé. Les entreprises peinent actuellement à suivre les coûts granulaires des appels d'API de modèles, de la puissance de calcul et des licences par utilisateur par rapport à la valeur réelle générée.

Cela a ouvert une opportunité massive pour les startups se concentrant sur l'observabilité de l'IA et la gestion des dépenses. Les entreprises recherchent des outils offrant une transparence sur leur stack IA, leur permettant de voir exactement où les tokens sont consommés et si ces tokens génèrent des revenus ou s'ils ne font qu'augmenter les frais généraux. La capacité à corréler les dépenses en IA à des résultats commerciaux spécifiques sera le facteur déterminant pour les entreprises qui réussiront à intégrer l'IA dans leurs processus métier fondamentaux.

Points clés