Van Tokenmaxxing naar ROI: NEA's Tiffany Luck over de AI-realitycheck

Het tijdperk van "tokenmaxxing" — waarin Silicon Valley-CEO's onbeperkt AI-gebruik aanmoedigden, ongeacht de kosten — maakt snel plaats voor een periode van intensieve financiële controle. Nu bedrijven de eerste hype achter zich laten, is de focus verschoven van pure consumptie naar een aantoonbare Return on Investment (ROI).

Het einde van het tijdperk van tokenmaxxing

Begin dit jaar was de heersende trend in de techsector "tokenmaxxing": een drang om AI in elke mogelijke workflow te integreren om het nut te maximaliseren. De astronomische kosten van het verbruik van large language models (LLM's) hebben echter geleid tot een belangrijke realitycheck. Prominente rapporten suggereren dat bedrijven zoals Uber naar verluidt hun volledige jaarlijkse AI-budget binnen slechts enkele maanden hebben uitgeput.

Deze financiële druk heeft organisaties gedwongen om strikte controles in te voeren, waarbij sommige bedrijven zelfs Claude-licenties voor specifieke afdelingen hebben ingetrokken of interne AI-leaderboards hebben stopgezet, zoals Meta. Voor venture capitalists zoals NEA-partner Tiffany Luck signaleert deze verschuiving een overgang van experimentele uitgaven naar een gedisciplineerde "ROI-afrekening".

De opkomst van modelagnosticisme en implementatiestrategieën

Terwijl bedrijven worstelen met deze kosten, ontstaat er een nieuw patroon in de adoptie door ondernemingen. In plaats van zich vast te leggen op één enkele aanbieder, gaan bedrijven steeds vaker verschillende modellen "mixen en matchen" om zowel prestaties als prijs te optimaliseren. Deze multi-model aanpak stelt bedrijven in staat om dure modellen met een hoog redeneervermogen te gebruiken voor complexe taken, terwijl ze kleinere, goedkopere modellen inzetten voor routinematige automatisering.

Om deze integratie te vergemakkelijken, wordt een nieuw type talent essentieel: de forward-deployed engineer. Luck suggereert dat deze engineers fungeren als een "Trojaans paard" voor de adoptie van AI binnen grote organisaties. Door direct aan de frontlinie van de implementatie te werken, helpen ze de kloof te overbruggen tussen de ruwe modelcapaciteiten en specifieke, waardegestuurde zakelijke use cases. Zo zorgen ze ervoor dat AI-tools daadwerkelijk bedrijfsproblemen oplossen in plaats van alleen maar complexiteit toe te voegen.

Waarde vinden in de gehele AI-stack

Een veelvoorkomende misvatting in de huidige markt is dat de waarde zich uitsluitend concentreert op de model-laag. Terwijl de race naar het krachtigste LLM doorgaat, stelt Tiffany Luck dat er op elke laag van de AI-stack aanzienlijke waardegeneratie plaatsvindt.

Van startups die gespecialiseerde infrastructuur bouwen om bedrijven te helpen AI-uitgaven te monitoren, tot ontwikkelaars die "persoonlijke agenten" creëren die "magische momenten" bieden in consumentenervaringen: de mogelijkheden worden steeds diverser. Naarmate de sector volwassen wordt, zullen de winnaars waarschijnlijk niet degenen zijn die simpelweg de meeste tokens leveren, maar degenen die de meest efficiënte, geïntegreerde en meetbare intelligentie bieden.

Belangrijkste inzichten