Dal Tokenmaxxing al ROI: Tiffany Luck di NEA sulla realtà dell'IA

L'era del "tokenmaxxing" — in cui i CEO della Silicon Valley incoraggiavano un uso illimitato dell'IA indipendentemente dai costi — sta rapidamente lasciando il posto a un periodo di intenso scrutinio finanziario. Mentre le imprese superano l'hype iniziale, l'attenzione si è spostata dal puro consumo a un ritorno sull'investimento (ROI) dimostrabile.

La fine dell'era del tokenmaxxing

All'inizio di quest'anno, la tendenza prevalente nel settore tech era il "tokenmaxxing", ovvero la spinta a integrare l'IA in ogni possibile workflow per massimizzarne l'utilità. Tuttavia, i costi astronomici del consumo di modelli linguistici di grandi dimensioni (LLM) hanno portato a un significativo confronto con la realtà. Report di alto profilo suggeriscono che aziende come Uber abbiano esaurito l'intero budget annuale per l'IA in pochi mesi.

Questa pressione finanziaria ha costretto le organizzazioni a implementare controlli rigorosi, con alcune aziende che hanno persino tagliato le licenze Claude per reparti specifici o eliminato le classifiche interne di IA, come nel caso di Meta. Per i venture capitalist come la partner di NEA Tiffany Luck, questo cambiamento segnala una transizione dalla spesa sperimentale a un disciplinato "momento della verità sul ROI".

L'ascesa dell'agnosticismo del modello e delle strategie di deployment

Mentre le aziende fanno i conti con questi costi, sta emergendo un nuovo modello di adozione aziendale. Invece di vincolarsi a un singolo fornitore, le imprese stanno sempre più "combinando" diversi modelli per ottimizzare sia le prestazioni che il prezzo. Questo approccio multi-modello consente alle aziende di utilizzare modelli costosi e ad alto ragionamento per compiti complessi, utilizzando al contempo modelli più piccoli ed economici per l'automazione di routine.

Per facilitare questa integrazione, una nuova categoria di talenti sta diventando essenziale: il forward-deployed engineer. Luck suggerisce che questi ingegneri stiano agendo come un "cavallo di Troia" per l'adozione dell'IA all'interno delle grandi organizzazioni. Lavorando direttamente in prima linea nell'implementazione, aiutano a colmare il divario tra le capacità grezze dei modelli e specifici casi d'uso aziendali orientati al valore, assicurando che gli strumenti di IA risolvano effettivamente i problemi aziendali invece di aggiungere solo complessità.

Trovare valore in tutto lo stack dell'IA

Un comune malinteso nell'attuale mercato è che il valore sia concentrato esclusivamente al livello del modello. Mentre continua la corsa al LLM più potente, Tiffany Luck sostiene che una significativa creazione di valore stia avvenendo in ogni livello dello stack dell'IA.

Dalle startup che costruiscono infrastrutture specializzate per aiutare le imprese a monitorare la spesa per l'IA, agli sviluppatori che creano "agenti personali" in grado di offrire "momenti magici" nelle esperienze dei consumatori, le opportunità si stanno diversificando. Man mano che il settore matura, i vincitori probabilmente non saranno coloro che forniscono semplicemente il maggior numero di token, ma coloro che offrono l'intelligenza più efficiente, integrata e misurabile.

Punti chiave