Od tokenmaxxing do ROI: Tiffany Luck z NEA o zderzeniu z rzeczywistością AI

Era „tokenmaxxing” – w której dyrektorzy generalni z Doliny Krzemowej zachęcali do nieograniczonego korzystania z AI bez względu na koszty – szybko ustępuje miejsca okresowi intensywnej kontroli finansowej. W miarę jak przedsiębiorstwa wykraczają poza początkowy szum, uwaga przenosi się z samej konsumpcji na wymierny zwrot z inwestycji (ROI).

Koniec ery tokenmaxxing

Na początku tego roku dominującym trendem w technologii był „tokenmaxxing”, czyli dążenie do integracji AI w każdym możliwym procesie pracy, aby zmaksymalizować jej użyteczność. Jednak astronomiczne koszty zużycia dużych modeli językowych (LLM) doprowadziły do znaczącego zderzenia z rzeczywistością. Głośne raporty sugerują, że firmy takie jak Uber rzekomo wyczerpały cały swój roczny budżet na AI w zaledwie kilka miesięcy.

Ta presja finansowa zmusiła organizacje do wprowadzenia ścisłych kontroli; niektóre firmy zdecydowały się nawet na ograniczenie licencji Claude dla konkretnych działów lub wycofanie wewnętrznych rankingów AI, jak ma to przypadek Meta. Dla inwestorów venture capital, takich jak partnerka NEA, Tiffany Luck, ta zmiana sygnalizuje przejście od wydatków eksperymentalnych do zdyscyplinowanego „rozliczania ROI”.

Wzrost znaczenia agnostycyzmu modelowego i strategii wdrażania

W miarę jak firmy zmagają się z tymi kosztami, wyłania się nowy wzorzec adopcji w przedsiębiorstwach. Zamiast wiązać się z jednym dostawcą, firmy coraz częściej „mieszają i dopasowują” różne modele, aby zoptymalizować zarówno wydajność, jak i cenę. To podejście wielomodelowe pozwala firmom korzystać z drogich modeli o wysokich zdolnościach rozumowania w złożonych zadaniach, jednocześnie wykorzystując mniejsze i tańsze modele do rutynowej automatyzacji.

Aby ułatwić tę integrację, niezbędna staje się nowa grupa specjalistów: inżynierowie typu forward-deployed. Luck sugeruje, że inżynierowie ci działają jak „koń trojański” dla adopcji AI w dużych organizacjach. Pracując bezpośrednio na pierwszej linii wdrożeń, pomagają oni wypełnić lukę między surowymi możliwościami modeli a konkretnymi, opartymi na wartości przypadkami użycia w biznesie, zapewniając, że narzędzia AI faktycznie rozwiązują problemy przedsiębiorstw, zamiast jedynie dodawać im złożoności.

Znajdowanie wartości w całym stosie AI

Powszechnym błędnym przekonaniem na obecnym rynku jest to, że wartość koncentruje się wyłącznie na warstwie modelu. Podczas gdy wyścig o najpotężniejszy model LLM trwa, Tiffany Luck argumentuje, że znaczące tworzenie wartości odbywa się na każdej warstwie stosu AI.

Od startupów budujących specjalistyczną infrastrukturę, aby pomóc przedsiębiorstwom śledzić wydatki na AI, po deweloperów tworzących „osobistych agentów”, którzy dostarczają „magiczne momenty” w doświadczeniach konsumenckich – możliwości stają się coraz bardziej zróżnicowane. W miarę dojrzewania branży zwycięzcami prawdopodobnie nie będą ci, którzy po prostu dostarczają najwięcej tokenów, lecz ci, którzy zapewnią najbardziej wydajną, zintegrowaną i mierzalną inteligencję.

Kluczowe wnioski