トークンマキシングからROIへ：NEAのティファニー・ラック氏が語るAIの現実（リアリティ・チェック）

コストを度外視して無制限のAI利用を推奨してきたシリコンバレーのCEOたちによる「トークンマキシング」の時代は、急速に厳しい財務的精査の時代へと取って代わられようとしています。企業が当初のハイプ（熱狂）を過ぎ、焦点は単なる消費から、実証可能な投資収益率（ROI）へと移っています。

トークンマキシング時代の終焉

今年初め、テック業界の主流となっていたのは、有用性を最大化するためにあらゆるワークフローにAIを統合しようとする「トークンマキシング」でした。しかし、大規模言語モデル（LLM）の消費に伴う天文学的なコストが、重大な現実（リアリティ・チェック）を突きつけています。注目を集める報道によると、Uberのような企業は、わずか数ヶ月で年間のAI予算をすべて使い果たしたと言われています。

この財政的圧力により、組織は厳格な管理を余儀なくされています。一部の企業では、特定の部門のClaudeライセンスを削減したり、Metaのように社内のAIリーダーボードを廃止したりする動きさえ見られます。NEAのパートナーであるティファニー・ラック氏のようなベンチャーキャピタリストにとって、この変化は、実験的な支出から規律ある「ROIの精算（レコニング）」への移行を意味しています。

モデル・アグノスティシズムとデプロイメント戦略の台頭

企業がこれらのコストに苦慮する中で、新たな企業導入のパターンが生まれつつあります。単一のプロバイダーに固執するのではなく、パフォーマンスと価格の両方を最適化するために、異なるモデルを「ミックス・アンド・マッチ」する企業が増えています。このマルチモデル・アプローチにより、企業は複雑なタスクには高価で高度な推論能力を持つモデルを使用し、定型的な自動化にはより小型で安価なモデルを活用することが可能になります。

この統合を促進するために、新たな層の才能が不可欠になりつつあります。それが「フォワード・デプロイド・エンジニア（現場配備型エンジニア）」です。ラック氏は、これらのエンジニアが大規模組織におけるAI導入の「トロイの木馬」として機能していると示唆しています。導入の最前線で直接活動することで、彼らはモデル本来の能力と、具体的で価値主導のビジネス・ユースケースとの間のギャップを埋める手助けをします。これにより、AIツールが単に複雑さを増すのではなく、実際に企業の課題を解決できるようにするのです。

AIスタック全体における価値の発見

現在の市場における一般的な誤解は、価値はモデル層だけに集中しているというものです。最強のLLMを巡る競争は続いていますが、ティファニー・ラック氏は、AIスタックのあらゆるレイヤーにおいて大きな価値創造が行われていると主張しています。

企業がAI支出を追跡するための特化型インフラを構築するスタートアップから、消費者体験において「マジックモーメント」を提供する「パーソナルエージェント」を開発するデベロッパーに至るまで、その機会は多様化しています。業界が成熟するにつれ、勝者となるのは単に最も多くのトークンを提供する者ではなく、最も効率的で、統合されており、かつ測定可能なインテリジェンスを提供する者になるでしょう。

主な要点