Từ Tokenmaxxing đến ROI: Tiffany Luck của NEA nói về sự kiểm chứng thực tế của AI

Kỷ nguyên "tokenmaxxing"—thời điểm các CEO tại Thung lũng Silicon khuyến khích sử dụng AI không giới hạn bất kể chi phí—đang nhanh chóng nhường chỗ cho một giai đoạn giám sát tài chính gắt gao. Khi các doanh nghiệp vượt qua giai đoạn cường điệu ban đầu, trọng tâm đã chuyển từ việc tiêu thụ thuần túy sang tỷ suất hoàn vốn (ROI) có thể chứng minh được.

Sự kết thúc của kỷ nguyên Tokenmaxxing

Đầu năm nay, xu hướng chủ đạo trong ngành công nghệ là "tokenmaxxing", một nỗ lực nhằm tích hợp AI vào mọi quy trình làm việc có thể để tối đa hóa hiệu dụng. Tuy nhiên, chi phí khổng lồ từ việc tiêu thụ các mô hình ngôn ngữ lớn (LLM) đã dẫn đến một sự kiểm chứng thực tế đáng kể. Các báo cáo nổi bật cho thấy những công ty như Uber được cho là đã tiêu hết toàn bộ ngân sách AI hàng năm chỉ trong vòng vài tháng.

Áp lực tài chính này đã buộc các tổ chức phải thực hiện các biện pháp kiểm soát nghiêm ngặt, thậm chí một số công ty còn cắt giảm giấy phép Claude cho các bộ phận cụ thể hoặc loại bỏ các bảng xếp hạng AI nội bộ, chẳng hạn như Meta. Đối với các nhà đầu tư mạo hiểm như đối tác của NEA, Tiffany Luck, sự thay đổi này báo hiệu một quá trình chuyển đổi từ chi tiêu mang tính thử nghiệm sang một sự "tính toán ROI" có kỷ luật.

Sự trỗi dậy của tính không phụ thuộc vào mô hình và các chiến lược triển khai

Khi các công ty phải vật lộn với những chi phí này, một mô hình áp dụng mới của doanh nghiệp đang dần xuất hiện. Thay vì cam kết với một nhà cung cấp duy nhất, các doanh nghiệp đang ngày càng "phối hợp và kết hợp" các mô hình khác nhau để tối ưu hóa cả hiệu suất lẫn giá cả. Cách tiếp cận đa mô hình này cho phép các công ty sử dụng các mô hình đắt tiền, có khả năng suy luận cao cho các tác vụ phức tạp, đồng thời tận dụng các mô hình nhỏ hơn, rẻ hơn cho việc tự động hóa các tác vụ thông thường.

Để tạo điều kiện cho sự tích hợp này, một nhóm tài năng mới đang trở nên thiết yếu: kỹ sư triển khai thực địa (forward-deployed engineer). Luck cho rằng những kỹ sư này đang đóng vai trò như một "con ngựa thành Troy" cho việc áp dụng AI trong các tổ chức lớn. Bằng cách làm việc trực tiếp tại tuyến đầu của việc triển khai, họ giúp thu hẹp khoảng cách giữa khả năng thô của mô hình và các trường hợp sử dụng kinh doanh cụ thể, hướng tới giá trị, đảm bảo rằng các công cụ AI thực sự giải quyết được các vấn đề của doanh nghiệp thay vì chỉ làm tăng thêm sự phức tạp.

Tìm kiếm giá trị trên toàn bộ ngăn xếp AI

Một quan niệm sai lầm phổ biến trên thị trường hiện nay là giá trị chỉ tập trung duy nhất ở tầng mô hình. Trong khi cuộc đua giành mô hình LLM mạnh mẽ nhất vẫn tiếp diễn, Tiffany Luck lập luận rằng việc tạo ra giá trị đáng kể đang diễn ra ở mọi tầng của ngăn xếp AI.

Từ các startup xây dựng cơ sở hạ tầng chuyên dụng giúp doanh nghiệp theo dõi chi phí AI, đến các nhà phát triển tạo ra các "tác nhân cá nhân" mang lại những "khoảnh khắc kỳ diệu" trong trải nghiệm người tiêu dùng, các cơ hội đang ngày càng đa dạng hóa. Khi ngành công nghiệp này trưởng thành hơn, những người chiến thắng có lẽ sẽ không phải là những người chỉ đơn thuần cung cấp nhiều token nhất, mà là những người cung cấp trí tuệ hiệu quả, tích hợp và có thể đo lường được nhất.

Những điểm chính cần lưu ý