Báo cáo về thị phần token tháng 6 của Vercel cho thấy các mô hình trọng số mở (open-weight models) đang xử lý 29% lượng token qua gateway, tăng từ mức 11% vào tháng 4, trong đó riêng DeepSeek đã chiếm 22,6% khối lượng đó. Sự gia tăng này báo hiệu một sự chuyển dịch nhanh chóng: các nhà phát triển đang dần rời xa việc chỉ dựa vào một mô hình "tốt nhất" duy nhất và bắt đầu coi các mô hình AI như một cơ sở hạ tầng có thể định tuyến (routable infrastructure).

Tại sao các nhà phát triển coi mô hình là cơ sở hạ tầng

Các mô hình trọng số mở giá rẻ—nhiều mô hình đến từ các nhà cung cấp Trung Quốc—có chi phí chỉ bằng một phần nhỏ so với các dịch vụ cao cấp như Anthropic. Đối với các tác vụ thông thường như trích xuất mã, làm sạch văn bản hoặc tra cứu dữ liệu đơn giản, một mô hình có chi phí chỉ vài cent thay vì vài đô la sẽ hấp dẫn hơn, ngay cả khi độ chính xác thấp hơn một vài phần trăm.

Kết quả là một mô hình thiết kế mới. Một ứng dụng trước tiên sẽ gửi yêu cầu đến một mô hình chi phí thấp cho phần việc "nhàm chán". Nếu đầu ra vượt qua bước kiểm tra chất lượng đơn giản, quy trình sẽ tiếp tục; nếu không, một mô hình giá cao hơn sẽ được gọi để thực hiện lượt kiểm tra thứ hai hoặc đưa ra quyết định cuối cùng. Logic định tuyến trở thành phần quan trọng nhất, chứ không phải việc lựa chọn một mô hình duy nhất.

Các con số nói lên điều gì

Dữ liệu của Vercel, được lấy từ gateway kết nối với nhiều nhà cung cấp AI, cho thấy các mô hình trọng số mở đang chuyển từ vị thế bên lề sang dòng chính. Vào tháng 4, chúng chỉ chiếm hơn 1/10 tổng lượng token; đến tháng 6, con số này đã gần 1/3. DeepSeek, một mô hình của Trung Quốc, đã đóng góp hơn 1/5 tổng lưu lượng token một mình.

Các mô hình cao cấp vẫn chiếm ưu thế về chi tiêu. Ví dụ, Anthropic tiếp tục chiếm phần lớn chi phí chi trả vì giá mỗi token của họ cao hơn. Phép toán rất đơn giản: các mô hình giá rẻ giành lấy các công việc có khối lượng lớn, biên lợi nhuận thấp, trong khi các mô hình đắt tiền giữ lại các tác vụ có biên lợi nhuận cao và tác động lớn.

Hệ quả đối với các AI agent

Một AI agent thường thực hiện một chuỗi các bước: lập kế hoạch, truy xuất dữ liệu, gọi công cụ và tinh chỉnh kết quả. Khi mỗi bước có thể được giao cho mô hình tiết kiệm chi phí nhất, tổng chi phí vận hành sẽ giảm đáng kể.

  • Truy xuất và trích xuất dữ liệu thường chỉ cần khả năng hiểu ngôn ngữ cơ bản, một tác vụ mà các mô hình giá rẻ rất xuất sắc.
  • Phán quyết cuối cùng—phần quyết định xem câu trả lời có chấp nhận được hay không—vẫn là lãnh địa của các mô hình cao cấp có độ tin cậy cao hơn.

Cách tiếp cận phân lớp này cho phép các nhà phát triển tự động hóa khối lượng công việc lớn hơn mà không làm bùng nổ ngân sách. Nó cũng thúc đẩy sự chuyển dịch từ "chọn mô hình tốt nhất" sang "đo lường thành công theo từng bước và định tuyến tương ứng".

Rủi ro và giới hạn

Tính kinh tế là rất hấp dẫn, nhưng quá trình chuyển đổi không hề suôn sẻ.

  • Tuân thủ (Compliance): Một số khu vực pháp lý áp đặt các quy tắc xử lý dữ liệu nghiêm ngặt có thể hạn chế việc sử dụng các mô hình được lưu trữ tại nước ngoài.
  • Sự phức tạp trong lưu trữ (Hosting complexity): Các mô hình cao cấp lớn rất khó để tự vận hành nội bộ, vì vậy các tổ chức phải dựa vào các API bên ngoài, điều này có thể làm tăng độ trễ và lo ngại về việc bị phụ thuộc vào nhà cung cấp (vendor lock-in).

Vì những yếu tố này, các mô hình giá rẻ khó có thể thay thế hoàn toàn các mô hình cao cấp. Thay vào đó, chúng trở thành lựa chọn mặc định cho các công việc thông thường, trong khi các mô hình cao cấp vẫn nằm ở "lớp quyết định" nơi chi phí cao hơn của chúng là hợp lý.

Điều cần theo dõi tiếp theo

  • Công cụ định tuyến (Tooling for routing): Khi lớp định tuyến trở nên quan trọng hơn, chúng ta có thể mong đợi một làn sóng các SDK và nền tảng tự động hóa việc lựa chọn mô hình dựa trên độ trễ, chi phí và ngưỡng tin cậy.

Các nhà phát triển bắt đầu đo lường thành công ở cấp độ tác vụ, theo dõi các lần thử lại (retries) và phân tách rõ ràng giữa "khối lượng" và "phán quyết" sẽ có vị thế tốt nhất để hưởng lợi từ tư duy cơ sở hạ tầng mới nổi này.

Điểm mấu chốt: Hệ sinh thái AI đang chuyển đổi từ việc lựa chọn một mô hình duy nhất sang một bài toán định tuyến, nơi các mô hình trọng số mở giá rẻ xử lý phần lớn công việc và các mô hình cao cấp được dành riêng cho các quyết định có tác động lớn. Làm chủ việc định tuyến đó sẽ là lợi thế cạnh tranh tiếp theo cho những người xây dựng AI.