IBM đã ra mắt dòng mô hình ngôn ngữ lớn Granite 4.2, cung cấp các biến thể có 3 tỷ, 8 tỷ và 30 tỷ tham số với cửa sổ ngữ cảnh lên đến 512k token và khả năng sử dụng công cụ dạng tác nhân (agentic) tích hợp sẵn, tất cả đều dưới giấy phép Apache 2.0. Bước đi này mang đến cho các nhà phát triển một AI cấp doanh nghiệp với trọng số mở (open-weight) hiếm hoi, có khả năng suy luận trên các tài liệu khổng lồ và hoạt động tự chủ mà không cần phụ thuộc vào các API độc quyền.

Tại sao nỗ lực thúc đẩy open-weight của IBM lại quan trọng vào lúc này

Giấy phép thông thoáng cho phép các công ty chạy các mô hình tại chỗ (on-premises), trong đám mây riêng hoặc nhúng chúng vào các thiết bị biên mà không phải trả phí bản quyền—một lợi thế rõ rệt cho các ngành nghề chịu sự quản lý chặt chẽ, nơi không thể tiết lộ dữ liệu cho các dịch vụ bên ngoài.

Bước nhảy vọt về kỹ thuật

  • Quy mô và dữ liệu huấn luyện – IBM đã huấn luyện các mô hình này từ đầu trên khoảng 15 nghìn tỷ token, một quy mô tập dữ liệu tương đương với các mô hình nền tảng thương mại lớn nhất.
  • Cửa sổ ngữ cảnh – Cửa sổ 512k token cho phép một lần xử lý duy nhất có thể bao quát toàn bộ kho mã nguồn, các tài liệu chính sách dài hoặc sách nhiều chương, loại bỏ nhu cầu phải chia nhỏ và lắp ghép lại.
  • Tính toán chế độ kép – Chế độ "suy nghĩ" (thinking mode) kích hoạt các lớp suy luận sâu hơn, trong khi chế độ "không suy nghĩ" (non-thinking mode) xử lý các tác vụ tra cứu đơn giản với nhu cầu GPU thấp hơn. Nút chuyển đổi này cho phép người dùng cân bằng giữa độ trễ và chi phí trên mỗi yêu cầu.
  • Học tăng cường dạng tác nhân (Agentic reinforcement learning) – Các mô hình 8B và 30B đã trải qua một giai đoạn RL chuyên biệt để dạy chúng cách gọi các công cụ bên ngoài, chạy mã trong môi trường sandbox và thực hiện tìm kiếm web. Các mô hình cung cấp các endpoint gọi công cụ theo kiểu OpenAI, nhờ đó các luồng điều phối (orchestration pipelines) hiện có có thể được tái sử dụng mà không cần viết lại.
  • Thân thiện với suy luận (Inference) – Khả năng tương thích với vLLM và SGLang cho phép các mô hình chạy với thông lượng cao trên phần cứng phổ thông, một lợi ích thực tế cho các doanh nghiệp đang mở rộng hàng chục tác nhân (agents) đồng thời.

Chuyện bên lề về giọng nói: Granite Speech 5.0 Turbo CTC

Cùng với dòng LLM, IBM cũng phát hành một mô hình chuyển đổi giọng nói thành văn bản với 470 triệu tham số mang tên Granite Speech 5.0 Turbo CTC. IBM cho biết mô hình này có thể chuyển soạn ba giờ âm thanh chỉ trong một giây, nhanh gấp đôi so với các đối thủ dẫn đầu trước đó trên bảng xếp hạng Open ASR. Dung lượng cực thấp và thông lượng cực cao khiến nó trở thành ứng cử viên sáng giá cho việc tạo phụ đề thời gian thực, phân tích trung tâm cuộc gọi và các luồng nạp âm thanh quy mô lớn.

Tác động đối với hệ sinh thái AI

Ai là người chiến thắng:

  • Doanh nghiệp có được một giải pháp thay thế tự lưu trữ (self-hosted) tiết kiệm chi phí thay vì phải sử dụng các API đắt đỏ.
  • Nhà phát triển nhận được một bộ công cụ (stack) tác nhân có sẵn, có thể tùy chỉnh mà không cần thương thảo các giấy phép thương mại.
  • IBM khẳng định lại vị thế của mình trong cuộc đua AI bằng cách cung cấp một sản phẩm mã nguồn mở chủ lực, minh chứng cho năng lực nghiên cứu của hãng.

Ai bị đe dọa:

  • Các nhà cung cấp mã nguồn đóng vốn dựa vào sự ràng buộc thông qua các mô hình độc quyền có thể thấy chi tiêu từ doanh nghiệp sụt giảm nếu khách hàng chuyển sang các tác nhân Granite lưu trữ tại chỗ.
  • Các dự án mã nguồn mở nhỏ hơn có thể bị lu mờ; quy mô và hỗ trợ công cụ của Granite đã thiết lập một tiêu chuẩn cao cho các nỗ lực do cộng đồng dẫn dắt.

Chi phí và sự đánh đổi: Việc chạy một mô hình 30B với cửa sổ ngữ cảnh nửa triệu token vẫn đòi hỏi các cụm hoặc GPU cao cấp; các tổ chức phải cân nhắc giữa việc đầu tư phần cứng và khoản tiết kiệm được từ việc tránh phí API.

Kết luận

Granite 4.2 đưa một AI cấp doanh nghiệp với trọng số mở thực thụ vào phạm vi công cộng, kết hợp cửa sổ ngữ cảnh khổng lồ với khả năng sử dụng công cụ có sẵn. Giấy phép Apache 2.0 giúp loại bỏ các rào cản pháp lý, nhưng những thách thức về phần cứng và an toàn đồng nghĩa với việc mô hình này trước tiên sẽ tìm thấy chỗ đứng trong các tổ chức có nguồn lực dồi dào, những nơi có khả năng chi trả cho năng lực tính toán và đầu tư vào môi trường sandbox mạnh mẽ. Nếu cộng đồng cùng ủng hộ, Granite có thể trở thành xương sống cho thế hệ tác nhân tự hành tiếp theo, buộc thị trường AI rộng lớn hơn phải đối mặt với các lựa chọn thay thế mã nguồn mở mà không còn phải đánh đổi về quy mô hay năng lực.