iPronics, một startup có trụ sở tại Valencia, đã hoàn tất vòng gọi vốn trị giá 125 triệu USD với sự tham gia của Nvidia trong số các nhà đầu tư. Nguồn vốn này sẽ đẩy nhanh việc triển khai các bộ chuyển mạch quang học có thể lập trình của công ty, thứ mà công ty cho rằng có thể giải quyết các điểm nghẽn băng thông đang làm chậm quá trình huấn luyện AI trong các trung tâm dữ liệu lớn.

Sự khan hiếm băng thông đằng sau AI ngày nay

Việc huấn luyện các mô hình ngôn ngữ hoặc hệ thống thị giác hiện đại đòi hỏi việc di chuyển hàng petabyte dữ liệu giữa các máy chủ với tốc độ mà các kết nối đồng điện tử không thể duy trì được. Khi các GPU và chip AI tùy chỉnh trở nên nhanh hơn, mạng lưới kết nối chúng lại trở thành yếu tố hạn chế. Các nhà vận hành trung tâm dữ liệu cho biết việc mở rộng một khối lượng công việc AI duy nhất thường buộc họ phải thêm nhiều bộ chuyển mạch hơn, điều này tiêu tốn diện tích sàn, điện năng và công suất làm mát. Kết quả là một hệ thống tốn kém, kém hiệu quả, làm giới hạn kích thước thực tế của một mô hình.

Mạng dựa trên ánh sáng như một giải pháp khắc phục

iPronics giải quyết vấn đề này bằng cách chuyển mạch quang học (photonic) thay vì điện tử. Thay vì các tín hiệu điện truyền qua các đường dẫn kim loại, các thiết bị của công ty điều hướng ánh sáng qua các ống dẫn sóng dựa trên silicon. Sản phẩm chủ lực, iPronics ONE, nhỏ hơn khoảng 20 lần so với các thiết bị truyền thống tương đương. Bằng cách thu nhỏ kích thước, hệ thống giúp giải phóng không gian tủ rack và giảm điện năng cần thiết để làm mát. Ánh sáng truyền tải dữ liệu với tốc độ cao hơn trên khoảng cách xa hơn mà không gặp phải tình trạng suy giảm tín hiệu như đồng, vì vậy các bộ chuyển mạch này hứa hẹn độ trễ thấp hơn và thông lượng cao hơn. Một lớp phần mềm bổ sung sẽ tự động cấu hình lại các kết nối, giúp tránh được các lỗi có thể làm sập cả một tủ rack.

Tại sao sự góp vốn của Nvidia lại quan trọng

Sự tham gia của Nvidia không chỉ mang ý nghĩa về mặt vốn. Nhà sản xuất chip này đã nhiều lần kêu gọi một mạng lưới "sẵn sàng cho trung tâm dữ liệu" có thể theo kịp các bộ tăng tốc AI của mình. Bằng cách hỗ trợ iPronics, Nvidia cho thấy sự tin tưởng rằng chuyển mạch quang học có thể trở thành một thành phần bổ trợ tiêu chuẩn cho các GPU của mình, giúp làm mượt chuỗi cung ứng cho những khách hàng vốn đã mua phần cứng của Nvidia. Vòng gọi vốn này cũng thu hút các nhà đầu tư có kinh nghiệm trong lĩnh vực viễn thông và hạ tầng bán dẫn, cho thấy một nỗ lực rộng lớn hơn của ngành hướng tới các giải pháp quang học.

Những ai sẽ được hưởng lợi

  • Các nhà cung cấp dịch vụ đám mây có thể nén nhiều năng lượng tính toán hơn vào cùng một diện tích, giúp giảm chi phí cho mỗi lần chạy huấn luyện.
  • Các doanh nghiệp phụ thuộc vào dịch vụ AI có thể thấy tốc độ suy luận nhanh hơn và ít gặp sự cố hơn, mang lại trải nghiệm người dùng mượt mà hơn.
  • Các nhà cung cấp phần cứng kết hợp bộ chuyển mạch quang học với chip của riêng họ có thể tạo ra sự khác biệt cho các sản phẩm của mình trong một thị trường đông đúc.

Các nhà cung cấp mạng hiện tại chuyên về Ethernet điện và InfiniBand có thể mất thị phần nếu khách hàng chuyển sang các cấu trúc mạng quang học (optical fabrics). Sự chuyển dịch này cũng buộc các kỹ sư trung tâm dữ liệu phải thực hiện các chu kỳ mua sắm và công việc tích hợp mới.

Những rào cản trên con đường áp dụng

Các thành phần quang học vẫn có chi phí trên mỗi cổng cao hơn so với các thiết bị tương đương bằng đồng đã hoàn thiện, và hệ sinh thái để quản lý các bộ chuyển mạch quang học vẫn chưa phát triển mạnh. Việc tích hợp phần cứng của iPronics vào các ngăn quản lý trung tâm dữ liệu hiện có sẽ đòi hỏi các bộ chuyển đổi phần mềm và đào tạo nhân viên. Những người áp dụng sớm có thể phải đối mặt với chi phí đầu tư ban đầu cao hơn, và độ tin cậy của công nghệ này ở quy mô lớn vẫn chưa được chứng minh bên ngoài các môi trường thử nghiệm.

Những điều cần theo dõi tiếp theo

  • Triển khai sản phẩm: Lộ trình sản xuất hàng loạt iPronics ONE sẽ cho thấy liệu công ty có thể đáp ứng nhu cầu mà không gặp phải các nút thắt cổ chai về cung ứng hay không.
  • Thắng lợi về khách hàng: Các hợp đồng với các nhà vận hành đám mây lớn hoặc các hyperscaler sẽ xác nhận mức độ sẵn sàng của công nghệ.
  • Các vòng gọi vốn tiếp theo: Các vòng gọi vốn bổ sung có thể là tín hiệu cho sự tin tưởng của thị trường hoặc ngược lại, cho thấy nhu cầu cần thêm nguồn lực tài chính để duy trì hoạt động.
  • Tiêu chuẩn hóa: Các tổ chức trong ngành định nghĩa các giao diện bộ chuyển mạch quang học có thể thúc đẩy hoặc cản trở việc áp dụng rộng rãi hơn.

Việc nhận được khoản tài trợ 125 triệu USD, được củng cố bởi sự ủng hộ của Nvidia, đã đưa mạng quang học vào tầm ngắm của bất kỳ ai phụ thuộc vào các dịch vụ đám mây do AI thúc đẩy. Liệu lời hứa về các liên kết trung tâm dữ liệu nhanh hơn, nhỏ hơn và hiệu quả hơn có chuyển hóa thành những cải thiện hiệu suất hàng ngày hay không sẽ phụ thuộc vào tốc độ áp dụng và tính kinh tế của việc mở rộng quy mô phần cứng dựa trên ánh sáng.