CTO của Arcee thách thức những lo ngại về các mô hình AI trọng số mở của Trung Quốc

Khi các mô hình trọng số mở của Trung Quốc như Qwen của Alibaba và Kimi K3 của Moonshot AI trở nên cực kỳ phổ biến, một cuộc tranh luận gay gắt đã nảy sinh liên quan đến các tác động về bảo mật. Trong khi một số người lo ngại rằng các mô hình này có thể đóng vai trò là vector cho các cuộc tấn công mạng, dẫn đến khả năng bị chính phủ Hoa Kỳ cấm, các chuyên gia đang phản bác lại ý kiến cho rằng chúng vốn dĩ nguy hiểm.

Giải mã luận điểm về "ý đồ xấu"

Mối quan tâm chính được các nhà phê bình đưa ra là các mô hình do Trung Quốc phát triển có thể chứa "ý đồ ẩn giấu" hoặc các cửa hậu (backdoor) được lập trình bởi các tác nhân xấu. Tuy nhiên, Lucas Atkins, CTO của phòng thí nghiệm AI Arcee có trụ sở tại Hoa Kỳ, lập luận rằng sự hiểu lầm này đã phản ánh sai lệch một cách cơ bản về cách thức hoạt động của các Mô hình Ngôn ngữ Lớn (LLM).

Không giống như phần mềm truyền thống, nơi một nhà phát triển có thể lập trình rõ ràng một lệnh độc hại cụ thể, các LLM là sản phẩm của quá trình huấn luyện. Atkins chỉ ra rằng một khi mô hình trọng số mở đã được tải xuống và chạy trong môi trường cục bộ, riêng tư, nhà phát triển ban đầu không có cách nào để truy cập hoặc kiểm soát thực thể đó. Sự tách biệt giữa trọng số mô hình và cơ sở hạ tầng của người dùng cung cấp một lớp bảo mật quan trọng mà phần mềm truyền thống còn thiếu.

Thực tế kỹ thuật về bảo mật mô hình

Trong khi cuộc tranh luận vẫn tiếp diễn, cộng đồng kỹ thuật nhấn mạnh rằng rủi ro về hành vi AI "lén lút" là cực kỳ thấp. Một mối lo ngại về mặt lý thuyết là liệu một mô hình lập trình có thể được huấn luyện để chèn mã độc vào các kho mã nguồn (codebase) cụ thể hay không. Mặc dù Atkins thừa nhận điều này về mặt lý thuyết là có thể, ông lưu ý rằng nó sẽ đòi hỏi những "kỹ thuật nhào lộn" về kỹ thuật mà hiện tại là không khả thi.

Hơn nữa, bản chất của LLM là mang tính xác suất và sáng tạo, khiến cho "cơn bão hoàn hảo" cần thiết để kích hoạt một phản hồi độc hại cụ thể trở nên cực kỳ khó xảy ra. Đối với các doanh nghiệp, bảo mật được quản lý thông qua một số lớp tiêu chuẩn:

• Kiểm tra bảo mật: Các tổ chức lớn chạy các lõi mô hình qua các quy trình kiểm tra nghiêm ngặt.
• Hậu huấn luyện (Post-Training): Các công ty tinh chỉnh (fine-tune) các mô hình cho các tác vụ cụ thể, cho phép họ kiểm tra về định kiến, độc tính và hiện tượng ảo giác (hallucinations).
• Tính không phụ thuộc vào mô hình (Model Agnosticism): Kiến trúc AI hiện đại ngày càng trở nên không phụ thuộc vào mô hình, nghĩa là các doanh nghiệp có thể thay thế các mô hình Trung Quốc bằng các lựa chọn thay thế của Hoa Kỳ mà không cần phải thiết kế lại toàn bộ hệ thống của họ.

Cạnh tranh thông qua đổi mới, không phải bằng quy định

Arcee, công ty xây dựng các mô hình mở nhằm cung cấp cho các công ty Hoa Kỳ những lựa chọn thay thế nội địa, đang ở trong một vị thế độc đáo. Mặc dù về mặt lý thuyết, việc cấm các mô hình Trung Quốc sẽ có lợi cho hoạt động kinh doanh của họ, nhưng Atkins lập luận rằng trọng tâm nên chuyển từ việc cấm đoán sang việc thúc đẩy một hệ sinh thái nội địa mạnh mẽ.

Thú vị là, sự trỗi dậy của các mô hình Trung Quốc hiệu suất cao thực sự thúc đẩy sự đổi mới ở phương Tây. Arcee tận dụng các mô hình trọng số mở này để học hỏi từ kiến trúc và khả năng của chúng, thúc đẩy một chu kỳ cải tiến liên tục. Theo Atkins, cách cuối cùng để các phòng thí nghiệm Hoa Kỳ cạnh tranh không phải thông qua chính sách, mà thông qua hiệu suất: "Cách để cạnh tranh với các mô hình Trung Quốc là tung ra một mô hình tốt hơn."

Các điểm chính cần lưu ý

• Bảo mật thông qua sự cô lập: Một khi các mô hình trọng số mở được triển khai trong một trung tâm dữ liệu riêng tư, các nhà phát triển ban đầu không có cơ chế nào để truy cập hoặc thao túng môi trường cục bộ.
• Rủi ro lý thuyết so với thực tế: Mặc dù việc "huấn luyện ẩn" để chèn mã độc là có thể về mặt lý thuyết, nhưng nó vẫn là một kỳ tích cực kỳ phức tạp và khó xảy ra trong các kiến trúc LLM hiện nay.
• Đổi mới thông qua cạnh tranh: Thay vì theo đuổi các lệnh cấm, lĩnh vực AI của Hoa Kỳ có thể hưởng lợi từ áp lực cạnh tranh và kiến thức chia sẻ được cung cấp bởi các mô hình trọng số mở hiệu suất cao từ Trung Quốc.