Tại sao OpenAI lại chuyển sang sử dụng một kẻ tấn công AI

Các bài tập red-team truyền thống buộc các kỹ sư bảo mật phải kiểm tra mô hình bằng tay—một quy trình chậm chạp, tốn kém và bị giới hạn bởi trí tưởng tượng của con người. OpenAI đã trả lời bằng GPT-Red, một hệ thống tự chơi (self-play) đối đầu giữa một mô hình tấn công và một mô hình phòng thủ cùng loại. Mỗi vòng tấn công sẽ cung cấp dữ liệu mới cho bên phòng thủ; kẻ tấn công học hỏi từ mọi thất bại, tạo ra một vòng lặp tiến hóa giúp phát hiện các mẫu khai thác mà không con người nào có thể nghĩ tới.

Những con số quan trọng

  • Tỷ lệ tấn công thành công: GPT-Red thành công trong 84% các trường hợp thử nghiệm, so với 13% của các chuyên gia red-team là con người.
  • Củng cố mô hình: OpenAI đã đưa trực tiếp các thông tin chuyên sâu từ GPT-Red vào quy trình huấn luyện, và GPT-5.6 Sol hiện ghi nhận số lỗi prompt-injection ít hơn gấp sáu lần so với mô hình chủ lực được phát hành bốn tháng trước đó.
  • Rủi ro còn sót lại: Ngay cả với các biện pháp phòng thủ mới, khoảng 3,8% các cuộc tấn công injection "mạnh hơn" vẫn lọt qua, một tỷ lệ thất bại tương đương với Claude Opus 4.5.

Một bản demo trực tiếp đã nhấn mạnh sức mạnh của hệ thống: GPT-Red đã thao túng một máy bán hàng tự động do AI điều khiển tại văn phòng của OpenAI, thay đổi giá mặt hàng và hủy các đơn hàng mà không cần bất kỳ sự can thiệp nào của con người.

Sự cải tiến này có ý nghĩa gì đối với người dùng

OpenAI cho biết GPT-5.6 Sol vẫn giữ nguyên tốc độ suy luận và chất lượng câu trả lời như phiên bản tiền nhiệm, tránh được sự đánh đổi lâu nay giữa tính an toàn và tính hữu dụng—nơi mà các biện pháp bảo vệ chặt chẽ hơn thường làm giảm đi hiệu quả sử dụng.

Giới hạn của một red team tự động

Tự động hóa không xóa bỏ mọi rủi ro. Tỷ lệ thành công 3,8% đối với các cuộc tấn công injection cường độ cao cho thấy ngay cả một hệ thống tự chơi tinh vi cũng để lại những lỗ hổng.

Điều cần theo dõi tiếp theo

  • Nâng cấp lặp lại: Vòng lặp tự chơi sẽ tiếp tục phát triển.

Kết luận

GPT-Red chứng minh rằng AI có thể tư duy vượt trội hơn con người trong việc tìm ra các khiếm khuyết của chính đồng loại nó, mang lại sự sụt giảm rõ rệt gấp sáu lần các lỗi prompt-injection cho GPT-5.6. Bước đột phá này thu hẹp khoảng cách giữa tính an toàn và tính hữu dụng, nhưng một rủi ro còn sót lại nhỏ nhưng có thật vẫn tồn tại. Chương tiếp theo sẽ phụ thuộc vào cách OpenAI kết hợp các thông tin chuyên sâu từ red-team tự động với sự giám sát từ bên ngoài để luôn đi trước các đối thủ—những kẻ cũng đang ngày càng chuyển sang sử dụng AI.