Khi nào Chính phủ nên kiểm soát các mô hình AI?

Anthropic gần đây đã đối mặt với một vấn đề lớn. Chính phủ Hoa Kỳ đã ban hành một chỉ thị nhằm ngăn chặn công dân nước ngoài sử dụng các mô hình Fable 5 và Mythos 5 của họ. Để tuân thủ luật pháp, Anthropic đã vô hiệu hóa quyền truy cập đối với tất cả khách hàng.

Đây là một sự thay đổi mang tính bước ngoặt.

AI tiên phong không còn chỉ là phần mềm. Nó đang trở thành hạ tầng chiến lược. Khi phần mềm trở thành hạ tầng, các chính phủ sẽ can thiệp.

Chúng ta thường coi AI là một danh mục sản phẩm giống như chatbot hay trình tạo hình ảnh. Nhưng sự chuyển dịch thực sự đang diễn ra ở bên dưới. Các hệ thống AI hiện đại có thể viết mã, tìm lỗ hổng bảo mật và vận hành các quy trình công việc. Chúng hoạt động ở mức độ bán tự chủ.

Điều này làm thay đổi mức độ rủi ro. Một ứng dụng tiêu chuẩn rất dễ để quản lý. Một hệ thống tự động hóa các cuộc tấn công mạng trông giống như hạ tầng an ninh quốc gia hơn.

Lý do cần quản lý Nếu một mô hình làm gia tăng rủi ro an ninh sinh học, gian lận hoặc giám sát hàng loạt, việc cho phép truy cập không hạn chế là rất rủi ro. Các kỹ sư vốn đã chấp nhận các giới hạn đối với hóa chất, thiết bị quân sự và hạ tầng trọng yếu. Nếu AI làm thay đổi bối cảnh đe dọa, việc kiểm soát truy cập là điều hợp lý.

Lý do phản đối sự can thiệp quá mức Sự kiểm soát của chính phủ có thể mang tính thô bạo và chính trị. Các hạn chế đột ngột sẽ gây hại cho các nhà nghiên cứu, startup và kỹ sư. Nó cũng tạo ra vấn đề về cạnh tranh. Nếu chỉ các công ty lớn mới có khả năng tuân thủ các quy tắc phức tạp, chúng ta sẽ rơi vào tình trạng tập trung hóa. Sự tập trung hóa dẫn đến việc ít kiểm toán hơn và khả năng phục hồi kém hơn.

Giải pháp: Các quy tắc dựa trên năng lực Chúng ta không nên hạn chế các mô hình dựa trên sự cường điệu hay mức độ phổ biến. Chúng ta nên hạn chế chúng dựa trên những gì chúng thực sự có thể làm được.

Hãy đặt ra những câu hỏi sau:

  • Nó có thể tìm và khai thác các lỗ hổng bảo mật không?
  • Nó có thể thực hiện các tác vụ gây hại cho những người không có chuyên môn không?
  • Nó có thể vận hành các công cụ trên nhiều hệ thống mà không cần giám sát không?
  • Nó có vượt qua các rào cản an toàn khi chịu áp lực không?

Các kỹ sư phải dẫn dắt cuộc đối thoại này. Chính sách không thể là những đạo luật trừu tượng. Nó đòi hỏi kiến thức kỹ thuật về năng lực mô hình, quyền truy cập công cụ và bối cảnh triển khai.

Chiến trường thực sự: Kiểm soát truy cập An toàn AI không chỉ nằm ở trọng số mô hình. Nó nằm ở việc kiểm soát truy cập.

Ai có thể sử dụng hệ thống? Đây là một vấn đề kỹ thuật kinh điển. Một câu lệnh ngôn ngữ tự nhiên có thể kích hoạt các hành động trên nhiều hệ thống. Các quyền hạn phải là một phần của hạ tầng, chứ không phải là một yếu tố được thêm vào sau cùng. Một mô hình mạnh mẽ nằm trong một lớp vỏ sản phẩm yếu kém là điều nguy hiểm.

Quan điểm của tôi Cấm AI là không bền vững. Giải phóng mọi thứ mà không có quy tắc là thiếu trách nhiệm.

Sự can thiệp là chính đáng khi hội đủ ba yếu tố:

  • Năng lực cao
  • Tiềm năng bị lạm dụng cao
  • Trách nhiệm giải trình thấp

Mục tiêu là ngăn chặn thảm họa mà không làm đóng băng sự đổi mới.

AI đang trở thành hạ tầng trước khi chúng ta có các quy tắc cho nó. Những lựa chọn bạn đưa ra trong thiết kế hệ thống—quyền hạn, nhật ký (logging) và sự phê duyệt của con người—sẽ định hình cách thế giới quản trị AI.

Tương lai của việc kiểm soát AI sẽ được viết nên từ chính hạ tầng.

Nguồn: https://dev.to/joshua-fields/when-should-governments-pull-the-plug-on-ai-models-ffo

Cộng đồng học tập tùy chọn: https://t.me/GyaanSetuAi