Các khung quản trị AI là tài liệu đọc rất hay. Chúng phân công vai trò, liệt kê các nguyên tắc và lập sơ đồ các hội đồng đánh giá. Nhưng một khung quản trị sẽ mất đi tính hữu dụng ngay khoảnh khắc một nhân viên dán phản hồi của khách hàng vào một chatbot công khai, hoặc khi một API backend âm thầm chuyển thông tin nhận dạng cá nhân đến một mô hình bên ngoài. Công việc quản trị thực sự không diễn ra trong phòng họp của một ủy ban. Nó diễn ra tại đường truy cập. Đó chính xác là điểm mà một người, một ứng dụng hoặc một điểm cuối API lần đầu tiên tiếp cận với một mô hình AI. Nếu bạn không thể thực thi các quy tắc của mình tại đó, bạn không có quản trị. Bạn chỉ có một danh sách mong muốn.
Khoảng cách giữa Khung quản trị và Thực tế
Hầu hết các tổ chức đã dành hai năm qua để xây dựng các hội đồng AI, soạn thảo các chính sách sử dụng được chấp nhận và thực hiện đào tạo nhân viên. Những nỗ lực này rất quan trọng. Chúng thiết lập các kỳ vọng. Tuy nhiên, chúng không nhìn thấy những gì xảy ra trong một buổi lập trình chiều thứ Ba khi một nhà phát triển gửi mã nguồn độc quyền qua một tiện ích mở rộng trình duyệt không qua kiểm duyệt để tiết kiệm thời gian. Các khung quản trị nằm trong các tài liệu. Công việc thực tế nằm trong các terminal, trình duyệt và các lệnh gọi API.
Kết quả là một điểm mù có thể dự đoán trước. Ban lãnh đạo tin rằng việc sử dụng AI đang được kiểm soát vì chính sách nói như vậy, trong khi các hoạt động vận hành lại kể một câu chuyện khác. Sự mất kết nối này rất tốn kém. Một câu lệnh (prompt) duy nhất chứa hồ sơ y tế chưa được ẩn danh hoặc dữ liệu tài chính chưa được công bố có thể gây ra vi phạm tuân thủ, một cuộc điều tra của cơ quan quản lý, hoặc loại sự cố công khai mà không một chiến dịch xin lỗi nào có thể cứu vãn được. Chờ đợi một cuộc kiểm toán để phát hiện ra việc sử dụng sai mục đích là quá muộn. Quản trị thực sự đòi hỏi khả năng hiển thị vào chính sự tương tác đó, chứ không chỉ là các giấy tờ xung quanh nó.
Đường truy cập thực sự có nghĩa là gì
Đường truy cập không phải là một khái niệm trừu tượng. Đó là khoảnh khắc chính xác khi một yêu cầu rời khỏi môi trường của bạn và hướng tới một mô hình AI. Yêu cầu đó có thể đến từ một quản lý marketing đang sử dụng giao diện web đã được phê duyệt, một bot Slack đang trả lời các câu hỏi của nhân viên, hoặc một microservice đang gọi một API để tóm tắt các phiếu hỗ trợ. Mỗi đường truy cập đều mang những rủi ro riêng, và mỗi đường đều cần có các rào chắn bảo vệ riêng.
Nếu không có một điểm kiểm soát tại biên này, tổ chức của bạn sẽ không có cách nào để phân biệt giữa một nhân viên yêu cầu mô hình viết lại một email nội bộ và một nhân viên đang tải lên một bảng tính đầy số tài khoản. Cả hai đều trông giống như lưu lượng truy cập thông thường. Chỉ có một loại được phép tiếp tục. Cho đến khi bạn làm chủ được ranh giới này, mọi mô hình AI nằm ngoài sự kiểm soát trực tiếp của bạn về cơ bản là một hành lang tối nơi dữ liệu có thể đi ra ngoài mà không bị phát hiện.
Chín câu hỏi mà Kiến trúc phải trả lời
Trước khi bất kỳ câu lệnh nào tiếp cận mô hình, hệ thống của bạn phải có khả năng trả lời chín câu hỏi cụ thể. Hãy bắt đầu với danh tính và mục đích. Ai gửi yêu cầu? Trường hợp sử dụng kinh doanh là gì? Bộ phận hoặc hệ thống nào sở hữu nó? Ba câu hỏi này xác định xem sự tương tác đó có hợp lệ và có thể truy vết hay không.
Tiếp theo là sự an toàn của dữ liệu và mô hình. Dữ liệu nào được đưa vào câu lệnh? Mô hình AI nào sẽ xử lý nó? Mô hình cụ thể đó có được phê duyệt cho tác vụ cụ thể này không? Bạn có cần ẩn danh hoặc chặn dữ liệu nhạy cảm trước khi nó rời khỏi môi trường của mình không?
Cuối cùng là trách nhiệm giải trình vận hành. Bạn đã ghi lại việc truy cập