Vấn đề về Niềm tin trong AI Doanh nghiệp
Hầu hết các công ty đang tập trung sai chỗ khi nói về niềm tin vào AI. Họ hỏi liệu mô hình có chính xác không. Họ hỏi liệu nó có gặp hiện tượng "ảo giác" không.
Những câu hỏi này đã bỏ lỡ điểm mấu chốt.
Lý do các công ty từ bỏ AI không phải là do mô hình. Đó là do sự thiếu niềm tin vào hệ thống xung quanh mô hình đó. Để thành công trong môi trường vận hành thực tế, bạn cần có khả năng kiểm soát vận hành.
Bạn phải trả lời được bốn câu hỏi:
- Bạn có thể giải thích các kết quả đầu ra không? Nếu một đội ngũ không thể giải thích tại sao AI lại đưa ra một kết quả cụ thể, họ đang làm việc dựa trên sự hy vọng. Sự hy vọng sẽ tan biến ngay khi sự cố đầu tiên xảy ra.
- Bạn có thể xác thực các quyết định không? Bạn cần một cách để đối chiếu kết quả đầu ra của AI với các yêu cầu kinh doanh thực tế.
- Bạn có thể can thiệp không? Bạn cần một nút dừng khẩn cấp (kill switch) hoặc một lộ trình dự phòng (fallback path). Nếu bạn không có cách để dừng AI lại, bạn sẽ phải học bài học đó trong lúc khủng hoảng.
- Bạn có thể truy vết các kết quả không? Nếu một quyết định dẫn đến kết quả tồi tệ, bạn phải tái dựng lại chuỗi sự kiện. Bạn cần biết đầu vào, đầu ra và bối cảnh.
Sự thiếu minh bạch có thể hoạt động trong các bản demo. Nhưng nó sẽ thất bại trong môi trường vận hành thực tế.
Môi trường vận hành thực tế có các kiểm toán viên, cơ quan quản lý và kỹ sư. Những người này cần biết tại sao mọi thứ lại xảy ra. Họ không thể chấp nhận câu trả lời "vì AI làm thế".
Các hệ thống thiếu minh bạch sẽ khuếch đại sự không chắc chắn. Sự không chắc chắn sẽ giết chết việc áp dụng công nghệ.
Những đội ngũ duy trì AI trong dài hạn thường làm bốn điều sau:
- Họ làm cho các kết quả đầu ra có thể giải thích được. Một thành viên trong đội luôn có thể trả lời tại sao hệ thống lại hành động như vậy.
- Họ làm cho các quyết định có thể kiểm tra được. Một lớp xác thực (validation layer) nằm giữa AI và hành động cuối cùng.
- Họ làm cho việc can thiệp trở nên khả thi. Một lộ trình ghi đè (override path) luôn tồn tại và hoạt động tốt.
- Họ xây dựng khả năng truy vết. Các nhật ký (logs) cho phép bạn tái dựng lại mọi sự kiện.
Việc tiếp cận các mô hình không còn là thách thức nữa. Thách thức nằm ở việc duy trì sự rõ ràng trong vận hành khi AI đi vào quy trình làm việc của bạn.
Các tổ chức sẽ áp dụng AI nhanh hơn khi hệ thống minh bạch và có thể truy vết. Chỉ tin tưởng mô hình thôi là chưa đủ. Bạn phải tin tưởng vào toàn bộ hệ thống.
Đội ngũ của bạn xử lý niềm tin vào AI như thế nào? Nó được xây dựng ngay từ khâu thiết kế hay bạn đang đợi cho đến khi có thứ gì đó gặp sự cố?