Mỗi dòng mã bạn đẩy lên môi trường production đều dạy cho một thuật toán cách hành xử. Hành vi đó lan tỏa ra bên ngoài. Nó quyết định khoản vay của ai được phê duyệt, bản quét y tế nào được ưu tiên, và nội dung nào sẽ lấp đầy bảng tin của người dùng. Với tư cách là một nhà phát triển, bạn không chỉ đang lắp ráp các tính năng. Bạn đang định hình cách các hệ thống này tương tác với cuộc sống con người.

Trách nhiệm đó sâu sắc hơn việc chỉ phát hành một phần mềm hoạt động được. Xây dựng công nghệ thôi là chưa đủ. Bạn phải xây dựng nó một cách có trách nhiệm. Các thuật toán đạo đức không chỉ dừng lại ở việc đạt kết quả tốt trên các bài kiểm tra benchmark. Chúng chủ động ngăn ngừa tác hại, và theo thời gian, chúng giành được sự tin tưởng từ những người sử dụng chúng. Sự tin tưởng đó rất mong manh. Một lựa chọn bất cẩn trong quy trình huấn luyện hoặc một thiết lập quyền riêng tư mơ hồ có thể phá vỡ nó. Mã nguồn của bạn định hình xã hội. Những lựa chọn của bạn phải có giá trị.

Sức nặng của những gì bạn xây dựng

Các nhà phát triển đang xây dựng tương lai của AI. Bạn quyết định cách các hệ thống này hành xử. Quyền năng đó rất dễ bị lãng quên khi bạn đang mải mê gỡ lỗi, dán mắt vào các đường cong loss và chỉ số latency. Nhưng các mô hình bạn huấn luyện sẽ trở thành hạ tầng. Chúng ảnh hưởng đến các quyết định tuyển dụng, chấm điểm tín dụng, đánh giá rủi ro tội phạm và sắp xếp giáo dục.

Hãy nghĩ về nó giống như kỹ thuật kết cấu. Một người xây cầu không thể chỉ nói rằng vật liệu đã sẵn có và các phép toán trông có vẻ ổn. Họ phải tự hỏi liệu thiết kế có chịu được áp lực trong thế giới thực hay không, liệu những người đi qua cầu có an toàn hay không. Tiêu chuẩn tương tự cũng áp dụng ở đây. Một thuật toán hoạt động hoàn hảo trong một thí nghiệm có kiểm soát vẫn có thể gây ra thiệt hại thực sự khi nó đối mặt với thực tế đời sống phức tạp của con người. Ngăn chặn thiệt hại đó là một phần của công việc. Không phải là một ý nghĩ sau cùng. Không phải là vấn đề của đội ngũ pháp lý. Đó là cốt lõi của nghề nghiệp.

Quyền riêng tư và Bảo mật dữ liệu

Hãy bắt đầu với những gì bạn đưa vào mô hình. Quyền riêng tư và bảo mật dữ liệu không phải là những mục kiểm tra tuân thủ để tích vào sau khi sản phẩm đã được phát hành. Chúng là những quyết định về kiến trúc mà bạn phải đưa ra ngay từ đầu.

Hãy đặt ra những câu hỏi hóc búa trong quá trình thu thập dữ liệu. Bạn có thực sự cần lưu trữ các cuộc hội thoại thô của người dùng để cải thiện mô hình, hay bạn có thể loại bỏ các thông tin định danh và sử dụng các mẫu dữ liệu tổng hợp? Bạn lưu giữ các dữ liệu đầu vào nhạy cảm trong bao lâu? Bạn đã xây dựng cách để tôn trọng các yêu cầu xóa dữ liệu chưa, hay dữ liệu cứ nằm trong một bucket mà không ai giám sát?

Bảo mật cho các hệ thống AI mang những rủi ro đặc thù riêng. Các cuộc tấn công prompt injection có thể đánh lừa mô hình bỏ qua các biện pháp bảo vệ. Các cuộc tấn công trích xuất dữ liệu huấn luyện có thể lấy thông tin riêng tư ra khỏi các trọng số (weights) nếu mô hình bị overfit trong quá trình huấn luyện. Bạn cần phải suy nghĩ như một kẻ tấn công. Mã hóa dữ liệu khi lưu trữ và khi đang truyền tải. Hạn chế quyền truy cập vào các tập dữ liệu huấn luyện. Kiểm tra (audit) xem ai có thể truy vấn các mô hình production và ghi lại những gì họ hỏi. Đây là những tác vụ bình thường, nhưng chúng tạo nên rào cản giữa sự tin tưởng của người dùng và một dòng tít về vi phạm dữ liệu.

Ngăn ngừa định kiến trong các tập dữ liệu huấn luyện

Các mô hình học các khuôn mẫu mà bạn cho chúng thấy. Nếu dữ liệu huấn luyện phản ánh sự bất bình đẳng trong lịch sử, mô hình sẽ tự động hóa sự bất bình đẳng đó với tốc độ và quy mô đáng sợ. Ngăn ngừa định kiến trong các tập dữ liệu huấn luyện đòi hỏi sự cảnh giác từ lần lấy dữ liệu đầu tiên cho đến khi triển khai cuối cùng.

Điều này có nghĩa là phải nhìn xa hơn độ chính xác tổng thể. Một mô hình chẩn đoán y tế có thể đạt điểm cao về tổng thể nhưng lại thất bại liên tục trên các hình ảnh có tông màu da tối hơn. Một công cụ tuyển dụng có thể lặp lại các định kiến cũ nếu dữ liệu huấn luyện đến từ hàng thập kỷ lịch sử thăng tiến đồng nhất. Bạn phải kiểm tra sự đại diện về nhân khẩu học. Bạn phải kiểm tra tỷ lệ lỗi trên các nhóm nhỏ, chứ không chỉ trên toàn bộ quần thể. Hãy mời các đội ngũ dán nhãn (annotation) đa dạng để các nhãn chủ quan không chỉ đến từ một góc nhìn duy nhất.

Ngăn ngừa định kiến cũng là về ngữ cảnh. Một mô hình được huấn luyện trên văn bản tiếng Anh từ các nguồn Bắc Mỹ sẽ gặp khó khăn với các cách nói địa phương từ Mumbai hay Lagos. Đó không phải là lỗi trong kiến trúc. Đó là lỗi trong tập dữ liệu. Hãy khắc phục bằng cách mở rộng các nguồn, điều chỉnh trọng số cho các dữ liệu chưa được đại diện đầy đủ và thực hiện các bài kiểm tra đối kháng (adversarial tests) trước khi phát hành. Hãy coi sự công bằng như một lỗi (bug) mà bạn cần theo dõi, phân loại và giải quyết.

Sự minh bạch trong việc ra quyết định

Mọi người xứng đáng được biết khi họ đang trò chuyện với một cỗ máy, và họ xứng đáng có được một lời giải thích khi cỗ máy đó đưa ra quyết định về họ. Sự minh bạch trong việc ra quyết định có nghĩa là đối xử với người dùng bằng sự tôn trọng đủ để cho họ biết điều gì đang diễn ra bên dưới lớp vỏ kỹ thuật.

Đối với các nhà phát triển, điều này chuyển hóa thành những lựa chọn sản phẩm thực tế. Nếu một AI từ chối một khoản vay, người đăng ký nên thấy được các yếu tố chính đằng sau quyết định từ chối đó, thay vì một thông báo từ chối chung chung. Nếu một hệ thống kiểm duyệt nội dung xóa một bài đăng, người dùng nên hiểu được quy tắc nào đã bị vi phạm. Hãy công bố các model card nêu rõ các trường hợp sử dụng dự kiến, các hạn chế đã biết và hiệu suất trên các nhóm dân cư khác nhau. Xây dựng hệ thống logging cho phép các kiểm toán viên truy vết cách các quyết định quan trọng được đưa ra.

Sự minh bạch không phải là việc đổ các trọng số xác suất thô lên màn hình. Đó là về việc thiết kế các giao diện có khả năng giao tiếp một cách trung thực. Người dùng không nên phải đoán xem một phản hồi có phải do AI tạo ra hay không. Họ không nên phải đối đầu với một "chiếc hộp đen" khi hệ thống mắc sai lầm.

Trách nhiệm giải trình đối với kết quả đầu ra của mô hình

Một mô hình không thể bị chất vấn là một mô hình không thể được tin tưởng. Trách nhiệm giải trình đối với kết quả đầu ra của mô hình có nghĩa là ai đó, ở đâu đó, có thể chịu trách nhiệm khi hệ thống gặp lỗi.

Hãy xây dựng cơ chế giám sát của con người đối với các quyết định có hệ quả quan trọng. Một thuật toán có thể gắn cờ một giao dịch là gian lận, nhưng một con người nên xem xét việc đóng băng giao dịch đó trước khi nó diễn ra. Một AI có thể soạn thảo các ngôn từ pháp lý, nhưng một chuyên gia có trình độ phải là người phê duyệt cuối cùng. Tạo ra các vòng lặp phản hồi để người dùng có thể báo cáo lỗi và bạn có thể đo lường tỷ lệ khắc phục. Thiết lập các quy trình leo thang rõ ràng cho khi