Đòn bẩy cần một hệ thống kiểm soát

AI rất nhanh. Nó viết mã với tốc độ mà không con người nào có thể theo kịp. Nhưng tốc độ sẽ trở thành rủi ro nếu bạn thiếu sự kiểm soát.

Gần đây, tôi đã phải xây dựng lại một hệ thống giao dịch phức tạp. Tôi cần hỗ trợ hai mươi nghìn tín hiệu trên các thị trường cổ phiếu, ngoại hối và tiền điện tử. Mỗi tín hiệu có phạm vi thị trường riêng. Đây không phải là vấn đề của mô hình. Đó là vấn đề của hệ thống kiểm soát.

Tôi đã sử dụng AI để thiết kế một kế hoạch gồm ba mươi ticket được chia thành sáu đợt. Tôi không tin tưởng giao toàn bộ công việc cho một phiên làm việc duy nhất. Thay vào đó, tôi sử dụng hai phiên AI riêng biệt:

• The Builder (Người Xây dựng): Một phiên dùng để thiết kế mã và kế hoạch. • The Auditor (Người Kiểm định): Một phiên thứ hai dùng để kiểm tra thiết kế trước khi bất kỳ dòng mã nào được viết ra.

Lần kiểm định đầu tiên đã vượt qua. Tôi cảm thấy mình đã thành công. Sau đó, tôi sử dụng một AI thứ ba để kiểm định lại toàn bộ thiết kế từ đầu. Nó đã phát hiện ra mười bốn mâu thuẫn nghiêm trọng.

Thiết kế trông có vẻ ổn về mặt bề ngoài. Nó có cấu trúc và tiêu đề rõ ràng. Nhưng nó thiếu chiều sâu thực tế. Một ticket tham chiếu đến một cột mà một ticket khác đã đổi tên trước đó. Một ticket khác lại mong đợi một trường là tùy chọn (optional) trong khi thiết kế lại quy định nó là bắt buộc (required). Đây không phải là lỗi lập trình. Đó là những mâu thuẫn logic trong thiết kế.

Nếu tôi bắt đầu viết mã ngay lúc đó, hệ thống chắc chắn sẽ thất bại.

Điều này đã dạy tôi ba điều về việc làm việc với AI:

Hệ thống kiểm soát (harness) là quy trình mà bạn bao bọc xung quanh mô hình. Nó bao gồm:

Mô hình là đòn bẩy. Hệ thống kiểm soát là thứ ngăn không cho đòn bẩy đó làm hỏng hệ thống của bạn. Đừng chỉ mua một mô hình. Hãy xây dựng một buồng lái (cockpit).

Source: https://dev.to/whetlan/the-lever-needs-a-harness-14e9

Optional learning community: https://t.me/GyaanSetuAi