Đội ngũ của bạn không cần một mô hình AI tốt hơn trong tuần này

Đội ngũ của bạn không cần một mô hình AI mới. Họ cần những quy trình làm việc (workflows) tốt hơn.

Đừng mải mê săn tìm mô hình mới nhất. Hãy bắt đầu kỹ thuật hóa việc thực thi của bạn. Hầu hết các đội ngũ đều đối mặt với cùng một vấn đề. Các vòng lặp tác nhân (agent loops) bị chết giữa chừng khi đang thực hiện tác vụ. Các yêu cầu phê duyệt (approval prompts) gây bối rối cho mọi người. Các chuỗi ngữ cảnh (context chains) bị đứt gãy trong quá trình thử lại (retries). Con người phải mất hàng giờ để dọn dẹp sai sót vì quá trình tự động hóa đã mất trạng thái (state).

Vấn đề không còn nằm ở trí thông minh nữa. Vấn đề nằm ở khả năng thực thi.

Chúng ta đang bước vào kỷ nguyên của "thuế điều phối" (orchestration tax). Nếu bạn không lập kế hoạch cho nó, bạn sẽ phải trả giá bằng các sự cố gián đoạn và những lỗi âm thầm. Bạn phải trả giá khi các kỹ sư phải thức đêm để "trông trẻ" cho các bot.

Đầu ra của AI hiếm khi là sản phẩm cuối cùng. Nó chỉ là một bước trung gian trong một hệ thống lớn hơn. Nó hỗ trợ phân loại ticket, soạn thảo PR và tạo mã kiểm thử.

Bạn phải trả lời được những câu hỏi này:

  • Tác vụ có thể tiếp tục sau khi hết thời gian chờ (timeout) không?
  • Chúng ta có thể kiểm tra (audit) xem ai đã phê duyệt một thay đổi không?
  • Chúng ta có thể chạy lại một tác vụ mà không tạo ra các tác dụng phụ (side effects) trùng lặp không?
  • Con người có thể tiếp quản giữa chừng mà không cần phải bắt đầu lại từ đầu không?

Các kỹ sư dày dạn kinh nghiệm đã biết cách giải quyết vấn đề này. Chúng ta đã giải quyết những vấn đề này cho các hệ thống thanh toán và các tác vụ chạy ngầm (background jobs) từ nhiều năm trước. Chúng ta sử dụng khóa idempotency, các điểm kiểm tra (checkpoints) và nhật ký giao dịch (transaction logs). AI chỉ làm cho những lỗi này xảy ra nhanh hơn mà thôi.

Chất lượng mô hình chỉ là một phần của phương trình. Một mô hình tuyệt vời trên một quy trình làm việc bị lỗi sẽ gây ra sự hỗn loạn. Một mô hình trung bình trên một quy trình làm việc mạnh mẽ sẽ tạo ra giá trị.

Hãy xây dựng một bộ quy tắc thực tế thay vì chạy theo cảm tính (vibes):

  1. Chia nhỏ công việc của AI thành các bước rõ ràng. Sử dụng các bước như collect_context, propose_change, và run_checks. Đừng để một prompt khổng lồ chạy toàn bộ quy trình.

  2. Sử dụng cơ sở dữ liệu để đảm bảo tính bền vững. Lưu trữ trạng thái quy trình và nhật ký sự kiện của bạn trong một cơ sở dữ liệu như Postgres. Nếu một worker bị sập, bạn có thể khôi phục từ trạng thái (state) thay vì từ bộ nhớ (memory).

  3. Áp dụng tính idempotency. Mọi hành động thay đổi dữ liệu đều cần một khóa ổn định. Nếu một bước chạy hai lần, kết quả phải vẫn giữ nguyên như cũ.

  4. Quản lý quyền hạn theo các cấp độ. Đừng yêu cầu phê duyệt liên tục. Hãy tạo các cấp độ cho các tác vụ chỉ đọc, các thao tác ghi rủi ro thấp và các thay đổi có tác động lớn.

  5. Theo dõi các chỉ số vận hành. Đừng chỉ theo dõi độ trễ (latency) và chi phí. Hãy theo dõi tỷ lệ thành công khi thử lại, các điểm cần sự can thiệp của con người và tần suất hoàn tác (rollback).

Những đội ngũ AI giỏi nhất sẽ không khoe khoang về các tác nhân tự trị (autonomous agents). Họ sẽ xây dựng các đường ống (pipelines) bền vững và có thể quan sát được. Sức mạnh của họ không nằm ở những prompt thần thánh. Nó nằm ở kỹ thuật hệ thống có kỷ luật.

Các mô hình trở nên thông minh hơn mỗi tháng. Lợi thế của bạn đến từ việc xây dựng các quy trình làm việc không bị "hoảng loạn" khi có sự cố xảy ra.

Source: https://dev.to/chrisbuildsonline/your-team-doesnt-need-a-better-ai-model-this-week-2og7

Optional learning community: https://t.me/GyaanSetuAi