Sự bùng nổ AI Agent không kiểm soát: Tại sao các công ty đang chìm nghỉm trong các công cụ AI
Cuộc thảo luận về AI đã thay đổi.
Năm 2024, các đội ngũ tranh luận xem mô hình nào thông minh hơn. Năm 2025, họ xây dựng các tính năng bằng AI. Năm 2026, họ chật vật để quản lý tất cả chúng.
Cursor hiện diện trên mọi máy tính xách tay. Claude Code chạy trong CI. Copilot nằm trong IDE. Các đội ngũ sản phẩm sử dụng ChatGPT. Các đội ngũ dữ liệu sử dụng Gemini. Bộ phận Marketing sử dụng hàng tá công cụ viết lách.
Không ai có một danh sách đầy đủ. Không ai kiểm toán lượng token. Không ai biết công cụ nào đã gửi dữ liệu khách hàng đến endpoint nào.
Đây chính là sự bùng nổ AI Agent (AI agent sprawl). Đây là vấn đề hạ tầng lớn nhất của năm 2026.
Sự bùng nổ xảy ra khi việc áp dụng công cụ diễn ra nhanh hơn các quy tắc của công ty. Vấn đề không nằm ở việc sử dụng nhiều công cụ. Vấn đề là sử dụng chúng mà không có sự giám sát hay kiểm soát.
Các dấu hiệu cho thấy bạn đang gặp tình trạng bùng nổ không kiểm soát:
- Các nhóm khác nhau sử dụng các công cụ khác nhau cho cùng một tác vụ.
- Chi phí token trở thành một sự bất ngờ khi hóa đơn gửi đến.
- Các kỹ sư không thể theo dõi AI nào đã chạm vào các dữ liệu cụ thể.
- Prompt engineering diễn ra trong các nhóm biệt lập mà không có sự chia sẻ.
- Bạn chỉ biết một công cụ bị lỗi khi sáu đội cùng thất bại một lúc.
Vấn đề nằm ở đồ thị phụ thuộc vô hình.
Một kỹ sư có thể sử dụng Cursor, trong khi một pipeline CI sử dụng một tích hợp GPT-4 tùy chỉnh. Một bot review code có thể sử dụng Gemini.
Bây giờ hãy hỏi: cái nào trong số này có quyền truy cập vào sơ đồ cơ sở dữ liệu của bạn? API keys của bạn? Dữ liệu khách hàng của bạn?
Câu trả lời thường là tất cả. Các nhà phát triển thường quên làm sạch dữ liệu trước khi các công cụ AI xử lý chúng. Nếu không có các rào chắn bảo vệ (guardrails), họ sẽ thất bại.
Chi phí AI cũng rất khó theo dõi. Một vòng lặp agent duy nhất có thể làm tăng gấp ba hóa đơn của bạn chỉ trong một tuần. Nếu không có hệ thống kế toán tập trung, bạn chỉ thấy thiệt hại khi hóa đơn được gửi đến.
Bạn cần một chiến lược quản trị. Hãy sử dụng phân loại dữ liệu để quyết định công cụ nào được phép truy cập:
- Dữ liệu công khai (Public Data): Bất kỳ công cụ nào.
- Dữ liệu nội bộ (Internal Data): Các công cụ có thỏa thuận dữ liệu phù hợp.
- Dữ liệu bảo mật (Confidential Data): Chỉ các API tự lưu trữ (self-hosted) hoặc không lưu trữ dữ liệu (zero-retention).
- Dữ liệu hạn chế (Restricted Data): Không sử dụng bất kỳ công cụ AI nào. Chấm hết.
Giải pháp tốt nhất là một AI Gateway. Đây là một điểm duy nhất nơi tất cả lưu lượng AI chảy qua.
Một AI Gateway cung cấp:
- Khả năng hiển thị chi phí cho từng token.
- Làm sạch thông tin nhạy cảm (secret scrubbing) để loại bỏ PII trước khi nó rời khỏi mạng của bạn.
- Thực thi chính sách để chặn các nhà cung cấp không được phê duyệt.
- Quản lý phiên bản prompt để xử lý prompt như mã nguồn.
Đừng coi AI như một chiếc hộp ma thuật. Hãy coi nó như các cơ sở dữ liệu production của bạn. Hãy áp dụng sự chặt chẽ trong kỹ thuật cho các agent giống như cách bạn làm với các hệ thống xác thực (auth systems) và pipeline triển khai.
Quản trị đơn giản là kỷ luật trong việc biết cái gì đang chạy trong hệ thống của bạn, tại sao nó chạy, và nó được phép làm gì.
Optional learning community: https://t.me/GyaanSetuAi