Tool Calling: Cách các AI Agent quyết định việc cần làm

Các mô hình AI đang tiến xa hơn việc chỉ trò chuyện đơn thuần. Giờ đây, chúng đang thực hiện các hành động thực tế.

Hầu hết các mô hình đều bị đóng băng trong thời gian. Chúng chỉ biết những gì đã được học trong quá trình huấn luyện. Chúng không thể tự mình kiểm tra giá cổ phiếu hôm nay hay đặt lịch họp trên lịch của bạn.

Tool calling thay đổi điều này. Nó mang lại cho mô hình AI đôi tay và đôi mắt.

Cách thức hoạt động:

Các nhà phát triển cung cấp cho mô hình một bộ công cụ. Những công cụ này là các API như máy tính, công cụ tìm kiếm hoặc cơ sở dữ liệu.

Thay vì chỉ viết văn bản, mô hình tuân theo một vòng lặp:

• Reasoning (Suy luận): Mô hình đọc yêu cầu của bạn. • Action (Hành động): Mô hình quyết định rằng nó cần một công cụ. Nó gửi một yêu cầu có cấu trúc (như JSON) đến công cụ đó. • Observation (Quan sát): Công cụ thực hiện nhiệm vụ và gửi dữ liệu trả về. • Response (Phản hồi): Mô hình sử dụng dữ liệu mới đó để đưa ra câu trả lời cuối cùng cho bạn.

Ví dụ:

Nếu bạn hỏi, "Hôm nay ở Austin tôi có cần mặc áo khoác không?" mô hình sẽ không đoán mò.

  1. Nó xác định một công cụ thời tiết.
  2. Nó gửi vị trí "Austin, TX" đến công cụ đó.
  3. Nó nhận được nhiệt độ hiện tại.
  4. Nó nói với bạn, "Nhiệt độ là 58 độ và có gió, vì vậy hãy mang theo áo khoác."

Điều này biến một chatbot thụ động thành một AI Agent chủ động.

Bí mật nằm ở phần mô tả. Nếu bạn đặt tên công cụ một cách mơ hồ, mô hình sẽ thất bại. Nếu bạn cung cấp một mô tả rõ ràng và chính xác, mô hình sẽ biết chính xác khi nào cần sử dụng nó.

Xây dựng các hệ thống này đòi hỏi sự tập trung vào ba yếu tố:

  • Speed (Tốc độ): Mỗi lần gọi công cụ đều mất thời gian. Quá nhiều bước sẽ khiến AI trở nên chậm chạp.
  • Safety (An toàn): Nếu một công cụ có thể gửi email hoặc chuyển tiền, bạn phải thêm bước phê duyệt của con người.
  • Reliability (Độ tin cậy): Các API có thể gặp lỗi. Bạn phải xây dựng các hệ thống có khả năng bắt lỗi và yêu cầu mô hình thử lại.

Tool calling là cầu nối giữa ngôn từ và hành động. Làm chủ được điều này chính là cách bạn xây dựng nên những AI thực sự hoàn thành được công việc.

Source: https://dev.to/med_stream_93ad6cad6d2bee/tool-calling-explained-how-ai-agents-decide-what-to-do-next-3n3b

Optional learning community: https://t.me/GyaanSetuAi