ಟೂಲ್ ಕಾಲಿಂಗ್ (Tool Calling): AI ಏಜೆಂಟ್‌ಗಳು ಏನು ಮಾಡಬೇಕೆಂದು ಹೇಗೆ ನಿರ್ಧರಿಸುತ್ತವೆ

AI ಮಾದರಿಗಳು ಕೇವಲ ಸರಳ ಚಾಟ್‌ಗಿಂತ ಮುಂದೆ ಸಾಗುತ್ತಿವೆ. ಅವು ಈಗ ಕಾರ್ಯಗಳನ್ನು ನಿರ್ವಹಿಸುತ್ತಿವೆ.

ಹೆಚ್ಚಿನ ಮಾದರಿಗಳು ಕಾಲದ ಒಂದು ನಿರ್ದಿಷ್ಟ ಹಂತದಲ್ಲಿ ಸ್ಥಗಿತಗೊಂಡಿವೆ. ತರಬೇತಿಯ ಸಮಯದಲ್ಲಿ ಅವು ಕಲಿತದ್ದನ್ನು ಮಾತ್ರ ಅವುಗಳಿಗೆ ತಿಳಿದಿರುತ್ತದೆ. ಅವು ತಾವಾಗಿಯೇ ಇಂದಿನ ಷೇರು ಬೆಲೆಗಳನ್ನು ಪರಿಶೀಲಿಸಲು ಅಥವಾ ನಿಮ್ಮ ಕ್ಯಾಲೆಂಡರ್‌ನಲ್ಲಿ ಸಭೆಯನ್ನು ನಿಗದಿಪಡಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ.

ಟೂಲ್ ಕಾಲಿಂಗ್ ಇದನ್ನು ಬದಲಾಯಿಸುತ್ತದೆ. ಇದು AI ಮಾದರಿಗೆ ಕೈ ಮತ್ತು ಕಣ್ಣುಗಳನ್ನು ನೀಡುತ್ತದೆ.

ಇದು ಹೇಗೆ ಕೆಲಸ ಮಾಡುತ್ತದೆ:

ಡೆವಲಪರ್‌ಗಳು ಮಾದರಿಗೆ ಒಂದು ಗುಂಪಿನ ಟೂಲ್‌ಗಳನ್ನು ನೀಡುತ್ತಾರೆ. ಈ ಟೂಲ್‌ಗಳು ಕ್ಯಾಲ್ಕುಲೇಟರ್, ಸರ್ಚ್ ಇಂಜಿನ್ ಅಥವಾ ಡೇಟಾಬೇಸ್‌ನಂತಹ APIಗಳಾಗಿರುತ್ತವೆ.

ಕೇವಲ ಪಠ್ಯವನ್ನು ಬರೆಯುವ ಬದಲು, ಮಾದರಿಯು ಒಂದು ಲೂಪ್ ಅನ್ನು ಅನುಸರಿಸುತ್ತದೆ:

• ತರ್ಕ (Reasoning): ಮಾದರಿಯು ನಿಮ್ಮ ವಿನಂತಿಯನ್ನು ಓದುತ್ತದೆ. • ಕ್ರಮ (Action): ಮಾದರಿಯು ತನಗೆ ಒಂದು ಟೂಲ್ ಬೇಕೆಂದು ನಿರ್ಧರಿಸುತ್ತದೆ. ಅದು ಟೂಲ್‌ಗೆ ಒಂದು ರಚನಾತ್ಮಕ ವಿನಂತಿಯನ್ನು (JSON ನಂತಹದ್ದನ್ನು) ಕಳುಹಿಸುತ್ತದೆ. • ವೀಕ್ಷಣೆ (Observation): ಟೂಲ್ ಕಾರ್ಯವನ್ನು ನಿರ್ವಹಿಸುತ್ತದೆ ಮತ್ತು ಡೇಟಾವನ್ನು ಹಿಂತಿರುಗಿಸುತ್ತದೆ. • ಪ್ರತಿಕ್ರಿಯೆ (Response): ಮಾದರಿಯು ಆ ಹೊಸ ಡೇಟಾವನ್ನು ಬಳಸಿ ನಿಮಗೆ ಅಂತಿಮ ಉತ್ತರವನ್ನು ನೀಡುತ್ತದೆ.

ಉದಾಹರಣೆ:

ನೀವು "ಇಂದು ಆಸ್ಟಿನ್‌ನಲ್ಲಿ ನನಗೆ ಜಾಕೆಟ್ ಬೇಕೇ?" ಎಂದು ಕೇಳಿದರೆ, ಮಾದರಿಯು ಊಹಿಸುವುದಿಲ್ಲ.

  1. ಅದು ವೆದರ್ (weather) ಟೂಲ್ ಅನ್ನು ಗುರುತಿಸುತ್ತದೆ.
  2. ಅದು ಆ ಟೂಲ್‌ಗೆ "Austin, TX" ಎಂಬ ಸ್ಥಳವನ್ನು ಕಳುಹಿಸುತ್ತದೆ.
  3. ಅದು ಪ್ರಸ್ತುತ ತಾಪಮಾನವನ್ನು ಪಡೆಯುತ್ತದೆ.
  4. ಅದು ನಿಮಗೆ, "ಇಲ್ಲಿ ತಾಪಮಾನ 58 ಡಿಗ್ರಿ ಇದೆ ಮತ್ತು ಗಾಳಿ ಬೀಸುತ್ತಿದೆ, ಆದ್ದರಿಂದ ಜಾಕೆಟ್ ತರಲು ಮರೆಯಬೇಡಿ" ಎಂದು ಹೇಳುತ್ತದೆ.

ಇದು ನಿಷ್ಕ್ರಿಯ ಚಾಟ್‌ಬಾಟ್ ಅನ್ನು ಸಕ್ರಿಯ ಏಜೆಂಟ್ ಆಗಿ ಪರಿವರ್ತಿಸುತ್ತದೆ.

ಇದರ ರಹಸ್ಯವು ವಿವರಣೆಯಲ್ಲಿದೆ (description). ನೀವು ಟೂಲ್‌ಗೆ ಅಸ್ಪಷ್ಟ ಹೆಸರನ್ನು ನೀಡಿದರೆ, ಮಾದರಿಯು ವಿಫಲವಾಗುತ್ತದೆ. ನೀವು ಅದಕ್ಕೆ ಸ್ಪಷ್ಟವಾದ, ನಿಖರವಾದ ವಿವರಣೆಯನ್ನು ನೀಡಿದರೆ, ಮಾದರಿಯು ಅದನ್ನು ಯಾವಾಗ ಬಳಸಬೇಕೆಂದು ನಿಖರವಾಗಿ ತಿಳಿಯುತ್ತದೆ.

ಈ ವ್ಯವಸ್ಥೆಗಳನ್ನು ನಿರ್ಮಿಸಲು ಮೂರು ವಿಷಯಗಳ ಮೇಲೆ ಗಮನ ಹರಿಸುವುದು ಅಗತ್ಯವಾಗಿದೆ:

  • ವೇಗ (Speed): ಪ್ರತಿಯೊಂದು ಟೂಲ್ ಕಾಲಿಂಗ್ ಕೂಡ ಸಮಯ ತೆಗೆದುಕೊಳ್ಳುತ್ತದೆ. ಅತಿಯಾದ ಹಂತಗಳು AI ಅನ್ನು ನಿಧಾನಗೊಳಿಸುತ್ತವೆ.
  • ಸುರಕ್ಷತೆ (Safety): ಒಂದು ಟೂಲ್ ಇಮೇಲ್‌ಗಳನ್ನು ಕಳುಹಿಸಲು ಅಥವಾ ಹಣವನ್ನು ವರ್ಗಾಯಿಸಲು ಸಾಧ್ಯವಾಗಿದ್ದರೆ, ನೀವು ಮಾನವ ಅನುಮೋದನೆಯನ್ನು ಸೇರಿಸಲೇಬೇಕು.
  • ವಿಶ್ವಾಸಾರ್ಹತೆ (Reliability): APIಗಳು ವಿಫಲವಾಗಬಹುದು. ದೋಷಗಳನ್ನು ಪತ್ತೆಹಚ್ಚುವ ಮತ್ತು ಮಾದರಿಯನ್ನು ಮತ್ತೆ ಪ್ರಯತ್ನಿಸಲು ಕೇಳುವ ವ್ಯವಸ್ಥೆಗಳನ್ನು ನೀವು ನಿರ್ಮಿಸಬೇಕು.

ಟೂಲ್ ಕಾಲಿಂಗ್ ಎಂಬುದು ಪದಗಳು ಮತ್ತು ಕ್ರಿಯೆಯ ನಡುವಿನ ಸೇತುವೆಯಾಗಿದೆ. ಇದನ್ನು ಕರಗತ ಮಾಡಿಕೊಳ್ಳುವುದು ನಿಜವಾಗಿಯೂ ಕೆಲಸವನ್ನು ಮಾಡುವ AI ಅನ್ನು ನಿರ್ಮಿಸಲು ಇರುವ ದಾರಿಯಾಗಿದೆ.

Source: https://dev.to/med_stream_93ad6cad6d2bee/tool-calling-explained-how-ai-agents-decide-what-to-do-next-3n3b

Optional learning community: https://t.me/GyaanSetuAi