ಹೆಚ್ಚಿನ ಜನರು LLM ಗೆ ಪ್ರಾಂಪ್ಟ್ ನೀಡಬಲ್ಲರು. ಆದರೆ ನೈಜ ಟ್ರಾಫಿಕ್ ಅನ್ನು ತಡೆದುಕೊಳ್ಳುವಂತಹ ಉತ್ಪನ್ನವೊಂದನ್ನು ನಿರ್ಮಿಸುವುದು ಸಂಪೂರ್ಣವಾಗಿ ವಿಭಿನ್ನವಾದ ವಿಷಯ. ನೀವು ಚಾಟ್ ವಿಂಡೋದಲ್ಲಿ ಟೈಪ್ ಮಾಡುವುದರಿಂದ ಪ್ರೊಡಕ್ಷನ್ AI ಅನ್ನು ಬಿಡುಗಡೆ ಮಾಡುವ ಹಂತಕ್ಕೆ ಹೋಗಬೇಕೆಂದರೆ, ಈ ಸ್ಟ್ಯಾಕ್ (stack) ಹೇಗೆ ಕೆಲಸ ಮಾಡುತ್ತದೆ ಎಂಬುದು ನಿಮಗೆ ತಿಳಿದಿರಬೇಕು. ಇದು ಮ್ಯಾಜಿಕ್ ಅಲ್ಲ. ಇದು ಪ್ರತ್ಯೇಕ ಎಂಜಿನಿಯರಿಂಗ್ ಸಮಸ್ಯೆಗಳ ಒಂದು ಪೈಪ್ಲೈನ್ ಆಗಿದೆ, ಮತ್ತು ಪ್ರತಿ ಪದರಕ್ಕೂ (layer) ತನ್ನದೇ ಆದ ವೈಫಲ್ಯದ ಸಾಧ್ಯತೆಗಳಿವೆ.
ಒಂದು ಆಧುನಿಕ AI ಸಿಸ್ಟಮ್ ಹೇಗೆ ಕೆಲಸ ಮಾಡುತ್ತದೆ ಎಂಬುದನ್ನು, ನೀವು ಒಂದು ಪದವನ್ನು ಟೈಪ್ ಮಾಡಿದ ಕ್ಷಣದಿಂದ ಏಜೆಂಟ್ ಒಂದು ಕಾರ್ಯವನ್ನು ಪೂರ್ಣಗೊಳಿಸುವ ಕ್ಷಣದವರೆಗೆ ನಾನು ವಿವರಿಸುತ್ತೇನೆ.
ಅಡಿಪಾಯ: ಮಾದರಿಗಳು (Models) ಹೇಗೆ ಯೋಚಿಸುತ್ತವೆ
ಮೂಲತಃ, ಒಂದು ಲಾರ್ಜ್ ಲ್ಯಾಂಗ್ವೇಜ್ ಮಾಡೆಲ್ ಕೇವಲ ಒಂದು ಕೆಲಸ ಮಾಡುತ್ತದೆ: ಅದು ಮುಂದಿನ ಟೋಕನ್ ಅನ್ನು ಊಹಿಸುತ್ತದೆ (predicts). ಆ ಟೋಕನ್ ಮುಂದಿನ ಪದವಾಗಿರಬಹುದು, ಪದದ ಭಾಗವಾಗಿರಬಹುದು ಅಥವಾ ಒಂದು ಚಿಹ್ನೆಯಾಗಿರಬಹುದು. ಉಳಿದೆಲ್ಲವೂ—ಕವಿತೆ, ಕೋಡ್, ತರ್ಕ (reasoning)—ಅದು ಒಂದೇ ಕೆಲಸವನ್ನು ದೊಡ್ಡ ಪ್ರಮಾಣದಲ್ಲಿ ಮಾಡುವುದರಿಂದ ಉಂಟಾಗುವ ವರ್ತನೆಗಳಾಗಿವೆ.
ನಿಮ್ಮ ಪ್ರಾಂಪ್ಟ್ನಿಂದ ಮಾಡೆಲ್ನ ಪ್ರತಿಕ್ರಿಯೆಯವರೆಗಿನ ಪ್ರಯಾಣ ಹೀಗಿರುತ್ತದೆ.
ಟೋಕನೈಸೇಶನ್ (Tokenization) ಮೊದಲ ಹಂತವಾಗಿದೆ. ನರಾವನ್ನು (neural network) ಗೆ ಅಸಲಿ ಪಠ್ಯವು ಅರ್ಥಹೀನವಾಗಿರುತ್ತದೆ, ಆದ್ದರಿಂದ ಮಾಡೆಲ್ ನಿಮ್ಮ ಪದಗಳನ್ನು ತುಣುಕುಗಳಾಗಿ ವಿಭಜಿಸುತ್ತದೆ ಮತ್ತು ಪ್ರತಿ ತುಣುಕನ್ನು ಒಂದು ಸಂಖ್ಯೆಗೆ ನಕ್ಷೆ ಮಾಡುತ್ತದೆ (maps). "tokenization" ಎಂಬ ಪದವು ಮೂರು ಪ್ರತ್ಯೇಕ ಟೋಕನ್ಗಳಾಗಬಹುದು. "New York" ಎಂಬ ಪದಗುಚ್ಛವು ಶಬ್ದಕೋಶದ (vocabulary) ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿ ಒಂದು ಅಥವಾ ಎರಡು ಟೋಕನ್ಗಳಾಗಬಹುದು. ಈ ಸಂಖ್ಯೆಗಳು ಯಾದೃಚ್ಛಿಕವಾಗಿಲ್ಲ; ಇವು ಮಾಡೆಲ್ ತರಬೇತಿಯ ಸಮಯದಲ್ಲಿ ಕಲಿತ ಸ್ಥಿರ ನಿಘಂಟಿನಿಂದ (fixed dictionary) ಬರುತ್ತವೆ.
ಪದಗಳು ಸಂಖ್ಯೆಗಳಾದ ನಂತರ, ಅವುಗಳಿಗೆ ಅರ್ಥ ಬೇಕಾಗುತ್ತದೆ. ಎಂಬೆಡಿಂಗ್ಸ್ (Embeddings) ಆ ಸಂಖ್ಯೆಗಳನ್ನು ವೆಕ್ಟರ್ಗಳನ್ನಾಗಿ (vectors) ಪರಿವರ್ತಿಸುತ್ತವೆ—ಇವು ಫ್ಲೋಟಿಂಗ್-ಪಾಯಿಂಟ್ ಮೌಲ್ಯಗಳ ಸುದೀರ್ಘ ಪಟ್ಟಿಗಳಾಗಿದ್ದು, ಹೋಲುವ ಪರಿಕಲ್ಪನೆಗಳನ್ನು ಗಣಿತೀಯ ಬಾಹ್ಯಾಕಾಶದಲ್ಲಿ (mathematical space) ಹತ್ತಿರವಿರಿಸುತ್ತವೆ. "King" ಮತ್ತು "Queen" ಒಂದಕ್ಕೊಂದು ಹತ್ತಿರವಿರುತ್ತವೆ. "Paris" ಮತ್ತು "Berlin" ಒಂದೇ ಗುಂಪಿನಲ್ಲಿರುತ್ತವೆ, ಆದರೆ "Python" ಅಥವಾ "JavaScript" ನಿಂದ ಬೇರೆ ಪ್ರದೇಶದಲ್ಲಿರುತ್ತವೆ.
ಆದರೆ ಕೇವಲ ವೆಕ್ಟರ್ಗಳಿಂದ ಕ್ರಮ (order) ಕಳೆದುಹೋಗುತ್ತದೆ. ಪೊಸಿಷನಲ್ ಎನ್ಕೋಡಿಂಗ್ (Positional encoding) ವಾಕ್ಯದಲ್ಲಿ ಪ್ರತಿ ಟೋಕನ್ ಎಲ್ಲಿ ಕುಳಿತಿದೆ ಎಂದು ಮಾಡೆಲ್ಗೆ ತಿಳಿಸುತ್ತದೆ. ಇದು ಇಲ್ಲದಿದ್ದರೆ, "The dog bit the man" ಮತ್ತು "The man bit the dog" ಎರಡೂ ಒಂದೇ ರೀತಿ ಕಾಣಿಸುತ್ತವೆ.
ನಂತರ ಅಟೆನ್ಷನ್ ಮೆಕ್ಯಾನಿಸಂ (attention mechanism) ಬರುತ್ತದೆ. ಇಲ್ಲಿ ಮಾಡೆಲ್ ಇನ್ಪುಟ್ನಲ್ಲಿರುವ ಎಲ್ಲಾ ಟೋಕನ್ಗಳನ್ನು ಗಮನಿಸಿ, ಮುಂದಿನ ಟೋಕನ್ ಅನ್ನು ಊಹಿಸಲು ಯಾವುವು ಮುಖ್ಯ ಎಂಬುದನ್ನು ನಿರ್ಧರಿಸುತ್ತದೆ. ನೀವು "ಕಂಪನಿಯು ಯಾವಾಗ ಸ್ಥಾಪನೆಯಾಯಿತು ಮತ್ತು ಈಗ ಅದನ್ನು ಯಾರು ಮುನ್ನಡೆಸುತ್ತಿದ್ದಾರೆ?" ಎಂದು ಕೇಳಿದಾಗ, ಮಾಡೆಲ್ "founded" ಅನ್ನು ಒಂದು ದಿನಾಂಕಕ್ಕೆ ಮತ್ತು "leads" ಅನ್ನು CEO ಹೆಸರಿಗೆ ಲಿಂಕ್ ಮಾಡಬೇಕಾಗುತ್ತದೆ. ಅಟೆನ್ಷನ್ ಅಂತಹ ಸಂಪರ್ಕಗಳನ್ನು ಸೃಷ್ಟಿಸುತ್ತದೆ.
ಈ ಕಾರ್ಯಾಚರಣೆಗಳು ಪದರಗಳಾಗಿ (layers) ಜೋಡಿಸಲ್ಪಡುತ್ತವೆ—ಅವುಗಳಲ್ಲಿ ಹೆಚ್ಚಾಗಿ ಡಜನ್ಗಟ್ಟಲೆ ಪದರಗಳಿರುತ್ತವೆ—ಆರಂಭಿಕ ಪದರಗಳು ವ್ಯಾಕರಣವನ್ನು (syntax) ನಿರ್ವಹಿಸಿದರೆ, ನಂತರದ ಪದರಗಳು ಅಮೂರ್ತ ತರ್ಕವನ್ನು (abstract reasoning) ನಿರ್ಮಿಸುತ್ತವೆ. ಮಧ್ಯದಲ್ಲಿ ಎಲ್ಲೋ, ಫೀಡ್-ಫಾರ್ವರ್ಡ್ ನೆಟ್ವರ್ಕ್ಗಳು (feed-forward networks) ವಾಸ್ತವಿಕ ಸಂಬಂಧಗಳನ್ನು ಸಂಗ್ರಹಿಸುತ್ತವೆ. ಪ್ಯಾರಿಸ್ ಫ್ರಾನ್ಸ್ನ ರಾಜಧಾನಿ ಅಥವಾ ಒಂದು ನಿರ್ದಿಷ್ಟ API ಒಂದು JSON ಪೇಲೋಡ್ ಅನ್ನು ನಿರೀಕ್ಷಿಸುತ್ತದೆ ಎಂಬ ಜ್ಞಾನವನ್ನು ಮಾಡೆಲ್ ಇಲ್ಲಿ ಇರಿಸಿಕೊಳ್ಳುತ್ತದೆ. ಇದು ನಿಖರವಾಗಿ ಡೇಟಾಬೇಸ್ ಅಲ್ಲ, ಆದರೆ ಮಾದರಿಗಳನ್ನು (patterns) ಸಕ್ರಿಯಗೊಳಿಸುವ ಸಂಕುಚಿತ ತೂಕಗಳ (weights) ಜಾಲವಾಗಿದೆ.
ಕೊನೆಯದಾಗಿ, ಡಿಕೋಡಿಂಗ್ (decoding) ಆಂತರಿಕ ವೆಕ್ಟರ್ ಪ್ರಾತಿನಿಧ್ಯಗಳನ್ನು (vector representations) ಮನುಷ್ಯರು ಓದಬಲ್ಲ ಟೋಕನ್ಗಳಾಗಿ ಪರಿವರ್ತಿಸುತ್ತದೆ. ತಾನು ಇಂಗ್ಲಿಷ್ ಬರೆಯುತ್ತಿದ್ದೇನೆ ಎಂಬುದು ಮಾಡೆಲ್ಗೆ "ತಿಳಿದಿರುವುದಿಲ್ಲ"; ಅದು ಕೇವಲ ಸಾವಿರಾರು ಸಂಭವನೀಯ ಮುಂದಿನ ಟೋಕನ್ಗಳನ್ನು ಶ್ರೇಣೀಕರಿಸುತ್ತದೆ ಮತ್ತು ಸ್ಟಾಪ್ ಕಂಡೀಷನ್ (stop condition) ಸಿಗುವವರೆಗೆ ಅತ್ಯಂತ ಸಂಭವನೀಯವಾದದ್ದನ್ನು ಪದೇ ಪದೇ ಆಯ್ಕೆ ಮಾಡುತ್ತದೆ.
RAG ಲೇಯರ್: ಮಾಡೆಲ್ಗಳಿಗೆ ನೆನಪನ್ನು ನೀಡುವುದು
ಮೂಲ ಮಾಡೆಲ್ (base model) ಒಂದು ನಿರ್ದಿಷ್ಟ ಕಾಲಘಟ್ಟದಲ್ಲಿ ಸ್ಥಗಿತಗೊಂಡಿರುತ್ತದೆ. ಅದರ ತೂಕಗಳು (weights) ಒಂದು ನಿರ್ದಿಷ್ಟ ದಿನಾಂಕದವರೆಗೆ ಇಂಟರ್ನೆಟ್ ಮಾಹಿತಿಯನ್ನು ಒಳಗೊಂಡಿರುತ್ತವೆ ಮತ್ತು ನೀವು ಅವುಗಳನ್ನು ನೀಡದ ಹೊರತು ಅದು ನಿಮ್ಮ ಖಾಸಗಿ ದಾಖಲೆಗಳನ್ನು ಪ್ರವೇಶಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ. ಇದು ಹೆಚ್ಚಿನ ವ್ಯವಹಾರದ ಕಾರ್ಯಗಳಿಗೆ ಅದನ್ನು ಅಪ್ರಯೋಜಕವಾಗಿಸುತ್ತದೆ. ರಿಟ್ರಿೀವಲ್-ಆಗ್ಮೆಂಟೆಡ್ ಜನರೇಷನ್ ಅಥವಾ RAG, ಮಾಡೆಲ್ಗೆ ಉತ್ತರ ನೀಡುವ ಮೊದಲು ಪರಿಶೀಲಿಸಬಹುದಾದ ಬಾಹ್ಯ ಲೈಬ್ರರಿಯನ್ನು ನೀಡುವ ಮೂಲಕ ಇದನ್ನು ಸರಿಪಡಿಸುತ್ತದೆ.
ಇದರ ಪರಿಕಲ್ಪನೆಯು ಸರಳವಾಗಿದ್ದರೂ, ಪ್ರಾಯೋಗಿಕವಾಗಿ ಇದು ಸ್ವಲ್ಪ ಸಂಕೀರ್ಣವಾಗಿದೆ. ಮೊದಲಿಗೆ, ನೀವು ನಿಮ್ಮ ದಾಖಲೆಗಳನ್ನು ತೆಗೆದುಕೊಂಡು ಚಂಕಿಂಗ್ (chunking) ಅನ್ವಯಿಸುತ್ತೀರಿ. ನೀವು ನೂರಾರು ಪುಟಗಳ PDF ಅನ್ನು ಪ್ರಾಂಪ್ಟ್ ವಿಂಡೋಗೆ ಸುಮ್ಮನೆ ಹಾಕುವುದಿಲ್ಲ. ನೀವು ಅದನ್ನು ಪ್ಯಾರಾಗ್ರಾಫ್ಗಳು, ವಿಭಾಗಗಳು ಅಥವಾ ಮಾಡೆಲ್ನ ಕಾಂಟೆಕ್ಸ್ಟ್ ಲಿಮಿಟ್ಗೆ (context limit) ಹೊಂದಿಕೆಯಾಗುವಷ್ಟು ಸಣ್ಣ ಸೆಮ್ಯಾಂಟಿಕ್ ಬ್ಲಾಕ್ಗಳಾಗಿ ವಿಭಜಿಸುತ್ತೀರಿ, ಆದರೆ ಅವುಗಳ ಅರ್ಥವು ಉಳಿಯುವಂತಿರಬೇಕು.
ಪ್ರತಿ ಚಂಕ್ ಕೂಡ LLM ಒಳಗಿನ ಟೋಕನ್ಗಳಂತೆ ಒಂದು ಎಂಬೆಡಿಂಗ್ ಮಾಡೆಲ್ (embedding model) ಮೂಲಕ ಹಾದುಹೋಗುತ್ತದೆ ಮತ್ತು ವೆಕ್ಟರ್ ಆಗುತ್ತದೆ. ಈ ವೆಕ್ಟರ್ಗಳು ವೆಕ್ಟರ್ ಡೇಟಾಬೇಸ್ (vector database) ನಲ್ಲಿ ಇರುತ್ತವೆ—ಇದು ನಿಖರವಾದ ಹುಡುಕಾಟಕ್ಕಿಂತ (exact lookups) ಸಾಮ್ಯತೆಯ ಹುಡುಕಾಟಕ್ಕಾಗಿ (similarity search) ವಿನ್ಯಾಸಗೊಳಿಸಲಾದ ವಿಶೇಷ ಸಂಗ್ರಹಣೆಯಾಗಿದೆ. ಬಳಕೆದಾರರು ಪ್ರಶ್ನೆಯನ್ನು ಕೇಳಿದಾಗ, ನೀವು ಅವರ ಪ್ರಶ್ನೆಯನ್ನು ಎಂಬೆಡ್ ಮಾಡಿ ಡೇಟಾಬೇಸ್ಗೆ ಕೇಳುತ್ತೀರಿ: "ಈ ವೆಕ್ಟರ್ನ ಅರ್ಥಕ್ಕೆ ಅತ್ಯಂತ ಹತ್ತಿರವಿರುವ ಚಂಕ್ಗಳು ಯಾವುವು?"
ಕೇವಲ ರಾಗ ವೆಕ್ಟರ್ ಸರ್ಚ್ (raw vector search) ಆಗ Often ನಿಖರವಾದ ಹೊಂದಾಣಿಕೆಗಳನ್ನು ತಪ್ಪಿಸಬಹುದು. ಉತ್ತಮ ಪ್ರೊಡಕ್ಷನ್ ಸಿಸ್ಟಮ್ ಕೀವರ್ಡ್ ಮ್ಯಾಚಿಂಗ್ ಅನ್ನು ಸೆಮ್ಯಾಂಟಿಕ್ ಸಾಮ್ಯತೆಯೊಂದಿಗೆ ಸಂಯೋಜಿಸುವ ಹೈಬ್ರಿಡ್ ಸರ್ಚ್ (hybrid search) ಅನ್ನು ಬಳಸುತ್ತದೆ. ಯಾರಾದರೂ "SLA-99 compliance" ಬಗ್ಗೆ ಕೇಳಿದರೆ, ನಿಮಗೆ ಕೇವಲ ಅದಕ್ಕೆ ಹೋಲುವ ದಾಖಲೆಯಲ್ಲದೆ, ಆ ಪದಗುಚ್ಛವನ್ನು ನೇರವಾಗಿ ಹೊಂದಿರುವ ದಾಖಲೆಯೂ ಬೇಕಾಗುತ್ತದೆ.
ರಿಟ್ರಿೀವಲ್ ನಂತರ, ರೀ-ರ್ಯಾಂಕಿಂಗ್ (re-ranking) ಶಬ್ದ ಅಥವಾ ಅನಗತ್ಯ ಮಾಹಿತಿಯನ್ನು (noise) ಫಿಲ್ಟರ್ ಮಾಡುತ್ತದೆ. ಆರಂಭಿಕ ಹುಡುಕಾಟವು ಇಪ್ಪತ್ತು ಚಂಕ್ಗಳನ್ನು ನೀಡಬಹುದು, ಆದರೆ ಕೇವಲ ಮೊದಲ ಮೂರು ಅಥವಾ ನಾಲ್ಕು ಮಾತ್ರ ನಿಜವಾಗಿಯೂ ಸಹಾಯ ಮಾಡುತ್ತವೆ. ರೀ-ರ್ಯಾಂಕರ್ ಸಂಬಂಧವನ್ನು (relevance) ಅಳೆಯುತ್ತದೆ ಮತ್ತು ಯಾವುದೇ ಮಾಹಿತಿ LLM ಗೆ ತಲುಪುವ ಮೊದಲು ಉಳಿದವುಗಳನ್ನು ಕೈಬಿಡುತ್ತದೆ, ಇದರಿಂದ ಟೋಕನ್ಗಳು ಉಳಿತಾಯವಾಗುತ್ತವೆ ಮತ್ತು ಹ್ಯಾಲ್ಯುಸಿನೇಷನ್ಗಳು (hallucinations) ಕಡಿಮೆಯಾಗುತ್ತವೆ.
ಏಜೆಂಟ್ ಲೇಯರ್: ಕ್ರಮ ಕೈಗೊಳ್ಳುವುದು
RAG ಮಾಡೆಲ್ ಓದಲು ಅನುಮತಿಸುತ್ತದೆ. ಏಜೆಂಟ್ಗಳು ಅದನ್ನು ಕಾರ್ಯನಿರ್ವಹಿಸಲು ಅನುಮತಿಸುತ್ತವೆ.
ಮೂಲಭೂತವಾಗಿ ಏಜೆಂಟ್ ಎಂಬುದು ಒಂದು ಲೂಪ್ನೊಳಗೆ ಸಿಲುಕಿರುವ LLM ಆಗಿದೆ. ಅದು ಗಮನಿಸುತ್ತದೆ, ತರ್ಕಿಸುತ್ತದೆ, ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ ಮತ್ತು ನಂತರ ಮತ್ತೆ ಗಮನಿಸುತ್ತದೆ. ನೀವು ಏಜೆಂಟ್ಗೆ ವಿಮಾನ ಟಿಕೆಟ್ ಬುಕ್ ಮಾಡಲು ಹೇಳಿದರೆ, ಅದು ಕೇವಲ ಬುಕಿಂಗ್ ಹೇಗೆ ನಡೆಯುತ್ತದೆ ಎಂದು ವಿವರಿಸುವುದಿಲ್ಲ. ಬದಲಾಗಿ, ಅದು ಕಾರ್ಯವನ್ನು ಹಂತಗಳಾಗಿ ವಿಂಗಡಿಸುತ್ತದೆ, ಸರಿಯಾದ ಫಂಕ್ಷನ್ಗಳನ್ನು ಕರೆಯುತ್ತದೆ, ಪ್ರತಿಕ್ರಿಯೆಗಳನ್ನು ಓದುತ್ತದೆ ಮತ್ತು ಅಗತ್ಯಕ್ಕೆ ತಕ್ಕಂತೆ ಹೊಂದಾಣಿಕೆ ಮಾಡಿಕೊಳ್ಳುತ್ತದೆ.
ಈ ಲೂಪ್ ಈ ರೀತಿ ಇರುತ್ತದೆ. ಗಮನಿಸು: ಏಜೆಂಟ್ ಪ್ರಸ್ತುತ ಸ್ಥಿತಿಯನ್ನು—ಅಂದರೆ ನಿಮ್ಮ ವಿನಂತಿ, ಹಿಂದಿನ ಟೂಲ್ ಕರೆಗಳ ಫಲಿತಾಂಶಗಳು ಮತ್ತು ಯಾವುದೇ ದೋಷಗಳನ್ನು—ಓದುತ್ತದೆ. ತರ್ಕಿಸು: LLM ಮುಂದೆ ಏನು ಮಾಡಬೇಕೆಂದು ನಿರ್ಧರಿಸುತ್ತದೆ, ಇದನ್ನು ಹೆಚ್ಚಾಗಿ ಒಂದು ರಚನಾತ್ಮಕ ಯೋಜನೆಯನ್ನು ತಯಾರಿಸುವ ಮೂಲಕ ಅಥವಾ ಮೊದಲೇ ನಿಗದಿಪಡಿಸಿದ ಆಯ್ಕೆಗಳಿಂದ ಆರಿಸುವ ಮೂಲಕ ಮಾಡುತ್ತದೆ. ಕಾರ್ಯನಿರ್ವಹಿಸು: ಇದು ಒಂದು ಟೂಲ್ ಅನ್ನು ಕರೆಯುತ್ತದೆ.
ಏಜೆಂಟ್ಗಳು ನೈಜ ಪ್ರಪಂಚದೊಂದಿಗೆ ಸಂಪರ್ಕ ಸಾಧಿಸಲು ಟೂಲ್ಗಳನ್ನು ಬಳಸುತ್ತವೆ. ಅವುಗಳನ್ನು JSON schemas ಮೂಲಕ ವ್ಯಾಖ್ಯಾನಿಸಲಾಗುತ್ತದೆ, ಇದು ಒಂದು API ಗೆ ಯಾವ ಪ್ಯಾರಾಮೀಟರ್ಗಳು ಬೇಕು ಎಂಬುದನ್ನು ಮಾಡೆಲ್ಗೆ ನಿಖರವಾಗಿ ತಿಳಿಸುತ್ತದೆ. LLM ಯಾದೃಚ್ಛಿಕ HTTP ವಿನಂತಿಗಳನ್ನು ಮಾಡುವುದಿಲ್ಲ. ಬದಲಾಗಿ ಅದು ಸ್ಕೀಮಾವನ್ನು ತುಂಬುತ್ತದೆ. "city: London ಮತ್ತು units: metric ಬಳಸಿ weather API ಅನ್ನು ಕರೆಯಿರಿ." ಒಂದು ವೇಳೆ ಟೂಲ್ ತಾಪಮಾನವನ್ನು ನೀಡಿದರೆ, ಏಜೆಂಟ್ ಅದನ್ನು ಪೂರೈಸುತ್ತದೆ