Spring AI ಮತ್ತು Ollama ಬಳಸಿ MCP Server ಮತ್ತು Client ಅನ್ನು ನಿರ್ಮಿಸುವುದು
AI ಮಾದರಿಗಳು ಕೇವಲ ಪ್ರಶ್ನೆಗಳಿಗೆ ಉತ್ತರಿಸುವುದಕ್ಕಿಂತ ಹೆಚ್ಚಿನದನ್ನು ಮಾಡಬೇಕು. ಅವು ಬಾಹ್ಯ ವ್ಯವಸ್ಥೆಗಳೊಂದಿಗೆ (external systems) ಸಂವಹನ ನಡೆಸಬೇಕು ಮತ್ತು ನೈಜ ಕ್ರಮಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳಬೇಕು.
Model Context Protocol (MCP) ಇದನ್ನು ಸಾಧ್ಯವಾಗಿಸುತ್ತದೆ. ಇದು ಒಂದು ಮುಕ್ತ ಪ್ರೋಟೋಕಾಲ್ ಆಗಿದ್ದು, AI ಅಪ್ಲಿಕೇಶನ್ಗಳು ಸಾಮಾನ್ಯ ಭಾಷೆಯನ್ನು ಬಳಸಿಕೊಂಡು ಪರಿಕರಗಳು (tools), ಡೇಟಾ ಮತ್ತು ಪ್ರಾಂಪ್ಟ್ಗಳನ್ನು ಹಂಚಿಕೊಳ್ಳಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ.
ನಾನು ಈ ಕೆಳಗಿನವುಗಳನ್ನು ಬಳಸಿ ಸಂಪೂರ್ಣ ವ್ಯವಸ್ಥೆಯನ್ನು ನಿರ್ಮಿಸಿದ್ದೇನೆ:
- Java 17 ಮತ್ತು Spring Boot
- Spring AI 1.0.0
- ಸ್ಥಳೀಯ LLMಗಳಿಗಾಗಿ Ollama
- ನಿಯೋಜನೆಗಾಗಿ (deployment) Docker
- ರಿಯಲ್-ಟೈಮ್ ಸ್ಟ್ರೀಮಿಂಗ್ಗಾಗಿ WebFlux
ಆರ್ಕಿಟೆಕ್ಚರ್ (Architecture): • ಬಳಕೆದಾರರು Rest API ಮೂಲಕ ಪ್ರಾಂಪ್ಟ್ ಕಳುಹಿಸುತ್ತಾರೆ. • MCP Client, LLM ಜೊತೆ ಮಾತನಾಡಲು Spring AI ಅನ್ನು ಬಳಸುತ್ತದೆ. • LLM ವಿನಂತಿಯನ್ನು ಸ್ಥಳೀಯವಾಗಿ ಪ್ರಕ್ರಿಯೆಗೊಳಿಸಲು Ollama ಅನ್ನು ಬಳಸುತ್ತದೆ. • ಒಂದು ವೇಳೆ LLM ಕ್ರಮ ತೆಗೆದುಕೊಳ್ಳಬೇಕಾದಲ್ಲಿ, ಅದು MCP Server ಅನ್ನು ಕರೆಯುತ್ತದೆ. • MCP Server ಪರಿಕರವನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸುತ್ತದೆ ಮತ್ತು ಡೇಟಾವನ್ನು ಹಿಂತಿರುಗಿಸುತ್ತದೆ.
ಇದರೊಂದಿಗೆ ನೀವು ಏನನ್ನು ನಿರ್ಮಿಸಬಹುದು:
- ಪರಿಕರಗಳು (Tools): ಹವಾಮಾನವನ್ನು ಪಡೆಯುವುದು ಅಥವಾ ಡೇಟಾಬೇಸ್ಗಳನ್ನು ಹುಡುಕುವಂತಹ ಕ್ರಮಗಳು.
- ಸಂಪನ್ಮೂಲಗಳು (Resources): ದಾಖಲೆಗಳು ಅಥವಾ ಕಾನ್ಫಿಗರೇಶನ್ ಫೈಲ್ಗಳಂತಹ ಡೇಟಾ.
- ಪ್ರಾಂಪ್ಟ್ಗಳು (Prompts): AI ಅನ್ನು ಮಾರ್ಗದರ್ಶನ ಮಾಡಲು ಮರುಬಳಕೆ ಮಾಡಬಹುದಾದ ಟೆಂಪ್ಲೇಟ್ಗಳು.
ಈ ಯೋಜನೆಯಲ್ಲಿ, ಮಾದರಿಯು ಕಡಿಮೆ ಮೌಲ್ಯದ ಆಸ್ತಿಗಳನ್ನು (undervalued properties) ಹುಡುಕಲು ಒಂದು ಪರಿಕರವನ್ನು ಬಳಸುತ್ತದೆ. ಇದು ಸ್ಟ್ರೀಮ್ ಮೂಲಕ ರಿಯಲ್-ಟೈಮ್ ಫಲಿತಾಂಶಗಳನ್ನು ನೀಡುತ್ತದೆ. ನೀವು Docker ಮತ್ತು Granite4:3b ಮಾದರಿಯನ್ನು ಬಳಸಿ ಇಡೀ ಸೆಟಪ್ ಅನ್ನು ಸ್ಥಳೀಯವಾಗಿ ಚಲಾಯಿಸಬಹುದು.
GitHub ನಲ್ಲಿ ಪೂರ್ಣ ಕೋಡ್ ಮತ್ತು ಹಂತ-ಹಂತದ ಮಾರ್ಗದರ್ಶಿಯನ್ನು ಪರಿಶೀಲಿಸಿ.
ಮೂಲ (Source): https://dev.to/jlcastrillon91/building-an-mcp-server-and-client-with-spring-ai-and-ollama-ccl
ಐಚ್ಛಿಕ ಕಲಿಕಾ ಸಮುದಾಯ (Optional learning community): https://t.me/GyaanSetuAi