Spring AI और Ollama के साथ एक MCP Server और Client बनाना
AI मॉडल्स को केवल सवालों के जवाब देने से कहीं अधिक करना चाहिए। उन्हें बाहरी सिस्टम के साथ इंटरैक्ट करने और वास्तविक कार्य करने की आवश्यकता है।
Model Context Protocol (MCP) इसे संभव बनाता है। यह एक ओपन प्रोटोकॉल है जो AI एप्लिकेशन को एक सामान्य भाषा का उपयोग करके टूल्स, डेटा और प्रॉम्प्ट्स साझा करने की अनुमति देता है।
मैंने इनका उपयोग करके एक संपूर्ण सिस्टम बनाया है:
- Java 17 और Spring Boot
- Spring AI 1.0.0
- स्थानीय LLMs के लिए Ollama
- डिप्लॉयमेंट के लिए Docker
- रियल-टाइम स्ट्रीमिंग के लिए WebFlux
आर्किटेक्चर (Architecture): • यूजर Rest API के माध्यम से एक प्रॉम्प्ट भेजता है। • MCP Client, LLM से बात करने के लिए Spring AI का उपयोग करता है। • LLM अनुरोध को स्थानीय रूप से प्रोसेस करने के लिए Ollama का उपयोग करता है। • यदि LLM को कोई कार्रवाई करने की आवश्यकता होती है, तो वह MCP Server को कॉल करता है। • MCP Server टूल को निष्पादित (execute) करता है और डेटा वापस करता है।
आप इसके साथ क्या बना सकते हैं:
- Tools: मौसम की जानकारी प्राप्त करना या डेटाबेस खोजना जैसे कार्य।
- Resources: दस्तावेज़ या कॉन्फ़िगरेशन फ़ाइलों जैसा डेटा।
- Prompts: AI को निर्देशित करने के लिए पुन: प्रयोज्य (reusable) टेम्पलेट्स।
इस प्रोजेक्ट में, मॉडल कम मूल्य वाली संपत्तियों (undervalued properties) को खोजने के लिए एक टूल का उपयोग करता है। यह एक स्ट्रीम के माध्यम से रियल-टाइम परिणाम देता है। आप Docker और Granite4:3b मॉडल का उपयोग करके पूरे सेटअप को स्थानीय रूप से चला सकते हैं।
GitHub पर पूरा कोड और स्टेप-बाय-स्टेप गाइड देखें।
Source: https://dev.to/jlcastrillon91/building-an-mcp-server-and-client-with-spring-ai-and-ollama-ccl
वैकल्पिक लर्निंग कम्युनिटी: https://t.me/GyaanSetuAi