Spring AI आणि Ollama वापरून MCP Server आणि Client तयार करणे
AI मॉडेल्सनी केवळ प्रश्नांची उत्तरे देणे पुरेसे नाही. त्यांना बाह्य प्रणालींशी (external systems) संवाद साधणे आणि प्रत्यक्ष कृती करणे आवश्यक आहे.
Model Context Protocol (MCP) मुळे हे शक्य होते. हा एक ओपन प्रोटोकॉल आहे जो AI ॲप्लिकेशन्सना एका समान भाषेचा वापर करून टूल्स, डेटा आणि प्रॉम्प्ट्स शेअर करण्यास अनुमती देतो.
मी खालील गोष्टींचा वापर करून एक संपूर्ण सिस्टम तयार केली आहे:
- Java 17 आणि Spring Boot
- Spring AI 1.0.0
- स्थानिक LLMs साठी Ollama
- डिप्लॉयमेंटसाठी Docker
- रिअल-टाइम स्ट्रीमिंगसाठी WebFlux
आर्किटेक्चर (Architecture): • युजर Rest API द्वारे प्रॉम्प्ट पाठवतो. • MCP Client, LLM शी संवाद साधण्यासाठी Spring AI वापरतो. • LLM विनंती स्थानिक पातळीवर (locally) प्रक्रिया करण्यासाठी Ollama वापरतो. • जर LLM ला एखादी कृती करण्याची आवश्यकता असेल, तर ते MCP Server ला कॉल करते. • MCP Server टूल कार्यान्वित (execute) करते आणि डेटा परत करते.
तुम्ही याच्या मदतीने काय तयार करू शकता:
- टूल्स (Tools): हवामान तपासणे किंवा डेटाबेस शोधणे यांसारख्या कृती.
- रिसोर्सेस (Resources): डॉक्युमेंट्स किंवा कॉन्फिग फाइल्ससारखा डेटा.
- प्रॉम्प्ट्स (Prompts): AI ला मार्गदर्शन करण्यासाठी पुन्हा वापरण्यायोग्य टेम्पलेट्स.
या प्रोजेक्टमध्ये, मॉडेल कमी किमतीतील मालमत्ता (undervalued properties) शोधण्यासाठी एका टूलचा वापर करते. हे स्ट्रीमद्वारे रिअल-टाइम रिझल्ट्स देते. तुम्ही Docker आणि Granite4:3b मॉडेल वापरून संपूर्ण सेटअप स्थानिक पातळीवर (locally) चालवू शकता.
पूर्ण कोड आणि स्टेप-बाय-स्टेप गाईड GitHub वर पहा.
स्रोत: https://dev.to/jlcastrillon91/building-an-mcp-server-and-client-with-spring-ai-and-ollama-ccl
ऐच्छिक लर्निंग कम्युनिटी: https://t.me/GyaanSetuAi