Spring AI এবং Ollama ব্যবহার করে একটি MCP Server এবং Client তৈরি করা

AI মডেলগুলোর শুধু প্রশ্নের উত্তর দিলেই হবে না। তাদের বাহ্যিক সিস্টেমের সাথে যোগাযোগ করতে হবে এবং বাস্তব কাজ সম্পন্ন করতে হবে।

Model Context Protocol (MCP) এটিকে সম্ভব করে তোলে। এটি একটি ওপেন প্রোটোকল যা AI অ্যাপ্লিকেশনগুলোকে একটি সাধারণ ভাষা ব্যবহার করে টুলস, ডেটা এবং প্রম্পট শেয়ার করতে সাহায্য করে।

আমি নিচের বিষয়গুলো ব্যবহার করে একটি সম্পূর্ণ সিস্টেম তৈরি করেছি:

  • Java 17 এবং Spring Boot
  • Spring AI 1.0.0
  • লোকাল LLM-এর জন্য Ollama
  • ডিপ্লয়মেন্টের জন্য Docker
  • রিয়েল-টাইম স্ট্রিমিংয়ের জন্য WebFlux

আর্কিটেকচার (Architecture): • ইউজার একটি Rest API-এর মাধ্যমে প্রম্পট পাঠায়। • MCP Client, LLM-এর সাথে কথা বলার জন্য Spring AI ব্যবহার করে। • LLM লোকালি রিকোয়েস্ট প্রসেস করার জন্য Ollama ব্যবহার করে। • যদি LLM-এর কোনো কাজ করার প্রয়োজন হয়, তবে এটি MCP Server-কে কল করে। • MCP Server টুলটি কার্যকর করে এবং ডেটা ফেরত পাঠায়।

এটি দিয়ে আপনি যা যা তৈরি করতে পারেন:

  • Tools: আবহাওয়া জানা বা ডেটাবেস সার্চ করার মতো কাজ।
  • Resources: ডকুমেন্ট বা কনফিগ ফাইলের মতো ডেটা।
  • Prompts: AI-কে গাইড করার জন্য পুনরায় ব্যবহারযোগ্য টেমপ্লেট।

এই প্রজেক্টে, মডেলটি কম মূল্যের প্রপার্টি (undervalued properties) খুঁজে বের করার জন্য একটি টুল ব্যবহার করে। এটি একটি স্ট্রিমিংয়ের মাধ্যমে রিয়েল-টাইম ফলাফল প্রদান করে। আপনি Docker এবং Granite4:3b মডেল ব্যবহার করে পুরো সেটআপটি লোকালি চালাতে পারেন।

GitHub-এ সম্পূর্ণ কোড এবং ধাপে ধাপে নির্দেশিকা দেখুন।

উৎস: https://dev.to/jlcastrillon91/building-an-mcp-server-and-client-with-spring-ai-and-ollama-ccl

ঐচ্ছিক লার্নিং কমিউনিটি: https://t.me/GyaanSetuAi