Spring AI અને Ollama સાથે MCP Server અને Client બનાવવું

AI મોડલ્સ માત્ર પ્રશ્નોના જવાબ આપવા કરતાં વધુ કંઈક કરી શકવા જોઈએ. તેઓએ બાહ્ય સિસ્ટમ્સ સાથે વાતચીત કરવાની અને વાસ્તવિક ક્રિયાઓ કરવાની જરૂર છે.

Model Context Protocol (MCP) આ શક્ય બનાવે છે. તે એક ઓપન પ્રોટોકોલ છે જે AI એપ્લિકેશન્સને સામાન્ય ભાષાનો ઉપયોગ કરીને ટૂલ્સ, ડેટા અને પ્રોમ્પ્ટ્સ શેર કરવાની મંજૂરી આપે છે.

મેં નીચેની વસ્તુઓનો ઉપયોગ કરીને એક સંપૂર્ણ સિસ્ટમ બનાવી છે:

  • Java 17 અને Spring Boot
  • Spring AI 1.0.0
  • સ્થાનિક LLMs માટે Ollama
  • ડિપ્લોયમેન્ટ માટે Docker
  • રીઅલ-ટાઇમ સ્ટ્રીમિંગ માટે WebFlux

આર્કિટેક્ચર: • યુઝર Rest API દ્વારા પ્રોમ્પ્ટ મોકલે છે. • MCP Client, LLM સાથે વાત કરવા માટે Spring AI નો ઉપયોગ કરે છે. • LLM વિનંતીને સ્થાનિક રીતે પ્રોસેસ કરવા માટે Ollama નો ઉપયોગ કરે છે. • જો LLM ને કોઈ ક્રિયા કરવાની જરૂર હોય, તો તે MCP Server ને કોલ કરે છે. • MCP Server ટૂલ એક્ઝિક્યુટ કરે છે અને ડેટા પરત કરે છે.

તમે આના દ્વારા શું બનાવી શકો છો:

  • ટૂલ્સ (Tools): હવામાન મેળવવું અથવા ડેટાબેઝ શોધવા જેવી ક્રિયાઓ.
  • રિસોર્સિસ (Resources): ડોક્યુમેન્ટ્સ અથવા કોન્ફિગ ફાઇલો જેવો ડેટા.
  • પ્રોમ્પ્ટ્સ (Prompts): AI ને માર્ગદર્શન આપવા માટે ફરીથી ઉપયોગ કરી શકાય તેવા ટેમ્પલેટ્સ.

આ પ્રોજેક્ટમાં, મોડલ ઓછી કિંમતની પ્રોપર્ટીઝ (undervalued properties) શોધવા માટે ટૂલનો ઉપયોગ કરે છે. તે સ્ટ્રીમ દ્વારા રીઅલ-ટાઇમ પરિણામો પરત કરે છે. તમે Docker અને Granite4:3b મોડલનો ઉપયોગ કરીને આખું સેટઅપ સ્થાનિક રીતે ચલાવી શકો છો.

GitHub પર સંપૂર્ણ કોડ અને સ્ટેપ-બાય-સ્ટેપ ગાઈડ તપાસો.

Source: https://dev.to/jlcastrillon91/building-an-mcp-server-and-client-with-spring-ai-and-ollama-ccl

વૈકલ્પિક લર્નિંગ કોમ્યુનિટી: https://t.me/GyaanSetuAi