בניית MCP Server ו-Client באמצעות Spring AI ו-Ollama

מודלי AI צריכים לעשות יותר מאשר רק לענות על שאלות. הם צריכים לתקשר עם מערכות חיצוניות ולבצע פעולות אמיתיות.

ה-Model Context Protocol (MCP) הופך זאת לאפשרי. זהו פרוטוקול פתוח המאפשר לאפליקציות AI לשתף כלים, נתונים ו-prompts באמצעות שפה משותפת.

בניתי מערכת מלאה באמצעות:

  • Java 17 ו-Spring Boot
  • Spring AI 1.0.0
  • Ollama עבור LLMs מקומיים
  • Docker לפריסה (deployment)
  • WebFlux עבור streaming בזמן אמת

הארכיטקטורה: • המשתמש שולח prompt דרך Rest API. • ה-MCP Client משתמש ב-Spring AI כדי לתקשר עם ה-LLM. • ה-LLM משתמש ב-Ollama כדי לעבד את הבקשה באופן מקומי. • אם ה-LLM צריך לבצע פעולה, הוא קורא ל-MCP Server. • ה-MCP Server מריץ את הכלי ומחזיר את הנתונים.

מה ניתן לבנות עם זה:

  • כלים (Tools): פעולות כמו שליפת מזג אוויר או חיפוש במסדי נתונים.
  • משאבים (Resources): נתונים כמו מסמכים או קבצי הגדרה (config files).
  • Prompts: תבניות ניתנות לשימוש חוזר להנחיית ה-AI.

בפרויקט זה, המודל משתמש בכלי כדי למצוא נכסים מתחת לשווי השוק. הוא מחזיר תוצאות בזמן אמת דרך stream. ניתן להריץ את כל המערכת באופן מקומי באמצעות Docker ומודל Granite4:3b.

בדקו את הקוד המלא ואת המדריך צעד אחר צעד ב-GitHub.

מקור: https://dev.to/jlcastrillon91/building-an-mcp-server-and-client-with-spring-ai-and-ollama-ccl

קהילת למידה אופציונלית: https://t.me/GyaanSetuAi