Створення MCP-сервера та клієнта за допомогою Spring AI та Ollama
ШІ-моделі мають робити більше, ніж просто відповідати на запитання. Вони повинні взаємодіяти із зовнішніми системами та виконувати реальні дії.
Model Context Protocol (MCP) робить це можливим. Це відкритий протокол, який дозволяє ШІ-додаткам спільно використовувати інструменти, дані та промпти за допомогою спільної мови.
Я побудував повноцінну систему, використовуючи:
- Java 17 та Spring Boot
- Spring AI 1.0.0
- Ollama для локальних LLM
- Docker для розгортання
- WebFlux для стрімінгу в реальному часі
Архітектура: • Користувач надсилає промпт через Rest API. • MCP Client використовує Spring AI для спілкування з LLM. • LLM використовує Ollama для локальної обробки запиту. • Якщо LLM потрібно виконати дію, вона викликає MCP Server. • MCP Server виконує інструмент і повертає дані.
Що ви можете створити за допомогою цього:
- Інструменти (Tools): Дії, такі як отримання погоди або пошук у базах даних.
- Ресурси (Resources): Дані, такі як документи або конфігураційні файли.
- Промпти (Prompts): Багаторазові шаблони для керування ШІ.
У цьому проєкті модель використовує інструмент для пошуку недооціненої нерухомості. Вона повертає результати в реальному часі через стрім. Ви можете запустити всю систему локально за допомогою Docker та моделі Granite4:3b.
Перегляньте повний код та покроковий посібник на GitHub.
Джерело: https://dev.to/jlcastrillon91/building-an-mcp-server-and-client-with-spring-ai-and-ollama-ccl
Додаткова спільнота для навчання: https://t.me/GyaanSetuAi_