Создание MCP-сервера и клиента с использованием Spring AI и Ollama

Модели ИИ должны делать больше, чем просто отвечать на вопросы. Им необходимо взаимодействовать с внешними системами и выполнять реальные действия.

Model Context Protocol (MCP) делает это возможным. Это открытый протокол, который позволяет ИИ-приложениям обмениваться инструментами, данными и промптами, используя общий язык.

Я создал полноценную систему, используя:

  • Java 17 и Spring Boot
  • Spring AI 1.0.0
  • Ollama для локальных LLM
  • Docker для развертывания
  • WebFlux для потоковой передачи данных в реальном времени

Архитектура: • Пользователь отправляет промпт через REST API. • MCP Client использует Spring AI для общения с LLM. • LLM использует Ollama для локальной обработки запроса. • Если LLM требуется совершить действие, она вызывает MCP Server. • MCP Server выполняет инструмент и возвращает данные.

Что можно создать с помощью этого:

  • Инструменты (Tools): Действия, такие как получение погоды или поиск в базах данных.
  • Ресурсы (Resources): Данные, такие как документы или конфигурационные файлы.
  • Промпты (Prompts): Повторно используемые шаблоны для управления ИИ.

В этом проекте модель использует инструмент для поиска недооцененной недвижимости. Она возвращает результаты в реальном времени через поток. Вы можете запустить всю систему локально, используя Docker и модель Granite4:3b.

Изучите полный код и пошаговое руководство на GitHub.

Источник: https://dev.to/jlcastrillon91/building-an-mcp-server-and-client-with-spring-ai-and-ollama-ccl

Опциональное обучающее сообщество: https://t.me/GyaanSetuAi