使用 Spring AI 和 Ollama 构建 MCP 服务端与客户端

AI 模型不应仅仅局限于回答问题。它们需要与外部系统进行交互并执行实际操作。

Model Context Protocol (MCP) 让这一切成为可能。它是一种开放协议，允许 AI 应用使用通用语言来共享工具、数据和提示词 (prompts)。

我使用以下技术构建了一个完整的系统：

  • Java 17 和 Spring Boot
  • Spring AI 1.0.0
  • 用于本地 LLM 的 Ollama
  • 用于部署的 Docker
  • 用于实时流传输的 WebFlux

架构设计： • 用户通过 Rest API 发送提示词。 • MCP Client 使用 Spring AI 与 LLM 进行通信。 • LLM 使用 Ollama 在本地处理请求。 • 如果 LLM 需要采取行动，它会调用 MCP Server。 • MCP Server 执行工具并返回数据。

你可以用它构建：

  • 工具 (Tools)：如获取天气或搜索数据库等操作。
  • 资源 (Resources)：如文档或配置文件等数据。
  • 提示词 (Prompts)：用于引导 AI 的可重用模板。

在这个项目中，模型使用一个工具来寻找被低估的房产。它通过流 (stream) 返回实时结果。你可以使用 Docker 和 Granite4:3b 模型在本地运行整个设置。

请在 GitHub 上查看完整代码和分步指南。

来源：https://dev.to/jlcastrillon91/building-an-mcp-server-and-client-with-spring-ai-and-ollama-ccl

可选学习社区：https://t.me/GyaanSetuAi