Spring AI Alibaba零基础速成(2) ---- Ollama安装与使用

Spring AI Alibaba零基础速成(2) ---- Ollama安装与使用 Ollama类似于dockerOllama 本地跑大模型的「Docker」让你在家电脑上一键跑 Qwen、Llama、DeepSeek 等开源大模型不上云、隐私可控。1. 安装Ollama下载链接Release v0.24.0 · ollama/ollama · GitHub往下找到这个下载即可把下载好的文件移动到你想安装到的目录里在此目录打开cdm窗口输入命令OllamaSetup.exe /DIR你要安装的目录后续出现安装界面跟着提示点击即可。安装之后再设置一下大模型的安装路径把这个目录下文件复制到新设置的目录C:\Users\你的用户名\.ollama2. 调用Ollama中的大模型导入依赖dependency groupIdorg.springframework.ai/groupId artifactIdspring-ai-starter-model-ollama/artifactId /dependency修改配置ollama默认端口是11434使用方法和之前使用远程大模型一致RestController public class OllamaController { Resource(name ollamaChatModel) ChatModel chatModel; GetMapping(/hello/call) public String call(RequestParam(name msg, defaultValue 你是谁) String msg) { String result chatModel.call(msg); return result; } GetMapping(/hello/stream) public FluxString stream(RequestParam(name msg, defaultValue 你是谁) String msg) { return chatModel.stream(msg); } }