Ollama Windows 安装与部署
Windows 版是原生应用,不需要 WSL,装完就在后台跑,cmd、PowerShell 或任何终端里都能直接用 ollama 命令,API 照旧在 http://localhost:11434。
安装不需要管理员权限——它装在当前用户目录下。这是好事,但也带来一个常见困惑:别的用户账户看不到这个安装。
版本基线 v0.40.12,官方
docs.ollama.com/windows。
一、系统要求
| 项 | 要求 |
|---|---|
| 系统版本 | Windows 10 22H2 或更新(家庭版 / 专业版均可) |
| NVIDIA 显卡 | 驱动 551.61 或更新 |
| AMD 显卡 | ROCm v7 / HIP7 驱动栈,或支持 Vulkan 的 Radeon 驱动 |
两个细节值得注意:
终端显示方块。 Ollama 用 Unicode 字符画进度条,Win10 上某些老终端字体渲染不出来,会显示成一堆方块。改终端的字体设置即可,不影响功能。
部分 RX 6000 系列在 Windows 上拿不到 ROCm v7。 官方点名了 RX 6800 级别的卡。这类机器上 Vulkan 默认启用,是推荐的替代路径,性能通常也够用。
如果系统同时有核显和独显,Vulkan 有时会挑到不稳定的核显上。这时手动指定显卡序号:
## 把 Vulkan 绑定到独显(索引按你机器的实际情况填)
$env:GGML_VK_VISIBLE_DEVICES = "1"
二、安装
运行 OllamaSetup.exe。安装过程不需要管理员权限,默认装到用户目录,二进制本体约占 4 GB。装完托盘区出现 Ollama 图标,服务已在后台运行。
验证一下:
ollama -v
三、装到别的盘 / 换个位置
改程序安装位置,用 /DIR 参数:
OllamaSetup.exe /DIR="d:\some\location"
改模型存储位置,设用户环境变量 OLLAMA_MODELS:
- 打开设置(Win11)或控制面板(Win10),搜索「环境变量」
- 点击「编辑账户的环境变量」
- 为用户变量新建或修改
OLLAMA_MODELS,值填目标目录 - 确定保存
⚠️ 改完必须重启应用才生效:如果 Ollama 正在运行,先从托盘退出,再从开始菜单重新启动;或者保存环境变量后新开一个终端。
模型的默认位置是 %HOMEPATH%\.ollama。C 盘吃紧时这一步很关键——模型动辄几十到上百 GB。
四、用 PowerShell 直接调 API
Windows 下不装任何额外工具就能测 API:
## 发一个非流式请求,把返回的 JSON 转成对象
(Invoke-WebRequest -method POST `
-Body '{"model":"llama3.2", "prompt":"Why is the sky blue?", "stream": false}' `
-uri http://localhost:11434/api/generate
).Content | ConvertFrom-json
ConvertFrom-json 这步别省——不加的话输出是一整串转义过的字符串,没法读。
五、文件都在哪:四个路径记住
排查问题时按 Ctrl+R 打开运行框,粘贴下面任一路径:
| 命令 | 内容 |
|---|---|
explorer %LOCALAPPDATA%\Ollama |
日志与已下载的更新 |
explorer %LOCALAPPDATA%\Programs\Ollama |
程序二进制(安装器已加入用户 PATH) |
explorer %HOMEPATH%\.ollama |
模型与配置 |
explorer %TEMP% |
临时可执行文件(ollama* 目录) |
日志目录里三个文件的区别:
app.log—— 图形应用最近日志(启动、托盘、更新提示)server.log—— 服务端最近日志(模型加载、显存分配、推理报错)upgrade.log—— 升级过程日志
「模型跑不动」看 server.log,「更新失败」看 upgrade.log,看错文件会白找半天。
六、卸载
Windows 安装器注册了标准卸载入口:设置 → 应用 → 安装的应用 → 找到 Ollama → 卸载。
⚠️ 官方明确说明:如果你改过 OLLAMA_MODELS 的位置,卸载器不会删除那些模型文件。想彻底清理磁盘,需要手动去那个目录删。
这其实是好事——多数人重装时希望保留模型。但如果你是想腾空间,得自己去删。
七、想当系统服务跑:用独立 CLI 包
默认安装是「用户级应用 + 托盘」,登录后才启动。如果你需要开机即启动、不依赖用户登录(比如做内网服务器),用独立 CLI 包:
下载 ollama-windows-amd64.zip(只含 CLI 与 NVIDIA GPU 库),按硬件情况补装额外包:
- AMD 显卡:
ollama-windows-amd64-rocm.zip - MLX(CUDA):
ollama-windows-amd64-mlx.zip
解压到同一目录,然后配 NSSM 之类工具把 ollama serve 注册成服务。官方明确说明这条路径适合「嵌入现有应用或作为系统服务运行」。
从旧版本升级到这种部署方式时,先把旧目录删掉再解压,否则可能残留旧版 DLL。
八、Windows 上的三个实用提醒
别在 C 盘塞模型。 默认 %HOMEPATH%\.ollama 在 C 盘,一个 30B 模型就能吃掉 20 GB。装完第一件事就是改 OLLAMA_MODELS。
防火墙提示要点允许。 首次启动可能弹防火墙询问。只在本机用可以拒绝外部访问,但别直接关掉防火墙——Ollama API 没有鉴权,暴露出去等于谁都能调你的模型。
显存不够会自动降级到 CPU。 表现是「能用但特别慢」。用 ollama ps 看 PROCESSOR 列,如果出现 CPU 百分比,就该换小一点的模型或量化版本了。
其他平台见 7.1 Ollama Linux 安装与部署、7.2 Ollama macOS 安装与部署;容器部署见 7.4 Ollama Docker 部署。

TRAE-AI编程


更多建议: