Ollama 运行你的第一个模型
安装好 Ollama 之后(见 1.1 安装 Ollama),最直观的体验就是让它在你的电脑上跑起来一个开源大模型并和它对话。本节以官方 Quickstart 当前的默认示例模型 gemma4:e2b(约 7.2 GB,建议 8 GB 可用显存或 Mac 统一内存)为例,带你完成第一次交互式对话、一次性问答,以及常用的模型运行管理命令。所有命令均在本地执行,不需要联网申请 API 密钥。
一、交互式运行一个模型
## 拉取并运行 gemma4:e2b,自动进入交互式聊天界面
## 首次运行会从 ollama.com 下载模型权重(约 7.2 GB,只需联网这一次)
ollama run gemma4:e2b
运行后终端会出现 >>> 提示符,直接输入问题并回车即可对话:
>>> 用一句话介绍一下你自己。
I'm Gemma, a lightweight open model by Google, now running on your local machine……
输入 /bye 或按 Ctrl+D 退出交互界面。
提示:示例模型
gemma4:e2b是当前官方 Quickstart 的默认示例。你也可以换成llama3.2、qwen2.5、deepseek-r1等。模型标签会随版本更新,运行ollama run后按Tab可补全,或到 ollama.com/library 浏览全部可用模型。中国模型(Kimi / GLM / MiniMax / DeepSeek / Qwen)在模型库中占多数,本地化场景优先。
二、一次问答(非交互模式)
不想进入交互界面时,可以把问题作为命令参数直接传入,Ollama 返回一次结果后自动退出:
## 把提示词作为参数传入,适合脚本调用或快速验证
ollama run gemma4:e2b "用一句话解释什么是本地大模型推理。"
三、常用运行管理命令
下列命令以 Ollama 官方 CLI 参考(
https://docs.ollama.com/cli)为权威来源。注意新版已将ollama list重命名为ollama ls。
## 列出本地下载过的所有模型及其体积、修改时间(新版命令为 ls)
ollama ls
## 仅拉取模型权重而不进入对话(便于提前准备,避免首次对话时等待下载)
ollama pull gemma4:e2b
## 查看当前常驻内存、正在运行的模型及其资源占用
## SIZE / PROCESSOR 列会显示模型加载在 GPU 还是 CPU
ollama ps
## 停止一个正在运行的模型,立即释放其占用的内存
ollama stop gemma4:e2b
## 删除本地模型,释放磁盘空间
ollama rm gemma4:e2b
四、失败处理与排查
- 提示模型不存在 / 首次下载很慢:
ollama run会自动下载权重;国内网络访问ollama.com可能较慢,可耐心等待或配置代理后重试,下载进度会显示在终端。 ollama: command not found:说明 Ollama 未正确安装或不在 PATH 中,回到 1.1 安装 Ollama 重新安装并重启终端。- 后续用 API 时连不上本地服务:本地服务默认地址
http://localhost:11434。需先确保 Ollama 已在后台运行——桌面端通常会自动启动,若服务未起可用ollama serve手动启动(Linux 还需先ollama serve)。 - 显存 / 内存不足导致加载失败:大模型对内存有要求。若加载失败,尝试更小尺寸的标签(如
qwen2.5:1.5b、qwen2.5:0.5b)对比资源占用与响应速度。
五、动手试
- 运行
ollama run gemma4:e2b,让它「用 Python 写一个快速排序」并解释每行作用。 - 退出后用
ollama ls确认模型已保存在本地。 - 换一个更小模型
ollama run qwen2.5:1.5b,对比响应速度与资源占用。
下一节(1.3 Ollama 用 API 构建应用)介绍如何用 curl、Python、JavaScript 调用 Ollama 的 API;想接桌面应用或编码代理见 1.4 Ollama 连接桌面应用 与 1.5 Ollama 使用编码代理。

TRAE-AI编程


更多建议: