Ollama 运行你的第一个模型

2026-10-29 18:17 更新

安装好 Ollama 之后(见 1.1 安装 Ollama),最直观的体验就是让它在你的电脑上跑起来一个开源大模型并和它对话。本节以官方 Quickstart 当前的默认示例模型 gemma4:e2b(约 7.2 GB,建议 8 GB 可用显存或 Mac 统一内存)为例,带你完成第一次交互式对话、一次性问答,以及常用的模型运行管理命令。所有命令均在本地执行,不需要联网申请 API 密钥。

一、交互式运行一个模型

## 拉取并运行 gemma4:e2b,自动进入交互式聊天界面
## 首次运行会从 ollama.com 下载模型权重(约 7.2 GB,只需联网这一次)
ollama run gemma4:e2b

运行后终端会出现 >>> 提示符,直接输入问题并回车即可对话:

>>> 用一句话介绍一下你自己。
I'm Gemma, a lightweight open model by Google, now running on your local machine……

输入 /bye 或按 Ctrl+D 退出交互界面。

提示:示例模型 gemma4:e2b 是当前官方 Quickstart 的默认示例。你也可以换成 llama3.2、qwen2.5、deepseek-r1 等。模型标签会随版本更新,运行 ollama run 后按 Tab 可补全,或到 ollama.com/library 浏览全部可用模型。中国模型(Kimi / GLM / MiniMax / DeepSeek / Qwen)在模型库中占多数,本地化场景优先。

二、一次问答(非交互模式)

不想进入交互界面时,可以把问题作为命令参数直接传入,Ollama 返回一次结果后自动退出:

## 把提示词作为参数传入,适合脚本调用或快速验证
ollama run gemma4:e2b "用一句话解释什么是本地大模型推理。"

三、常用运行管理命令

下列命令以 Ollama 官方 CLI 参考(https://docs.ollama.com/cli)为权威来源。注意新版已将 ollama list 重命名为 ollama ls。

## 列出本地下载过的所有模型及其体积、修改时间(新版命令为 ls)
ollama ls

## 仅拉取模型权重而不进入对话(便于提前准备,避免首次对话时等待下载)
ollama pull gemma4:e2b

## 查看当前常驻内存、正在运行的模型及其资源占用
## SIZE / PROCESSOR 列会显示模型加载在 GPU 还是 CPU
ollama ps

## 停止一个正在运行的模型,立即释放其占用的内存
ollama stop gemma4:e2b

## 删除本地模型,释放磁盘空间
ollama rm gemma4:e2b

四、失败处理与排查

  • 提示模型不存在 / 首次下载很慢:ollama run 会自动下载权重;国内网络访问 ollama.com 可能较慢,可耐心等待或配置代理后重试,下载进度会显示在终端。
  • ollama: command not found:说明 Ollama 未正确安装或不在 PATH 中,回到 1.1 安装 Ollama 重新安装并重启终端。
  • 后续用 API 时连不上本地服务:本地服务默认地址 http://localhost:11434。需先确保 Ollama 已在后台运行——桌面端通常会自动启动,若服务未起可用 ollama serve 手动启动(Linux 还需先 ollama serve)。
  • 显存 / 内存不足导致加载失败:大模型对内存有要求。若加载失败,尝试更小尺寸的标签(如 qwen2.5:1.5b、qwen2.5:0.5b)对比资源占用与响应速度。

五、动手试

  1. 运行 ollama run gemma4:e2b,让它「用 Python 写一个快速排序」并解释每行作用。
  2. 退出后用 ollama ls 确认模型已保存在本地。
  3. 换一个更小模型 ollama run qwen2.5:1.5b,对比响应速度与资源占用。

下一节(1.3 Ollama 用 API 构建应用)介绍如何用 curl、Python、JavaScript 调用 Ollama 的 API;想接桌面应用或编码代理见 1.4 Ollama 连接桌面应用 与 1.5 Ollama 使用编码代理。

以上内容是否对您有帮助:
在线笔记
App下载
App下载

扫描二维码

下载编程狮App

公众号
微信公众号

编程狮公众号