Ollama Generate 端点

POST /api/generate 是 Ollama 最基础的推理端点：给一段提示词，返回续写结果。它没有对话概念，不维护多轮历史——需要对话请用 13.9 Ollama Chat 端点。

版本基线 v0.40.12，官方 docs.ollama.com/api/generate。

一、最小调用

curl http://localhost:11434/api/generate -d '{
  "model": "gemma4",
  "prompt": "Why is the sky blue?"
}'

返回：

{
  "model": "gemma4",
  "created_at": "2025-10-17T23:14:07.414671Z",
  "response": "Hello! How can I help you today?",
  "done": true,
  "done_reason": "stop",
  "total_duration": 174560334,
  "load_duration": 101397084,
  "prompt_eval_count": 11,
  "prompt_eval_duration": 13074791,
  "eval_count": 18,
  "eval_duration": 52479709
}

注意这是默认关闭流式后的形态。默认 stream: true，会返回 NDJSON 流。

二、请求字段

suffix 的用途

这是给 FIM（fill-in-the-middle）模型补中间内容用的。假设代码是 def foo(): <缺口> return x，把前文放 prompt、后文放 suffix，模型补中间。不搞代码补全的话用不到。

think 的取值规则

• true：请求思考输出
• false：不要思考输出
• null：用模型默认
• 字符串：模型自定义的档位名，必须与 /api/show 返回的完全一致
• 不支持数字

三、响应字段

指标的详细用法见 13.4 Ollama API 用量。

四、三个实用场景

结构化输出

curl http://localhost:11434/api/generate -d '{
  "model": "gemma4",
  "prompt": "列出三种常见排序算法的名称和时间复杂度",
  "format": {
    "type": "object",
    "properties": {
      "algorithms": {
        "type": "array",
        "items": {
          "type": "object",
          "properties": {
            "name": {"type": "string"},
            "complexity": {"type": "string"}
          },
          "required": ["name", "complexity"]
        }
      }
    },
    "required": ["algorithms"]
  },
  "stream": false
}'

format 传 schema 后，response 里就是符合该结构的 JSON 字符串。

控制上下文长度

curl http://localhost:11434/api/generate -d '{
  "model": "gemma4",
  "prompt": "长文本分析……",
  "options": { "num_ctx": 16384 }
}'

用完立刻释放显存

curl http://localhost:11434/api/generate -d '{
  "model": "gemma4",
  "prompt": "hi",
  "keep_alive": 0
}'

五、和 /api/chat 怎么选

简单判断：需要记住上下文的，一律用 chat。用 generate 自己拼历史容易出模板错误。

常见问题

动手试

## ① 非流式，看完整结构
curl -s http://localhost:11434/api/generate -d '{"model":"gemma4","prompt":"hi","stream":false}' | python -m json.tool

## ② 流式，看 NDJSON 形态
curl http://localhost:11434/api/generate -d '{"model":"gemma4","prompt":"数到5"}'

两次对比，就明白 stream 到底改了什么。