用 Ollama 本地运行 Clef 和 Clef-Flash

Ollama 已经上架 Cloudflare 的两个决策模型。在自己的机器上运行不需要 Cloudflare 账号，也不按 token 计费；代价是你要准备能装下模型的硬件。目前 Ollama 只支持本地运行。

三步跑起来

1. 安装或升级到 Ollama 0.35.1 或更高版本（Clef 读图需要这个版本）。
2. 下载模型：ollama pull clef-flash（约 11 GB）或 ollama pull clef（约 18 GB）。
3. 调用本机接口：

curl http://localhost:11434/v1/systemone -d '{
  "model": "clef-flash",
  "state": "Checkout has been failing for every customer for the last hour.",
  "questions": {
    "urgent": { "type": "noul", "instructions": "Is this support request urgent?" },
    "team": {
      "type": "choice",
      "instructions": "Which team should handle this request?",
      "criteria": { "billing": "Payments and refunds", "technical": "Outages and errors", "sales": "Plans and upgrades" }
    }
  }
}'

返回格式和 Workers AI 基本一致：answers.urgent.noul 是“是”的概率，answers.team 里有 choice、probabilities 和 confidence。

选哪个版本

Ollama 的 System One 接口只支持 GGUF 权重，MLX 版本暂时不能用于决策接口。内存最好比文件大小多留一些余量。

和 Cloudflare Workers AI 的区别

把 Workers AI 请求改成 Ollama 请求

问题定义不用改，只需换地址，并把图片的 data URL 前缀去掉：

// Same questions, two backends. Ollama wants raw base64 images, Workers AI wants data URLs.
const toOllama = body => ({
  model: body.model,                       // "clef-flash" or "clef"
  state: body.state,
  questions: body.questions,
  ...(body.images ? { images: body.images.map(url => url.replace(/^data:[^,]+,/, '')) } : {})
});

const res = await fetch('http://localhost:11434/v1/systemone', {
  method: 'POST',
  headers: { 'Content-Type': 'application/json' },
  body: JSON.stringify(toOllama(workersAiBody))
});
const { answers } = await res.json();

本地还是 Cloudflare？

• 本地 Ollama：数据不出机器、可离线、调用不花钱；需要自己的 GPU 或大内存 Mac，并发和稳定性自己负责。
• Cloudflare Workers AI：不用管机器，按量付费，一条短工单约 $0.000017（Clef-Flash）。适合线上服务和流量不稳定的场景。

下载 11 GB 之前想先看看效果？在在线试用里直接跑，免费 3 次。两个模型的公开评测见 Clef 与 Clef-Flash 对比，接口细节见中文 API 教程。

常见问题

资料来源：ollama.com/library/clef-flash、ollama.com/library/clef、Ollama 决策模型文档与 System One API，核对于 2026-10-03。我们没有在本地实测。