2026年10月1日，Cloudflare 发布了 Clef 和 Clef-flash，这是两款以 Apache 2.0 许可证发布的开源"决策模型"。该模型不会自由撰写回复。它读取输入，从您事先定义的答案列表中进行选择，并为每个选项返回一个概率。较轻量的 Clef-flash 基于 9B 参数的 Qwen 3.5 模型构建，中位响应时间为 38.8 毫秒。精度更高的 Clef 基于 27B 参数的 Qwen 3.8 模型构建，中位数为 209.3 毫秒。两者都可在 Workers AI 上使用，其权重也已在 Hugging Face 上发布，可供自行托管。

客户服务中的大部分 AI 实际上是在做分类：是投诉还是订单？紧急还是不紧急？许多团队为此使用通用聊天模型，得到的回答更慢，而且每次运行的结果可能都不一样。

决策模型到底是什么

Cloudflare 将决策模型描述为能够"低成本、快速且一致地"产生有界结构化输出的模型。它将其与大语言模型进行对比，并称后者在很大程度上是非确定性的。

根据 Hugging Face 上的模型卡，您需要发送一个描述情况的"状态"，形式为文本或 JSON，必要时附上图片或视频，然后发送一组问题，每个问题都带有允许的选项。模型为每个选项返回一个概率，不生成自由文本。Cloudflare 表示，您的代码可以利用这些概率来分流工单、触发升级处理，或把决定交给人工。

Cloudflare 公布的数据

  • 能力：根据公告，上下文窗口为 64k 个 token（模型卡将默认输入上限设为 16,384 个 token，可以修改），两个版本都能读取并分类图片。
  • 中位延迟：Clef-flash 为 38.8 毫秒，Clef 为 209.3 毫秒，而 Typesafe AI 的竞品模型 Jev 为 524.1 毫秒。
  • 内部测试：在 Cloudflare 的威胁情报团队中，使用 Clef 抓取、渲染并分类一个网站耗时 2.2 秒，而使用该团队最快的通用 LLM gpt-oss-120b 则耗时 4.7 秒，且只返回了两个分类结果。
  • 最慢的请求：使用 Clef-flash 时，95% 的请求在 122.4 毫秒内完成；使用 Clef 时，在 238.6 毫秒内完成。

在 CLINC150（一项同时检查超出范围请求的意图分类测试）上，Clef 的 macro-F1 得分为 97.43，而 Clef-flash 为 66.77。在涵盖银行客户咨询的 BANKING77 上，两者接近：94.20 对 90.93；在 API-Bank 上，Clef-flash 以 93.11 的准确率领先，对比 91.93。因此 Cloudflare 将 Clef 称为其精度模型，而将 Clef-flash 称为更适合对延迟要求严格的决策。差距最大的情况出现在必须识别超出范围请求的时候。

这对沙特企业有什么帮助

Cloudflare 列举的用例包括按紧急程度和团队分流支持工单、为其威胁情报团队分类网站域名，以及区分好机器人和坏机器人，而发票处理和安全事件也出现在其测试中。在一家沙特企业中，具体是这样的：

  • WhatsApp 分拣：每条消息都会被即时归类为订单、投诉、价格咨询或垃圾信息，然后发送给合适的员工。
  • 支持工单：在任何员工打开工单之前，就确定紧急程度和负责部门。
  • ERP 中的单据：识别收到的单据类型，无论是供应商发票、采购订单还是贷项通知单，并将其送入正确的流程。
  • 保护表单和商店：识别联系表单和电商商店中的自动注册和自动下单。

在自己的服务器上运行，让数据留在王国境内

对沙特市场来说，最重要的特性不是速度，而是权重已经公开、可以在王国境内运行。客户消息和供应商发票包含个人数据和商业数据，而《个人数据保护法》（PDPL）对将个人数据转移到王国境外设有管控。在本地数据中心运行的模型，可以在分类任务中避开跨境传输问题，但该法律的其他义务仍然适用。模型卡称其在单块 H200 GPU 上完成了测试，因此请尽早规划硬件。

开始之前需要了解的局限

  • 未提及阿拉伯语：公告和模型卡都没有列出支持的语言。请用沙特方言的真实阿拉伯语消息进行测试。
  • 公告中没有价格：Cloudflare 在博客文章中没有公布在 Workers AI 上使用这两个模型的费用，因此在估算成本之前请查看定价页面。
  • 定制尚不支持自助：目前用强化学习根据您的数据调整模型，需要通过 Cloudflare 的工程师团队完成，自助平台将在稍后推出。

如何一步步用它构建系统

  • 盘点您的决策：找出系统中每一个答案有限的问题。
  • 收集真实样本：员工过去手工分类过的消息和工单。
  • 比较三种方案：Clef-flash、Clef 和您现有的方案，比较准确率和响应时间。
  • 设定置信度阈值：如果最高选项的概率很高，系统自动执行；如果很低，就把案例交给员工。
  • 分工协作：决策模型选择路径，大语言模型只在需要时撰写回复。

Origami 在构建客户服务和流程自动化系统时采用这种模式：小模型做决定，大模型负责撰写，员工审核不明确的案例。Clef 模型让第一部分变得更容易，而且这部分可以留在王国境内。

来源