我们必须为前沿发展放慢节奏：Amodei 的计划为你带来哪些改变

2026年9月12日，Anthropic 首席执行官呼吁放缓 AI 能力提升的速度，并承诺让独立评估人员进驻公司。以下是你的技术规划中真正需要改变的地方。

Origami 团队编辑团队

2026年9月17日阅读约 8 分钟

本文内容

文章阐述的三个步骤
竞争对手为何如此迅速地表示赞同
你的企业内部真正需要改变什么
值得你投入一个季度关注的四项决策
哪些不会改变
参考来源

喜欢我们发布的内容吗？在 Google 中把 Origami 设为首选来源。

你的规划中有三件事要改变：不要建立在尚未发布的能力之上；确保批准你的 AI 助手的人不是开发它的人；为它配备一个非技术员工也能使用的真正的紧急停止开关。原因是：2026年9月12日，Anthropic 首席执行官 Dario Amodei 发表了一篇题为 "We Must Pace the Frontier"（我们必须为前沿发展放慢节奏）的文章，主张 AI 行业必须放缓提升模型能力的速度，并提出了一个三步计划。Anthropic 承诺执行第一步：在其办公室内安置独立的外部评估人员，给予他们接近员工的访问权限，并允许他们在 Anthropic 不掌握编辑控制权的情况下公布其发现。短短几小时内，Sam Altman 便表示 OpenAI 赞同此举，并将作出同样的承诺。

文章阐述的三个步骤

在实验室内部嵌入评估人员：METR 等独立评估机构获得长期的、员工级别的访问权限，以核实已公布的安全承诺是否真正得到落实、事故是否按要求报告。这是 Anthropic 不等待任何人、独自作出承诺的一步。
民主国家实验室之间的协调：制定共同的安全标准，并就不受控制的进步速度商定限制，同时由政府提供支持，以化解此类协调可能引发的反垄断担忧。在这里，Amodei 提出了"检查点"的设想：如果某个模型达到特定能力，在特定认证确认其具备特定的对齐属性之前不应发布——还可能同时对投入本身设限，例如训练算力，或在内部使用模型来构建其他模型。
全球协调：尝试与非民主国家政府达成谅解，分为逐级升高的四个层级，从针对特定应用的有限禁令一直到全面暂停开发，并明确承认核查合规将有多么困难。

Amodei 没有给出放缓的百分比，也没有给出时间表，但他确实表示，在模型达到关键能力水平之前争取"多一两年"的时间，将大大降低风险。同时他强调，进步看起来仍会很快，关键在于明智地利用争取到的时间，而不是停下来。

竞争对手为何如此迅速地表示赞同

速度才是真正的新闻。一个建立在"谁先到达谁就赢"之上的行业，看到其四大巨头在一天之内站到了同一阵线。背景是，Google DeepMind 的 Demis Hassabis 曾在7月14日提议，仿照金融业监管机构 FINRA，设立一个由行业出资、受联邦监督的标准机构，在前沿级模型发布前对其进行最长三十天的测试——起初为自愿，之后作为在美国部署的条件。

而在仅仅两天之后的9月14日，Microsoft 发布了其自研模型行为准则草案，公司 AI 部门负责人 Mustafa Suleyman 称之为一种宪法。其核心规则是：模型绝不能抗拒纠正或关闭，必须以人们能够理解的方式进行沟通，并且必须把任何违反准则的行为视为彻底的失败，而不是边缘情况。该公司开启了为期六周的公众意见征询期，之后计划用最终定稿的准则来训练其下一代模型。

你的企业内部真正需要改变什么

三个具体转变，没有一个需要你等待立法：

不要把计划建立在尚未发布的能力之上。大量停滞的 AI 项目都隐含地依赖一句话："下一个版本会解决这个问题。"如果连实验室的创始人自己都在谈论放缓节奏，那么合理的假设是：你明年所依托的能力，大致就是你今天能看到的能力。请基于真实存在的能力来设计，并亲自对其进行测量。
独立评估人员原则同样适用于你的规模。Anthropic 承诺的核心很简单：构建系统的一方不是认证其安全的一方。在你的企业中，这意味着开发 AI 助手的人不应同时负责批准它在客户面前上线运行。让另一个人或另一个团队用真实案例来测试它，并赋予其说"不"的真正权力。
"不抗拒关闭"的规则可转化为一个真正的紧急停止开关。如果你有一个会发送消息、修改订单或开具发票的 AI 智能体，请问一个问题：一名非技术员工需要多少秒才能将其完全停下？如果答案包含"我们打电话给开发人员"，那么你拥有的不是紧急停止开关——而是一个电话号码。

值得你投入一个季度关注的四项决策

在一页纸上写下你的 AI 系统在无需人工批准的情况下能做的所有事情，然后划掉每一项不可逆的操作：付款、删除、发给外部客户的消息、库存变更。
恰好在这些操作上设置审批关卡，其余部分则放手让它自由运行，以免在消除风险的同时也扼杀了收益。
开启审计日志，记录系统做了什么、何时做的以及基于什么输入——因为任何错误发生后的第一个问题都会是"它为什么这么做？"
提前决定由谁来停止系统、通知谁，并在真正需要之前至少测试一次。

这一方向与沙特王国已经在走的道路一致。沙特数据与人工智能管理局（SDAIA）发布的《人工智能伦理原则》和《个人数据保护法》（PDPL）用不同的表述提出了同样的要求：明确的人工监督、可解释性，以及对自动化决策的清晰问责。你今天为此所做的准备不会白费。

哪些不会改变

不应把这些承诺解读得比实际更重大。它们完全是自愿的，没有具有约束力的核查机制，也没有公布时间表。来自中国的开放权重模型的竞争不受其中任何约束，将继续压低价格、推高能力。而 Amodei 的文章只是一项提议，而非监管规定。其现实意义不在于 AI 将停止进步，而在于将强大模型与你的企业隔开的那一层——即治理、测试和监督——已正式从奢侈品变成了产品的一部分。

在 Origami，我们从第一天起就完全按照这一逻辑为企业构建 AI 系统：对不可逆操作设置审批关卡、完整的审计日志，以及在对话超出系统范围时干净利落地转交给人工。这样做不是因为监管机构提出了要求，而是因为这正是你敢放心摆在客户面前的工具，与你只能提心吊胆盯着的工具之间的区别。