跳到正文

用AI开发了应用?SDAIA的Vibe Coding指南:每一行代码在人工审查前都只是草稿

简要回答

SDAIA的Vibe Coding(氛围编程)指南把AI编写的代码视为草稿,直到有人审查:上线应用前应向开发者询问的 4 项风险和 5 个检查点。

Origami 团队

编辑团队 · · 阅读约 7 分钟

分享到 WhatsApp
喜欢我们发布的内容吗?在 Google 中把 Origami 设为首选来源。Add as a preferred source on Google
用AI开发了应用?SDAIA的Vibe Coding指南:每一行代码在人工审查前都只是草稿

如果你的应用、网站或内部系统是用AI工具开发的,或者你的开发者在使用这些工具,那么沙特数据与人工智能管理局(SDAIA)于 2026 年 4 月发布的《Vibe Coding》(氛围编程)指南定下了一条清晰的规则:AI生成的一切都是未经批准的草稿,直到有人审查、核实并正式批准。该指南共 57 页,面向政府和私营部门的技术团队,列出 4 项主要风险和 6 项根本局限,并规定了代码到达客户之前必须有人介入的 5 个节点。本文把它转化为你本周可以向团队或供应商提出的实际问题。

按SDAIA的定义,什么是vibe coding?

指南将vibe coding(阿拉伯语为「al-barmaja al-tawlidiya」,即生成式编程)定义为一种方法:用户用日常语言描述想要的功能,由AI工具编写代码。它不止于写代码,还延伸到所谓的智能体AI:这类工具能自行构建代码、运行测试并管理部署,而关键决策由人来把控。

指南将使用场景分为 3 个方向:设计与用户体验(创意和原型)、编程(编写和改进代码)以及测试(测试计划、测试数据和故障分析)。它引用了微软的说法,即这些工具生成了其内部约 30% 的代码;还引用了谷歌的说法,即其约 25% 的新代码由AI生成,并在合并前经过人工审查。信息很明确:最大的公司每天都在使用这些工具,但都是在审查体系之内。

核心规则:AI的输出就是草稿

指南的第一个定义是「AI生成的草稿」:系统生成的任何输出在经过人工审查、核实和批准之前,都只是未经批准的初稿。它把「Human-in-the-loop」(人在回路中)原则描述为其方法中的强制性治理原则。它还补充说,当AI工具被授予可能造成重大运营、法律或商业影响的执行权限时,人工介入就变成强制性的。

用企业主的话说:如果一个AI工具无需任何人批准就能发布你应用的更新或修改你的客户数据库,这正是指南所警告的情况。需要说明的是,该指南是指导性文件,并非带有处罚的法规,但它是迄今为止沙特关于何为「负责任使用」这类工具最清晰的官方参考,并与国家人工智能风险管理框架相互补充。

指南列出的 4 项风险,以及它们在你项目中的表现

  • 幻觉:代码看起来没问题,却调用了并不存在的API,或推荐虚构的、已不再维护的软件包和库。结果是与其他系统的集成出错;如果有人没有核实就按名称安装了建议的软件包,还可能留下安全漏洞。
  • 过度信任:未经安全或功能审查就接受生成的代码,或把它直接推到客户正在使用的线上环境。
  • 覆盖流于表面:泛泛的安全分析漏掉了漏洞,测试也不完整,让你误以为一切正常。
  • 输出不确定:同一条提示每次生成的代码都不同,使结果难以复现和审计。

AI无法保证的 6 件事

指南列出 6 项根本局限:AI只能理解你明确写出的业务意图;它无法评估你所在组织特有的风险或优先级;它不能替代架构思考和设计决策;它不能保证代码正确或适合实际使用;它并不总是产生相同的结果;它的输出既不是正式的测试证据,也不能替代真实测试。指南说得很直白:验证、测试和批准的责任「完全由人承担」。

代码到达客户之前的 5 个人工检查点

  1. 每次代码变更在合并到主分支之前都要审查。
  2. 每个版本在部署之前都要评估是否就绪。
  3. 监督部署或回滚的决定。
  4. 解释生产环境中出现的任何异常行为。
  5. 批准开发计划和长期技术路线图。

本周向开发者或供应商提出的问题

  • 谁在合并前审查AI编写的代码?每次变更都有审查记录吗?
  • 测试是否真的在系统上运行过,还是只是工具「说」代码能用?
  • AI工具有哪些权限?它们能部署或访问真实数据库吗?(看看执行了攻击者命令的编程智能体发生了什么。)
  • 测试数据是合成的吗?指南要求测试数据遵守隐私规则,禁止使用任何真实或敏感数据,这对客户的个人数据很重要。
  • 版本上线前由谁签字批准?出了问题由谁决定回滚?

如果这五个问题中有三个得不到明确回答,问题就不在AI工具,而在工作方式。如果你正在选择新的开发合作伙伴,请把这些问题加入你的软件公司选择标准。

Origami的观点

我们在设计、编程和测试中使用AI工具,因为它们能为客户节省实实在在的时间。但我们对待它们写出的内容,完全按照SDAIA指南的描述:当作草稿。每次变更都经过开发者审查,测试真实运行,真实客户数据从不进入测试环境,部署决定由人来做。没有审查的速度,日后会以故障和安全漏洞的形式付出代价。如果你用AI做了原型,想把它变成客户可以依赖的系统,欢迎与我们联系。

参考来源

  • #Vibe Coding
  • #SDAIA
  • #AI代码审查
  • #软件开发

常见问题

SDAIA的vibe coding指南对我的公司有约束力吗?

该指南属于指导性文件,并非带有处罚的法规,面向政府和私营部门的技术团队。但它仍是沙特关于负责任使用AI编程工具最清晰的官方参考,并在其方法中把人工审查描述为强制性的治理原则。

我能不用开发者、完全靠AI做出一个完整的应用吗?

你可以快速做一个原型来验证想法。对于客户依赖的系统,指南指出AI不能保证代码正确或适合使用,而验证、测试和批准的责任完全由人承担,所以上线前需要开发者审查。

AI编写的代码最大的风险是什么?

指南列出 4 项风险:幻觉,例如建议并不存在的库或API;过度信任,即未经安全审查就把代码推到生产环境;分析和测试的覆盖流于表面;以及每次输出都不一样。

如何确保我的开发者审查了AI生成的代码?

询问指南中的 5 个检查点:合并前审查每次变更、评估版本是否就绪、批准部署或回滚、解释异常行为、批准开发计划。要求审查和测试运行留有记录,而不只是口头承诺。

有项目想法吗?

我们为您的企业打造定制系统、应用和网站。告诉我们您的想法,我们会给您一个直截了当的答复。

查看我们的服务

简报

新文章和新系列,直接发送到您的邮箱。

在 Google 上关注 Origami

把 Origami 设为首选来源,我们的文章就会优先出现在您的 Google 搜索和热门新闻中。

Add as a preferred source on Google