企业主们一直在问我们同一个问题：我们的数据很敏感，使用费账单每个月都在增长，那么我们能不能自己运行模型，而不是依赖外部服务？

诚实的回答要从一个更正开始：Claude和GPT的权重没有公开，所以无论硬件如何，没有人能在自己那里运行它们。您真正能运行的是开放权重模型，它们如今的参数量已达到2000亿甚至更多，并且在许多实际任务上接近付费服务的水平：总结文档、回答关于您自有数据的问题、编写代码、翻译。差距每隔几个月就在缩小。

所以真正的问题不是能不能做到，而是您的机器能容纳多少参数。这就引出了决定一切的唯一规则。

决定性规则：内存先于速度

模型必须完全装入内存才能运行。计算比看起来更简单：

  • 全精度下：每个参数两个字节。
  • 8位量化下：每个参数一个字节。
  • 4位量化下：每个参数半个字节，这是大多数用途的实际选择。

然后再加上大约20到30%用于上下文和运行时开销。结果就是下面这张估算表，您可以用它来衡量任何机器：

模型规模全精度8位4位在哪里运行
8B~19GB~10GB~5GB任何16GB的机器，甚至笔记本电脑
32B~77GB~39GB~22GBMac Mini或基础款Mac Studio，或任何32GB的机器
70B~168GB~84GB~45GBMac Studio M5 Max、AMD Ryzen AI Max+ 395或DGX Spark
120B~288GB~144GB~75GB同样这三款配128GB，绰绰有余
200B~480GB~240GB~120GB128GB勉强可以；Mac Studio M5 Ultra则很宽裕
400B~960GB~480GB~240GB配512GB的Mac Studio M5 Ultra
670B~1600GB~800GB~400GB配512GB的Mac Studio，或通过Thunderbolt 5组成集群的多台机器

这些数字包含运行时余量，属于估算值；它们会随量化方法和上下文长度略有变化。

仅这一张表就能省去大部分比较：先看内存容量，因为它决定您能运行什么。带宽和处理器类型决定运行得多快。

目前可用的选项

Apple：新款Mac Studio

2026年8月25日，Apple发布了新一代Mac Studio，自9月22日起发货，512GB配置将于10月下旬推出。它目前是容量方面最宽裕的选择：

  • M5 Max：18核CPU，最高40核GPU且每个核心内置神经加速器，以及最高128GB统一内存，带宽最高614GB/s。
  • M5 Ultra：最高36核CPU，最高80核GPU，以及最高512GB统一内存，足以完全在设备上运行超大模型。
  • Thunderbolt 5允许将多台设备组成集群，在分布式推理中达到单个系统最高3倍的性能。

它真正的优势在于内存由CPU和GPU共享，因此您不需要一块自带内存的独立显卡。它附带两个开发者框架：全新的Core AI和开源的MLX。

AMD：Ryzen AI Max+ 395

它搭载于配备128GB统一内存的小型台式机中，运行Windows或Linux，价格低于其Nvidia直接竞品。对于想以最低成本获得128GB的人，或团队更喜欢熟悉的Linux环境的人来说，它是实际的选择。

Nvidia：DGX Spark

一个大约一升大小的盒子，搭载Grace Blackwell芯片和128GB内存，正是它开创了这一类别。它最重要的优势不在于规格，而在于CUDA生态系统：大多数AI工具和训练框架最初都是为它编写的。如果您的团队要训练或微调模型，而不仅仅是运行模型，这就是决定性的考量。

传统路线：配备独立GPU的服务器

当您需要同时为多名用户提供服务时，这仍然是正确答案。服务器显卡提供的带宽远高于统一内存机器，这体现在并发请求上，而不是模型规模上。缺点是：成本更高，而且电力、发热和噪音都需要一个合适的机房。

机器对比

机器处理器内存操作系统最适合
Mac Studio, M5 Max18核CPU，40核GPU最高128GB统一内存macOS最高200B的模型，一到两名用户
Mac Studio, M5 Ultra36核CPU，80核GPU最高512GB统一内存macOS最大的开源模型，以及集群
AMD Ryzen AI Max+ 395带统一内存的AMD APU128GB统一内存Windows或Linux128GB容量的最低成本
Nvidia DGX SparkGrace Blackwell超级芯片128GBLinux，CUDA生态系统要训练或微调的团队
配备独立GPU的服务器独立GPU取决于显卡Linux同时为多名用户提供服务

准确价格和购买渠道

我们在本文发布之日直接从Apple自己的美国和沙特商店获取了价格：

配置美国价格沙特价格
M5 Max：18核CPU，32核GPU$2,49911,999 SAR
M5 Max：18核CPU，40核GPU$3,09914,999 SAR
M5 Ultra：30核CPU，64核GPU$5,49925,999 SAR
M5 Ultra：36核CPU，80核GPU$6,79932,499 SAR

可在Apple沙特商店或Apple美国商店购买。这些是各配置的起售价；把内存加满会使价格大幅上涨，而512GB选项要到10月下旬才推出，而不是在发布时。请注意，沙特价格含增值税，而美国价格为税前价格。

AMD和Nvidia并不以统一价格直接销售这些机器：AMD芯片装在不同制造商的机箱中出货，价格约为$1,500到$4,000，取决于厂商和配置；DGX Spark发布时价格接近$4,000，之后市场价有所上涨。截至发布时，我们没有找到两者在沙特的官方零售信息，因此购买意味着要通过经销商或进口，这种情况下要加上增值税、关税和运费。它们的官方页面：NVIDIA DGX Spark和AMD Ryzen AI Max+ 395。

运行哪个开源模型，用什么机器？

机器只是决定的一半；另一半是模型本身。以下是您今天就可以下载并运行的主要开放权重模型，以及在4位下能容纳每个模型的机器和对其实际能力的估算：

开源模型规模和许可证运行它的机器能力（满分100%）
Qwen3.8-27B27B，Apache 2.0笔记本电脑或任何32GB的机器，或Mac Mini65%
Llama 4 Scout109B（17B激活），Meta许可证Mac Studio M5 Max、AMD 395或DGX Spark，128GB70%
Mistral Small 4119B（6.5B激活），Apache 2.0任何128GB统一内存的机器72%
Qwen3-Coder-Next80B（3B激活），Apache 2.0任何128GB的机器，更少内存也能运行编程方面专门为80%
gpt-oss 120B117B（5B激活），Apache 2.0任何128GB统一内存的机器78%
DeepSeek V4 Flash304B，MIT256GB或以上的Mac Studio M5 Ultra85%
GLM-5.3-Flash320B（18B激活），宽松的自定义许可证Mac Studio M5 Ultra86%
Mistral Large 3675B（41B激活），Apache 2.0512GB的Mac Studio，或一个8xH100节点88%
GLM-5.3753B，宽松的自定义许可证512GB的Mac Studio，正好处在极限90%
DeepSeek V4 Pro1.7T（49B激活），MIT多台集群机器，或配备独立GPU的服务器92%
Kimi K32.8T（104B激活），自定义许可证一整个服务器机架，而非单台机器95%

这里的能力百分比是什么意思？指在日常业务工作（总结、基于文档回答问题、编写代码、翻译）中，模型与最强的付费闭源模型的接近程度。这是Origami的编辑估算，基于已公布的规格和厂商自己报告的数据，而不是某一次中立测试的结果。原因很简单：每个实验室都用不同的测试框架和不同的设置发布自己的数字，所以目前没有一个中立的基准能对所有这些模型进行排名。请把它当作参考，而不是定论，并在做出决定之前用您自己的任务测试模型。

概括整张表的两点说明：标有"激活"的模型每次请求只使用一小部分参数，因此比它们的规模看起来更快，但它们仍然需要完整的内存。而72%和90%之间的差别在大多数办公工作中完全消失，只在长而复杂的任务上明显显现。不要为了一个您永远察觉不到的差距而花钱买512GB。

实际如何选择

  • 一到两名用户？一台统一内存机器就够了，还能省下一大笔钱。
  • 团队同时使用系统？您将需要独立GPU，因为此时的问题是并发请求，而不是模型规模。
  • 训练或微调？倾向于CUDA。
  • 想以最低的复杂度运行尽可能大的模型？目前最大的容量来自Apple。
  • 预算有限？128GB在4位下可覆盖最多2000亿参数的模型，这确实能满足大多数公司的需求。

购买前需要理解的取舍：与服务器显卡相比，统一内存机器提供的是大容量但带宽较低。它们能轻松加载大模型，但生成文本的速度更慢。用于聊天和总结时您几乎察觉不到；用于大量批处理时就会察觉到。

什么时候私有服务器是错误的决定

我们直说，因为这种情况我们经常看到：硬件不是项目的终点，而是起点。您同时买下的还有更新、备份、监控的责任，以及在某个星期四它停机时由谁来修复。如果您的使用是间歇性的且量小，外部服务的月度账单比机器本身、它的电费以及运维人员的时间都更便宜。

当三件事同时具备时，私有服务器才物有所值：不能外流的数据、稳定的大量使用，以及会负责运营它的人或单位。三者缺一，就重新算一遍。

Origami的观点

我们认为重要的问题不是买哪台机器，而是您要在上面运行什么。大多数向我们询问私有服务器的人，实际上需要的是一个能回答关于其公司文档问题的中等规模模型，而它在128GB上就能轻松运行，有时甚至更少。为了运行一个700亿参数的模型而购买512GB，是没有回报的支出。

我们的实用建议：先定义任务，再挑选能完成该任务的模型，然后购买能留有余量地容纳该模型的机器。我们就按这个顺序提供帮助：定义任务、选择模型，并构建将模型与您的数据和系统连接起来的那一层，因为一个与您的数据没有连接的模型只是一个通用工具，而不是为您公司服务的系统。您可以在联系页面找到我们。

结论

您无法在自己那里运行Claude，但可以运行能覆盖大多数业务工作的强大开源模型。先用参数来衡量您的需求：4位下每个参数半个字节，再加上余量。然后在统一内存和独立显卡之间做选择：前者以合理的成本换取容量，后者换取速度和并发能力。最重要的决定仍然在硬件之前：您要运行什么，以及为什么。

资料来源

  • Apple 2026年8月25日的新闻稿：搭载M5 Max和M5 Ultra的Mac Studio规格、统一内存容量和带宽、Thunderbolt 5集群，以及Core AI和MLX框架。
  • StorageReview和HotHardware对AMD Ryzen AI Max+ 395和Nvidia DGX Spark的独立评测，包括它们的容量和价格比较。
  • 内存计算遵循运行模型的标准规则：全精度下每个参数两个字节，随量化程度递减。
  • Hugging Face上Qwen3.8、Llama 4、Mistral、gpt-oss、DeepSeek V4、GLM-5.3和Kimi K3的官方模型卡，是参数数量和许可证的来源。能力百分比是Origami的编辑估算，如上文所述。