Сколько стоит запустить ИИ на собственном оборудовании?

Владельцы бизнеса постоянно спрашивают нас об одном и том же: наши данные конфиденциальны, а счёт за использование растёт каждый месяц, так можем ли мы запускать модель сами, а не зависеть от внешнего сервиса?

Честный ответ начинается с уточнения: веса Claude и GPT не опубликованы, поэтому никто не запускает их у себя, каким бы ни было оборудование. Что вы действительно можете запустить — это модели с открытыми весами, которые сегодня достигают 200 миллиардов параметров и больше и во многих практических задачах приближаются к тому, что дают платные сервисы: резюмирование документов, ответы на вопросы по вашим собственным данным, написание кода, перевод. Разрыв сокращается каждые несколько месяцев.

Так что настоящий вопрос не в том, возможно ли это, а в том, сколько параметров вмещает ваша машина. Это приводит к единственному правилу, которое решает всё.

Решающее правило: память важнее скорости

Чтобы работать, модель должна целиком помещаться в память. Арифметика проще, чем кажется:

• При полной точности: два байта на параметр.
• При 8-битной квантизации: один байт на параметр.
• При 4-битной квантизации: полбайта на параметр — практичный выбор для большинства задач.

Затем добавьте примерно от 20 до 30% на контекст и накладные расходы среды выполнения. В результате получается эта оценочная таблица, с которой можно сверить любую машину:

Цифры включают запас для среды выполнения и являются оценочными; они немного меняются в зависимости от метода квантизации и длины контекста.

Одна эта таблица сокращает большинство сравнений: сначала смотрите на объём памяти, потому что он определяет, что вы можете запустить. Пропускная способность и тип процессора определяют, насколько быстро.

Варианты, доступные сегодня

Apple — новый Mac Studio

25 августа 2026 года Apple анонсировала новое поколение Mac Studio с поставками с 22 сентября, а конфигурация с 512GB появится в конце октября. Сейчас это самый ёмкий вариант:

• M5 Max: 18-ядерный CPU, GPU до 40 ядер с нейронными ускорителями, встроенными в каждое ядро, и до 128GB объединённой памяти с пропускной способностью до 614GB/s.
• M5 Ultra: CPU до 36 ядер, GPU до 80 ядер и до 512GB объединённой памяти — достаточно, чтобы запускать огромные модели целиком на устройстве.
• Thunderbolt 5 позволяет объединять несколько устройств в кластер, достигая производительности до 3x от одной системы при распределённом инференсе.

Его реальное преимущество в том, что память общая для CPU и GPU, поэтому не нужна отдельная видеокарта со своей памятью. Он поставляется с двумя фреймворками для разработчиков: новым Core AI и открытым MLX.

AMD — Ryzen AI Max+ 395

Он поставляется в небольших настольных машинах со 128GB объединённой памяти, работает под Windows или Linux и стоит меньше, чем его прямой конкурент от Nvidia. Это практичный выбор для тех, кому нужны 128GB при минимальной стоимости, или чья команда предпочитает привычную среду Linux.

Nvidia — DGX Spark

Коробка объёмом примерно в один литр с чипом Grace Blackwell и 128GB — продукт, который и создал эту категорию. Его главное преимущество не в характеристиках, а в экосистеме CUDA: большинство инструментов ИИ и фреймворков для обучения изначально писались именно под неё. Если ваша команда будет обучать или дообучать модели, а не только запускать их, это решающий фактор.

Традиционный путь — сервер с дискретными GPU

По-прежнему правильный ответ, когда вы обслуживаете нескольких пользователей одновременно. Серверные карты дают гораздо более высокую пропускную способность, чем машины с объединённой памятью, и это проявляется в одновременных запросах, а не в размере модели. Минусы: более высокая стоимость, а также энергопотребление, нагрев и шум, которым нужно подходящее помещение.

Машины в сравнении

Точные цены и где купить

Мы взяли цены Apple напрямую из её собственных магазинов в США и Саудовской Аравии на дату публикации этой статьи:

Покупайте в саудовском магазине Apple или в американском магазине Apple. Это начальные цены для каждой конфигурации; максимальный объём памяти заметно их повышает, а вариант с 512GB появится в конце октября, а не при запуске. Обратите внимание, что саудовская цена включает НДС, а американская указана без налога.

AMD и Nvidia не продают эти машины напрямую по единой цене: чип AMD поставляется в корпусах разных производителей примерно за $1,500 до $4,000 в зависимости от производителя и конфигурации, а DGX Spark вышел по цене около $4,000 и с тех пор подорожал в рознице. На момент публикации мы не нашли официальных розничных предложений ни для одной из них в Саудовской Аравии, поэтому покупка означает обращение к дистрибьютору или импорт — в этом случае добавьте НДС, таможенные пошлины и доставку. Их официальные страницы: NVIDIA DGX Spark и AMD Ryzen AI Max+ 395.

Какую открытую модель запускать и на чём?

Машина — это половина решения; другая половина — сама модель. Вот ведущие модели с открытыми весами, которые можно скачать и запустить сегодня, с машиной, вмещающей каждую из них в 4-битном формате, и оценкой её практических возможностей:

Что здесь означает процент возможностей? Насколько близко модель подходит в повседневной бизнес-работе — резюмирование, ответы на вопросы по документам, написание кода, перевод — к самым сильным платным закрытым моделям. Это редакционная оценка Origami, основанная на опубликованных характеристиках и цифрах, которые сообщают сами разработчики, а не результат одного нейтрального теста. Причина проста: каждая лаборатория публикует свои цифры с другой методикой и другими настройками, поэтому сегодня нет единого нейтрального бенчмарка, который ранжировал бы все эти модели. Воспринимайте это как ориентир, а не вердикт, и протестируйте модель на своих задачах, прежде чем принимать решение.

Два замечания, которые резюмируют всю таблицу: модели с пометкой «активных» используют на каждый запрос лишь небольшую долю своих параметров, поэтому они быстрее, чем можно предположить по их размеру, — но им всё равно нужна вся память. А разница между 72% и 90% полностью исчезает в большинстве офисных задач, но явно проявляется на длинных и сложных задачах. Не платите за 512GB ради запаса, который вы никогда не заметите.

Как выбирать на практике

• Один или два пользователя? Машины с объединённой памятью достаточно, и это большая экономия.
• Команда, работающая с системой одновременно? Вам понадобятся дискретные GPU, потому что проблема теперь в одновременных запросах, а не в размере модели.
• Обучение или дообучение? Склоняйтесь к CUDA.
• Хотите максимально большую модель с минимальной сложностью? Наибольший объём сегодня у Apple.
• Ограниченный бюджет? 128GB покрывают модели до 200 миллиардов параметров в 4-битном формате, что действительно удовлетворяет большинство потребностей компаний.

Компромисс, который нужно понимать до покупки: машины с объединённой памятью дают большой объём при меньшей пропускной способности, чем серверные карты. Они без проблем загружают большую модель, но генерируют текст медленнее. В чате и при резюмировании вы этого почти не заметите; при тяжёлой пакетной обработке — заметите.

Когда собственный сервер — неверное решение

Говорим об этом прямо, потому что часто это видим: оборудование — не конец проекта, а его начало. Вы также покупаете ответственность за обновления, резервные копии, мониторинг и за того, кто будет чинить его, когда он остановится в четверг. Если использование нерегулярное и небольшое, ежемесячный счёт внешнего сервиса дешевле, чем машина, её электричество и время того, кто её обслуживает.

Собственный сервер оправдывает себя, когда сходятся три вещи: данные, которые не должны покидать компанию, стабильная высокая нагрузка и человек или организация, которые будут его эксплуатировать. Если чего-то одного из трёх нет, пересчитайте.

Позиция Origami

Мы считаем, что важный вопрос не в том, какую машину купить, а в том, что вы будете на ней запускать. Большинству тех, кто спрашивает нас о собственном сервере, на самом деле нужна модель среднего размера, которая отвечает на вопросы по документам их компании, а она свободно работает на 128GB — иногда и на меньшем. Покупать 512GB, чтобы запускать модель на 70 миллиардов параметров, — это расходы без отдачи.

Наш практический совет: определите задачу, затем выберите модель, которая её решает, затем купите машину, которая вмещает эту модель с запасом. Мы помогаем именно в таком порядке — определяем задачу, подбираем модель и строим слой, который связывает её с вашими данными и системами, потому что модель без связи с вашими данными остаётся универсальным инструментом, а не системой, которая служит вашей компании. Вы найдёте нас на странице контактов.

Вывод

Вы не запустите Claude у себя, но запустите способные открытые модели, которые покрывают большую часть бизнес-задач. Сначала оцените свою потребность в параметрах: полбайта на параметр в 4-битном формате плюс запас. Затем выбирайте между объединённой памятью, которая даёт объём по разумной цене, и дискретными картами, которые дают скорость и одновременность. Самое важное решение по-прежнему принимается до оборудования: что вы будете запускать и зачем.

Источники

• Пресс-релиз Apple от 25 августа 2026 года — характеристики Mac Studio с M5 Max и M5 Ultra, объёмы и пропускная способность объединённой памяти, кластеризация через Thunderbolt 5, а также фреймворки Core AI и MLX.
• Независимые обзоры StorageReview и HotHardware об AMD Ryzen AI Max+ 395 и Nvidia DGX Spark, включая сравнения их объёма и цены.
• Расчёт памяти следует стандартному правилу запуска моделей: два байта на параметр при полной точности с уменьшением при квантизации.
• Официальные карточки моделей на Hugging Face для Qwen3.8, Llama 4, Mistral, gpt-oss, DeepSeek V4, GLM-5.3 и Kimi K3 — источник числа параметров и лицензий. Проценты возможностей — редакционная оценка Origami, как объяснено выше.