Yapay zekayı kendi donanımınızda çalıştırmanın maliyeti nedir?

İşletme sahipleri bize hep aynı şeyi soruyor: verilerimiz hassas ve kullanım faturası her ay büyüyor; harici bir hizmete bağımlı kalmak yerine modeli kendimiz çalıştırabilir miyiz?

Dürüst bir cevap bir düzeltmeyle başlar: Claude ve GPT'nin ağırlıkları yayımlanmıyor, bu yüzden donanım ne olursa olsun kimse onları evde çalıştıramaz. Gerçekten çalıştırabileceğiniz şey, bugün 200 milyar parametreye ve daha fazlasına ulaşan ve birçok pratik görevde ücretli hizmetlerin sunduğuna yaklaşan açık ağırlıklı modellerdir: belge özetlemek, kendi verileriniz hakkındaki soruları yanıtlamak, kod yazmak, çeviri yapmak. Aradaki fark birkaç ayda bir daralıyor.

Dolayısıyla asıl soru bunun mümkün olup olmadığı değil, makinenizin kaç parametre taşıyabildiği. Bu da her şeyi belirleyen tek kurala götürür.

Belirleyici kural: hızdan önce bellek

Bir modelin çalışması için tamamen belleğe sığması gerekir. Hesap göründüğünden daha basittir:

• Tam hassasiyette: parametre başına iki bayt.
• 8 bit nicemlemede: parametre başına bir bayt.
• 4 bit nicemlemede: parametre başına yarım bayt; çoğu kullanım için pratik tercih.

Ardından bağlam ve çalışma zamanı yükü için kabaca %20 ila %30 ekleyin. Sonuç, herhangi bir makineyi kıyaslayabileceğiniz şu tahmin tablosudur:

Rakamlar çalışma zamanı payını içerir ve tahminidir; nicemleme yöntemine ve bağlam uzunluğuna göre biraz değişir.

Bu tablo tek başına çoğu karşılaştırmayı kısaltır: önce bellek kapasitesine bakın, çünkü neyi çalıştırabileceğinizi o belirler. Bant genişliği ve işlemci türü ise ne kadar hızlı çalışacağını belirler.

Bugün mevcut seçenekler

Apple: yeni Mac Studio

Apple 25 Ağustos 2026'da 22 Eylül'den itibaren teslim edilen yeni bir Mac Studio neslini duyurdu; 512GB'lık yapılandırma ekim sonunda geliyor. Şu anda kapasite açısından en geniş seçenek bu:

• M5 Max: 18 çekirdekli CPU, her çekirdeğe yerleşik Neural Accelerators bulunan 40 çekirdeğe kadar GPU ve 614GB/s'ye kadar bant genişliğiyle 128GB'a kadar birleşik bellek.
• M5 Ultra: 36 çekirdeğe kadar CPU, 80 çekirdeğe kadar GPU ve 512GB'a kadar birleşik bellek; devasa modelleri tamamen cihaz üzerinde çalıştırmaya yetecek kadar.
• Thunderbolt 5 birden fazla cihazın kümelenmesine olanak tanır ve dağıtık çıkarımda tek bir sistemin 3x katına kadar performansa ulaşır.

Asıl avantajı belleğin CPU ve GPU arasında birleşik olmasıdır; bu yüzden kendi belleği olan ayrı bir karta ihtiyacınız olmaz. İki geliştirici framework'üyle birlikte gelir: yeni Core AI ve açık kaynaklı MLX.

AMD: Ryzen AI Max+ 395

128GB birleşik bellekli küçük masaüstü makinelerde geliyor, Windows veya Linux çalıştırıyor ve doğrudan Nvidia rakibinden daha ucuz. 128GB'ı en düşük maliyetle isteyenler ya da ekibi tanıdık bir Linux ortamını tercih edenler için pratik tercih.

Nvidia: DGX Spark

Grace Blackwell çipi ve 128GB taşıyan yaklaşık bir litrelik bir kutu ve bu kategoriyi yaratan ürün. En önemli avantajı teknik özellikleri değil, CUDA ekosistemidir: yapay zeka araçlarının ve eğitim framework'lerinin çoğu önce onun için yazıldı. Ekibiniz modelleri yalnızca çalıştırmak yerine eğitecek veya ince ayar yapacaksa, bu belirleyici bir etkendir.

Geleneksel yol: harici GPU'lu bir sunucu

Aynı anda birden fazla kullanıcıya hizmet verdiğinizde hâlâ doğru cevap budur. Sunucu kartları birleşik bellekli makinelerden çok daha yüksek bant genişliği sunar ve bu, model boyutunda değil eşzamanlı isteklerde kendini gösterir. Dezavantajları: daha yüksek maliyet, ayrıca uygun bir oda gerektiren güç tüketimi, ısı ve gürültü.

Makineler yan yana

Kesin fiyatlar ve nereden alınır

Apple'ın fiyatlarını bu makalenin yayımlandığı tarihte doğrudan şirketin ABD ve Suudi Arabistan mağazalarından aldık:

Apple Suudi Arabistan mağazasından veya Apple ABD mağazasından satın alın. Bunlar yapılandırma başına başlangıç fiyatlarıdır; belleği en üst seviyeye çıkarmak fiyatı önemli ölçüde artırır ve 512GB seçeneği lansmanda değil ekim sonunda geliyor. Suudi fiyatının KDV dahil, ABD fiyatının ise vergi öncesi olduğunu unutmayın.

AMD ve Nvidia bu makineleri doğrudan tek bir fiyatla satmıyor: AMD çipi, üreticiye ve yapılandırmaya göre kabaca 1.500 ila 4.000 $ arasında farklı üreticilerin kutularında geliyor; DGX Spark ise 4.000 $ civarında piyasaya çıktı ve piyasada fiyatı yükseldi. Yayın tarihi itibarıyla ikisi için de resmi bir Suudi perakende satış ilanı bulamadık; dolayısıyla satın almak bir distribütör üzerinden geçmek ya da ithal etmek demek. Bu durumda KDV, gümrük ve kargoyu ekleyin. Resmi sayfaları: NVIDIA DGX Spark ve AMD Ryzen AI Max+ 395.

Hangi açık modeli, neyin üzerinde çalıştırmalı?

Makine kararın yarısıdır; diğer yarısı modelin kendisidir. Bunlar bugün indirip çalıştırabileceğiniz önde gelen açık ağırlıklı modeller; her birini 4 bitte taşıyan makine ve pratik yeteneğine dair bir tahminle birlikte:

Buradaki yetenek yüzdesi ne anlama geliyor? Modelin günlük iş çalışmalarında (özetleme, belgeler üzerinden soru yanıtlama, kod yazma, çeviri) en güçlü ücretli kapalı modellere ne kadar yaklaştığı. Bu, yayımlanmış teknik özelliklere ve sağlayıcıların kendi bildirdiği rakamlara dayanan bir Origami editoryal tahminidir; tek bir tarafsız testin sonucu değildir. Nedeni basit: her laboratuvar rakamlarını farklı bir test düzeneği ve farklı ayarlarla yayımlıyor, bu yüzden bugün bu modellerin hepsini sıralayan tarafsız bir kıyaslama yok. Bunu bir hüküm değil bir rehber olarak görün ve karar vermeden önce modeli kendi görevlerinizde test edin.

Tüm tabloyu özetleyen iki not: "aktif" olarak işaretlenen modeller her istekte parametrelerinin yalnızca küçük bir kısmını kullanır, bu yüzden boyutlarının düşündürdüğünden daha hızlıdırlar; ancak yine de belleğin tamamına ihtiyaç duyarlar. Ve %72 ile %90 arasındaki fark çoğu ofis işinde tamamen kaybolurken uzun ve karmaşık görevlerde açıkça görülür. Asla fark etmeyeceğiniz bir avantaj için 512GB'a para ödemeyin.

Pratikte nasıl seçilir

• Bir veya iki kullanıcı mı? Birleşik bellekli bir makine yeterlidir ve çok tasarruf sağlar.
• Sistemi aynı anda kullanan bir ekip mi? Harici GPU'lara ihtiyacınız olacak, çünkü sorun artık model boyutu değil eşzamanlı isteklerdir.
• Eğitim veya ince ayar mı? CUDA'ya yönelin.
• En az karmaşıklıkla mümkün olan en büyük modeli mi istiyorsunuz? Bugün en büyük kapasite Apple'da.
• Bütçe mi sınırlı? 128GB, 4 bitte 200 milyar parametreye kadar modelleri kapsar; bu da şirketlerin ihtiyaçlarının çoğunu gerçekten karşılar.

Satın almadan önce anlaşılması gereken ödünleşim: birleşik bellekli makineler size sunucu kartlarına göre daha düşük bant genişliğiyle büyük kapasite verir. Büyük modeli sorunsuz yüklerler ama metni daha yavaş üretirler. Sohbet ve özetlemede bunu pek fark etmezsiniz; yoğun toplu işlemede fark edersiniz.

Özel sunucu ne zaman yanlış karardır

Bunu açıkça söylüyoruz çünkü sık görüyoruz: donanım projenin sonu değil, başlangıcıdır. Güncellemelerin, yedeklemelerin, izlemenin ve bir perşembe günü durduğunda onu kimin onaracağının sorumluluğunu da satın alıyorsunuz. Kullanımınız aralıklı ve azsa, harici bir hizmetin aylık faturası makineden, elektriğinden ve onu işleten kişinin zamanından daha ucuzdur.

Özel bir sunucu üç şey bir araya geldiğinde yerini hak eder: dışarı çıkmaması gereken veriler, düzenli ve yoğun kullanım ve onu işletecek bir kişi ya da taraf. Üçünden biri eksikse hesabı yeniden yapın.

Origami'nin görüşü

Bize göre önemli soru hangi makineyi alacağınız değil, üzerinde ne çalıştıracağınızdır. Bize özel sunucu soranların çoğunun aslında şirket belgeleri hakkındaki soruları yanıtlayan orta boyutlu bir modele ihtiyacı var ve bu 128GB'ta, bazen daha azında rahatça çalışır. 70 milyar parametreli bir modeli çalıştırmak için 512GB almak getirisi olmayan bir harcamadır.

Pratik tavsiyemiz: görevi tanımlayın, ardından o görevi yapan modeli seçin, ardından o modeli payla taşıyan makineyi alın. Biz de bu sırayla yardımcı oluyoruz: görevi tanımlamak, modeli seçmek ve onu verilerinize ve sistemlerinize bağlayan katmanı kurmak; çünkü verilerinize bağlı olmayan bir model, şirketinize hizmet eden bir sistem değil genel bir araç olarak kalır. Bize iletişim sayfasından ulaşabilirsiniz.

Sonuç

Claude'u evde çalıştırmayacaksınız, ancak iş çalışmalarının çoğunu karşılayan yetenekli açık modelleri çalıştıracaksınız. Önce ihtiyacınızı parametre cinsinden boyutlandırın: 4 bitte parametre başına yarım bayt, artı pay. Sonra makul maliyetle kapasite sağlayan birleşik bellek ile hız ve eşzamanlılık sağlayan harici kartlar arasında seçim yapın. En önemli karar yine donanımdan önce gelir: ne çalıştıracağınız ve neden.

Kaynaklar

• Apple basın bülteni, 25 Ağustos 2026: M5 Max ve M5 Ultra'lı Mac Studio'nun teknik özellikleri, birleşik bellek kapasiteleri ve bant genişliği, Thunderbolt 5 ile kümeleme ve Core AI ile MLX framework'leri.
• StorageReview ve HotHardware'in AMD Ryzen AI Max+ 395 ve Nvidia DGX Spark hakkındaki bağımsız incelemeleri; kapasite ve fiyat karşılaştırmaları dahil.
• Bellek hesabı, model çalıştırmanın standart kuralını izler: tam hassasiyette parametre başına iki bayt, nicemlemeyle azalır.
• Qwen3.8, Llama 4, Mistral, gpt-oss, DeepSeek V4, GLM-5.3 ve Kimi K3 için resmi Hugging Face model kartları: parametre sayılarının ve lisansların kaynağı. Yetenek yüzdeleri, yukarıda açıklandığı gibi bir Origami editoryal tahminidir.