Tencent Hy4: 770B açık ağırlıklı bir model ve işletmeniz için anlamı

Doğrudan cevap: Tencent 28 Ağustos 2026'da Hy4 preview'u Apache 2.0 lisansıyla açık ağırlıklı model olarak yayımladı; toplam 770 milyar parametreye sahip, bunların yalnızca 49 milyarı token başına etkinleşiyor ve bağlam penceresi bir milyon token'a kadar çıkıyor. Pratikte bu, her şirketin modeli indirip sağlayıcı izni ve çağrı başına ücret olmadan kendi altyapısında çalıştırabileceği anlamına geliyor. Onu ofisinizdeki bir sunucuda çalıştırabileceğiniz anlamına gelmiyor. Bu iki cümle arasındaki mesafe, bu haberin sizi ilgilendirip ilgilendirmediğini belirliyor.

Gerçekte ne duyuruldu

Herhangi bir analizden önce, yayımlanan gerçekleri yorumdan ayırmak faydalı. Tencent'in modelin resmî deposunda yayımladıkları şunları içeriyor:

  • Boyut ve etkinleşme: toplam 770 milyar parametre, token başına 49 milyarı etkin, uzmanlar karışımı (mixture-of-experts) mimarisinde.
  • İç yapı: 78 katman; ilki yoğun, geri kalanı 256 yönlendirilmiş uzman artı bir paylaşılan uzmandan oluşan uzmanlar karışımı, token başına sekiz uzman seçiliyor.
  • Bağlam penceresi: bir milyon token, kelime dağarcığı boyutu 120.832.
  • Lisans: Apache 2.0; ticari kullanım, değişiklik ve yeniden dağıtıma izin veren serbest bir lisans.
  • Nicemlenmiş sürüm: tam hassasiyetli modelin yanında bir FP8 sürümü de mevcut.
  • Çıkarım hızlandırma: spekülatif kod çözmeyi destekleyen yerleşik bir çoklu token tahmin katmanı.
  • Belirtilen odak: model genel sohbetten çok kodlama, ofis verimliliği, oyun geliştirme ve bilimsel araştırmayı hedefliyor.

Duyurulmayan ve varsayılmaması gereken şey ise, sizin özel durumunuzda kapalı modellere karşı herhangi bir üstünlük vaadidir. Herkese açık kıyaslama testlerinde yayımlanan karşılaştırmalar, belgeleriniz, müşterilerinizin dili ve sektörünüzün bağlamındaki performans hakkında güvenilir hiçbir şey söylemez. Bu cevap yalnızca kendi verileriniz üzerinde yapılan iç testlerden gelir.

Apache 2.0 lisansı neden küçük bir hukuki ayrıntı değil

Açık modeller hakkındaki konuşmaların çoğu çıktı kalitesine odaklanır; oysa işletme sahibi için asıl değer lisans maddesindedir. Serbest bir lisans üç pratik şey demektir: modeli altyapınızda çalıştırmak kimsenin onayını gerektirmez, onu kendi verilerinizle değiştirmek ve ince ayar yapmak serbesttir ve hizmetinizin sürekliliği bir sağlayıcının onu sunmaya devam etmesine ya da fiyatlarını sabit tutmasına bağlı değildir.

Bu son nokta meselenin özüdür. Tüm müşteri hizmetini tek bir API üzerine kurmuş bir şirket sessiz bir risk taşır: bir fiyat değişikliği, kullanımdan kaldırılan bir sürüm ya da kullanım politikasındaki bir değişiklik onu başa döndürebilir. Açık ağırlıklı bir model bu riski ortadan kaldırmaz, ama size bir çıkış yolu verir: indirdiğiniz kopya sizin olarak kalır.

Manşetin genellikle atladığı donanım hesabı

Heyecanın rakamlara dönüştüğü yer burasıdır. FP8 hassasiyetinde 770 milyar parametre, parametre başına yaklaşık bir bayt demektir; yani başka hiçbir şeyden önce yalnızca model ağırlıkları için 700 gigabayttan fazla. Buna konuşma uzunluğuyla büyüyen bağlam belleğini ekleyin; bir milyon token'lık pencere gerçek kullanımda ciddi miktarda ek bellek gerektirir. Ardından tek bir düğüm arızalandığında hizmetin çökmemesi için yedeklilik ekleyin.

Sonuç şu: bu bir veri merkezi modeli, ofis sunucusu modeli değil. Onu kendi sunucunuzda barındırmak, uzman donanım ve bir modeli birden çok GPU'ya bölmeyi, gecikmeyi ve kullanım oranını izlemeyi bilen bir operasyon ekibi gerektiren bir karardır. Bu, kullanımınız düştüğünde azalmayan sabit bir maliyettir; tükettiğiniz kadar ödediğiniz bir API'nin aksine.

Pratik kural: kendi sunucunda barındırma yalnızca iki koşuldan birinde anlamlıdır. Ya sabit maliyeti değişken tüketimden ucuz kılan büyük ve istikrarlı bir kullanımınız vardır ya da verilerin tanımlı bir sınırın dışına çıkmasını engelleyen düzenleyici veya sözleşmesel bir gereklilikle karşı karşıyasınızdır. Bu iki koşulun dışında, kendi sunucunda barındırma genellikle ekonomik değil duygusal bir karardır.

Tasarımı teknik olarak ilginç kılan ne

Hy4'teki çarpıcı rakam 770 milyar değil, 49 milyar. Uzmanlar karışımı mimarisi, modelin kapasitesinin devasa olduğu ama token başına kendisinin yalnızca küçük bir dilimini etkinleştirdiği anlamına gelir; böylece amiral gemisi düzeyinde kaliteyi orta boy bir modele yakın hesaplama maliyetiyle elde edersiniz. Son iki yılda açık modelleri kapalı modellere yaklaştıran tam olarak bu mimari yöndür.

Buna, seyreklik indekslerini katmanlar arasında yeniden kullanan bir seyrek dikkat mekanizması ve üretim süresini kısaltmak için spekülatif kod çözmeyi mümkün kılan yerleşik bir çoklu token tahmin katmanı ekleyin. İş diliyle: bu ayrıntılar token başına maliyeti ve gecikmeyi düşürür; bu iki etken de bir özelliğin binlerce kullanıcıya açılıp açılamayacağını ya da iç deney olarak mı kalacağını belirler.

İşletmeniz için üç pratik yol

  • Kapalı bir model üzerinde yönetilen API: başlatmanın en hızlı yolu, operasyonel yük yok ve kullanımla büyüyen değişken bir maliyet. Her ürünün ilk altı ayı için varsayılan yol.
  • Hy4'ü sizin için barındıran bir sağlayıcı üzerinden: lisans esnekliğini ve donanım satın almadan sağlayıcılar arasında geçiş yapabilme imkânını elde edersiniz. Birçok kişinin gözden kaçırdığı pratik orta yol budur.
  • Tamamen kendi sunucunuzda barındırma: en yüksek kontrol ve en yüksek maliyet. Katı bir veri yerelliği gerekliliğiyle karşı karşıyaysanız ya da büyük ve istikrarlı bir operasyonel hacim yürütüyorsanız haklı çıkar.

Kararı netleştiren sorular

Bu yola tek bir riyal harcamadan önce dört soruyu dürüstçe yanıtlayın. Modelden ne tür veriler geçecek ve bunların dışarı çıkmasını engelleyen düzenleyici ya da sözleşmesel bir yükümlülük var mı? İlk hafta değil, altı ay sonra beklenen aylık hacim ne? Sizin ya da teknik ortağınızın gerçek, kesintisiz bir operasyon kabiliyeti var mı? Ve uygulamanızda, ürünü yeniden yazmadan model değiştirmenizi sağlayan bir soyutlama katmanı kurdunuz mu?

Son sorunun cevabı hayırsa, hangi modelin kullanılacağına dair her tartışmadan önce önceliğiniz budur. Esnek bir şirketle sıkışıp kalmış bir şirket arasındaki fark doğru modeli seçmek değil, seçimi ileride makul bir maliyetle değiştirilebilir tutan bir sistem kurmaktır. Veri yerelliği temel motivasyonunuzsa yerel bulut bölgesi ve veri yerelliği hakkındaki yazımıza göz atın.

Origami'de bunu nasıl ele alıyoruz

Müşteri uygulamalarını, modelin birleşik bir iç arayüzün arkasında değiştirilebilir bir bileşen olacağı şekilde kuruyoruz ve benimsemeden önce her aday modele karşı çalıştırdığımız gerçek müşteri vakalarından oluşan bir değerlendirme seti tutuyoruz. Bu, Hy4'ün yayımlanması gibi haberleri teknik bir manşetten ölçülebilir bir karara dönüştürür: değerlendirme setini çalıştırın, kaliteyi, maliyeti ve gecikmeyi karşılaştırın, ardından izlenimlere değil rakamlara göre karar verin.

Kaynaklar