Tencent Hy4: Model Open-Weight 770B dan Artinya bagi Bisnis Anda

Jawaban langsungnya: pada 28 Agustus 2026 Tencent memublikasikan Hy4 preview sebagai model open-weight di bawah lisensi Apache 2.0, dengan total 770 miliar parameter yang hanya 49 miliar di antaranya aktif per token, dan jendela konteks hingga satu juta token. Dalam praktiknya, perusahaan mana pun dapat mengunduh model ini dan menjalankannya di infrastruktur sendiri tanpa izin vendor dan tanpa biaya per panggilan. Ini tidak berarti Anda bisa menjalankannya di server di kantor Anda. Jarak antara dua kalimat itu menentukan apakah berita ini relevan bagi Anda atau tidak.

Apa yang sebenarnya diumumkan

Sebelum analisis apa pun, ada baiknya memisahkan fakta yang dipublikasikan dari interpretasi. Yang dirilis Tencent di repositori resmi model tersebut mencakup:

  • Ukuran dan aktivasi: total 770 miliar parameter, 49 miliar aktif per token, dalam arsitektur mixture-of-experts.
  • Struktur internal: 78 lapisan, yang pertama dense dan sisanya mixture-of-experts dengan 256 expert yang dirutekan ditambah satu expert bersama, dengan delapan expert dipilih per token.
  • Jendela konteks: satu juta token, dengan ukuran kosakata 120.832.
  • Lisensi: Apache 2.0, lisensi permisif yang mengizinkan penggunaan komersial, modifikasi, dan redistribusi.
  • Varian terkuantisasi: versi FP8 tersedia di samping model presisi penuh.
  • Akselerasi inferensi: lapisan prediksi multi-token bawaan yang mendukung speculative decoding.
  • Fokus yang dinyatakan: model ini menyasar pemrograman, produktivitas kantor, pengembangan game, dan riset ilmiah, bukan obrolan umum.

Yang tidak diumumkan, dan tidak boleh diasumsikan, adalah janji keunggulan apa pun atas model tertutup dalam kasus spesifik Anda. Perbandingan yang dipublikasikan pada benchmark publik tidak memberi tahu Anda apa pun yang andal tentang kinerja pada dokumen Anda, bahasa pelanggan Anda, dan konteks sektor Anda. Jawaban itu hanya datang dari pengujian internal pada data Anda sendiri.

Mengapa lisensi Apache 2.0 bukan detail hukum yang kecil

Sebagian besar pembicaraan tentang model terbuka berfokus pada kualitas keluaran, padahal nilai sebenarnya bagi pemilik bisnis ada pada klausul lisensinya. Lisensi permisif berarti tiga hal praktis: menjalankan model di dalam infrastruktur Anda tidak memerlukan persetujuan siapa pun, memodifikasi dan menyetelnya dengan data Anda diizinkan, dan kelangsungan layanan Anda tidak bergantung pada vendor yang terus menyediakannya atau mempertahankan harganya.

Poin terakhir itulah inti persoalannya. Perusahaan yang membangun seluruh layanan pelanggannya di atas satu API menanggung risiko diam-diam: perubahan harga, versi yang dihentikan, atau perubahan kebijakan penggunaan bisa mengembalikannya ke titik nol. Model open-weight tidak menghilangkan risiko itu, tetapi memberi Anda jalan keluar: salinan yang Anda unduh tetap menjadi milik Anda.

Hitungan perangkat keras yang biasanya dilewatkan judul berita

Di sinilah antusiasme berubah menjadi angka. 770 miliar parameter pada presisi FP8 berarti kira-kira satu byte per parameter, yaitu lebih dari 700 gigabyte hanya untuk bobot model sebelum hal lainnya. Tambahkan memori konteks yang tumbuh seiring panjang percakapan, dan jendela satu juta token berarti memori tambahan yang besar dalam penggunaan nyata; lalu tambahkan redundansi agar layanan tidak tumbang saat satu node gagal.

Kesimpulannya, ini adalah model pusat data, bukan model server kantor. Meng-host-nya sendiri adalah keputusan yang menuntut perangkat keras khusus dan tim operasional yang tahu cara membagi model ke banyak GPU serta memantau latensi dan utilisasi. Itu biaya tetap yang tidak menyusut saat penggunaan Anda turun, berbeda dengan API yang Anda bayar sesuai konsumsi.

Aturan praktisnya: self-hosting hanya masuk akal dalam salah satu dari dua kondisi. Anda memiliki penggunaan besar dan stabil yang membuat biaya tetap lebih murah daripada konsumsi variabel, atau Anda menghadapi persyaratan regulasi maupun kontrak yang mencegah data keluar dari batas yang ditentukan. Di luar dua kondisi itu, self-hosting biasanya merupakan keputusan emosional, bukan ekonomis.

Apa yang membuat desainnya menarik secara teknis

Angka yang mencolok pada Hy4 bukan 770 miliar, melainkan 49 miliar. Arsitektur mixture-of-experts berarti model ini berkapasitas sangat besar tetapi hanya mengaktifkan sebagian kecil dirinya per token, sehingga Anda mendapat kualitas setara model unggulan dengan biaya komputasi yang lebih dekat ke model berukuran menengah. Arah arsitektur inilah yang membuat model terbuka mendekati model tertutup dalam dua tahun terakhir.

Ditambah lagi mekanisme sparse attention yang menggunakan ulang indeks sparsitas antarlapisan, serta lapisan prediksi multi-token bawaan yang memungkinkan speculative decoding untuk mempersingkat waktu pembuatan. Dalam bahasa bisnis: detail ini menurunkan biaya per token dan latensi, dan dua faktor itu menentukan apakah sebuah fitur bisa diluncurkan ke ribuan pengguna atau tetap menjadi eksperimen internal.

Tiga jalur praktis untuk bisnis Anda

  • API terkelola pada model tertutup: jalur tercepat untuk meluncur, tanpa beban operasional, dengan biaya variabel yang tumbuh seiring penggunaan. Jalur bawaan untuk enam bulan pertama produk apa pun.
  • Hy4 melalui penyedia yang meng-host-nya untuk Anda: Anda mendapat fleksibilitas lisensi dan kemampuan berpindah antarpenyedia tanpa membeli perangkat keras. Inilah jalan tengah praktis yang sering diabaikan banyak orang.
  • Self-hosting penuh: kendali maksimal dan biaya maksimal. Layak bila Anda menghadapi persyaratan residensi data yang ketat atau menjalankan volume operasional yang besar dan stabil.

Pertanyaan yang menentukan keputusan

Sebelum mengeluarkan satu riyal pun di jalur ini, jawab empat pertanyaan dengan jujur. Data jenis apa yang akan melewati model, dan adakah kewajiban regulasi atau kontrak yang mencegahnya keluar? Berapa volume bulanan yang diharapkan enam bulan ke depan, bukan pada minggu pertama? Apakah Anda, atau mitra teknis Anda, benar-benar memiliki kemampuan operasional sepanjang waktu? Dan apakah Anda sudah membangun lapisan abstraksi di aplikasi yang memungkinkan Anda mengganti model tanpa menulis ulang produk?

Jika jawaban atas pertanyaan terakhir adalah tidak, itulah prioritas Anda sebelum diskusi apa pun tentang model mana yang dipakai. Perbedaan antara perusahaan yang fleksibel dan yang terjebak bukan pada memilih model yang tepat, melainkan pada membangun sistem yang menjaga pilihan itu tetap bisa diubah kelak dengan biaya wajar. Baca artikel kami tentang region cloud lokal dan residensi data jika residensi adalah pendorong utama Anda.

Cara kami menanganinya di Origami

Kami membangun aplikasi klien sehingga model menjadi komponen yang dapat diganti di balik antarmuka internal yang seragam, dan kami menyimpan set evaluasi berisi kasus klien nyata yang kami jalankan terhadap setiap model kandidat sebelum mengadopsinya. Hal ini mengubah berita seperti rilis Hy4 dari sekadar judul teknis menjadi keputusan yang terukur: jalankan set evaluasi, bandingkan kualitas, biaya, dan latensi, lalu putuskan berdasarkan angka, bukan kesan.

Sumber