Tencent Hy4: Model Open-Weight 770B dan Maksudnya untuk Perniagaan Anda

Jawapan ringkasnya: pada 28 Ogos 2026 Tencent menerbitkan Hy4 preview sebagai model open-weight di bawah lesen Apache 2.0, dengan jumlah 770 bilion parameter yang hanya 49 bilion daripadanya aktif bagi setiap token, dan tetingkap konteks sehingga satu juta token. Secara praktikal, mana-mana syarikat boleh memuat turun model ini dan menjalankannya pada infrastruktur sendiri tanpa kebenaran vendor dan tanpa caj setiap panggilan. Ia tidak bermaksud anda boleh menjalankannya pada pelayan di pejabat anda. Jurang antara dua ayat itu menentukan sama ada berita ini berkaitan dengan anda atau tidak.

Apa yang sebenarnya diumumkan

Sebelum sebarang analisis, adalah berguna untuk memisahkan fakta yang diterbitkan daripada tafsiran. Apa yang dikeluarkan oleh Tencent dalam repositori rasmi model itu termasuk:

  • Saiz dan pengaktifan: jumlah 770 bilion parameter, 49 bilion aktif bagi setiap token, dalam seni bina mixture-of-experts.
  • Struktur dalaman: 78 lapisan, yang pertama padat dan selebihnya mixture-of-experts dengan 256 pakar yang dihalakan serta satu pakar kongsi, dengan lapan pakar dipilih bagi setiap token.
  • Tetingkap konteks: satu juta token, dengan saiz perbendaharaan kata 120,832.
  • Lesen: Apache 2.0, lesen permisif yang membenarkan penggunaan komersial, pengubahsuaian dan pengedaran semula.
  • Varian terkuantum: versi FP8 tersedia bersama model ketepatan penuh.
  • Pecutan inferens: lapisan ramalan berbilang token terbina dalam yang menyokong penyahkodan spekulatif.
  • Fokus yang dinyatakan: model ini menyasarkan pengekodan, produktiviti pejabat, pembangunan permainan dan penyelidikan saintifik, bukan sembang umum.

Apa yang tidak diumumkan, dan tidak patut diandaikan, ialah sebarang janji keunggulan berbanding model tertutup dalam kes khusus anda. Perbandingan yang diterbitkan pada penanda aras awam tidak memberitahu anda apa-apa yang boleh dipercayai tentang prestasi pada dokumen anda, bahasa pelanggan anda dan konteks sektor anda. Jawapan itu hanya datang daripada ujian dalaman pada data anda sendiri.

Mengapa lesen Apache 2.0 bukan butiran undang-undang yang kecil

Kebanyakan perbualan tentang model terbuka tertumpu pada kualiti output, sedangkan nilai sebenar bagi pemilik perniagaan terletak pada klausa lesen. Lesen permisif bermaksud tiga perkara praktikal: menjalankan model dalam infrastruktur anda tidak memerlukan kelulusan sesiapa, mengubah suai dan menala model dengan data anda dibenarkan, dan kesinambungan perkhidmatan anda tidak bergantung pada vendor yang terus menawarkannya atau mengekalkan harganya.

Perkara terakhir itulah teras isunya. Syarikat yang membina keseluruhan khidmat pelanggannya di atas satu API menanggung risiko senyap: perubahan harga, versi yang ditamatkan atau perubahan dasar penggunaan boleh menghantarnya kembali ke titik permulaan. Model open-weight tidak menghapuskan risiko itu, tetapi memberi anda jalan keluar: salinan yang anda muat turun kekal milik anda.

Kiraan perkakasan yang biasanya dilangkau oleh tajuk berita

Di sinilah keghairahan bertukar menjadi angka. 770 bilion parameter pada ketepatan FP8 bermaksud lebih kurang satu bait bagi setiap parameter, iaitu lebih daripada 700 gigabait untuk pemberat model sahaja sebelum perkara lain. Tambah memori konteks yang bertambah mengikut panjang perbualan, dan tetingkap satu juta token bermaksud memori tambahan yang besar dalam penggunaan sebenar; kemudian tambah redundansi supaya perkhidmatan tidak tumbang apabila satu nod gagal.

Kesimpulannya, ini model pusat data, bukan model pelayan pejabat. Mengehosnya sendiri ialah keputusan yang menuntut perkakasan khusus dan pasukan operasi yang tahu cara membahagikan model merentas beberapa GPU serta memantau kependaman dan penggunaan. Itu kos tetap yang tidak mengecil apabila penggunaan anda menurun, tidak seperti API yang anda bayar mengikut apa yang digunakan.

Peraturan praktikalnya: hos sendiri hanya masuk akal dalam salah satu daripada dua keadaan. Sama ada anda mempunyai penggunaan besar dan stabil yang menjadikan kos tetap lebih murah daripada penggunaan berubah, atau anda berdepan keperluan kawal selia atau kontrak yang menghalang data daripada keluar dari sempadan yang ditetapkan. Di luar dua keadaan itu, hos sendiri biasanya keputusan emosi dan bukan keputusan ekonomi.

Apa yang menjadikan reka bentuknya menarik dari segi teknikal

Angka yang menonjol pada Hy4 bukan 770 bilion tetapi 49 bilion. Seni bina mixture-of-experts bermaksud model ini mempunyai kapasiti yang sangat besar tetapi hanya mengaktifkan sebahagian kecil dirinya bagi setiap token, jadi anda mendapat kualiti setaraf model utama dengan kos pengiraan yang lebih hampir kepada model bersaiz sederhana. Hala tuju seni bina inilah yang mendekatkan model terbuka kepada model tertutup sepanjang dua tahun lalu.

Tambahan pula terdapat mekanisme perhatian jarang yang menggunakan semula indeks kejarangan merentas lapisan, dan lapisan ramalan berbilang token terbina dalam yang membolehkan penyahkodan spekulatif untuk memendekkan masa penjanaan. Dalam bahasa perniagaan: butiran ini menurunkan kos setiap token dan kependaman, dan dua faktor itu menentukan sama ada sesuatu ciri boleh dilancarkan kepada ribuan pengguna atau kekal sebagai eksperimen dalaman.

Tiga laluan praktikal untuk perniagaan anda

  • API terurus pada model tertutup: laluan terpantas untuk dilancarkan, tiada beban operasi, dan kos berubah yang meningkat dengan penggunaan. Laluan lalai bagi enam bulan pertama mana-mana produk.
  • Hy4 melalui penyedia yang mengehosnya untuk anda: anda mendapat fleksibiliti lesen dan keupayaan berpindah antara penyedia tanpa membeli perkakasan. Inilah jalan tengah praktikal yang ramai terlepas pandang.
  • Hos sendiri sepenuhnya: kawalan maksimum dan kos maksimum. Wajar apabila anda berdepan keperluan residensi data yang ketat atau menjalankan volum operasi yang besar dan stabil.

Soalan yang memutuskan keputusan

Sebelum membelanjakan walau satu riyal pada laluan ini, jawab empat soalan dengan jujur. Jenis data apakah yang akan melalui model, dan adakah sebarang kewajipan kawal selia atau kontrak menghalangnya daripada keluar? Berapakah volum bulanan yang dijangka enam bulan dari sekarang, bukan pada minggu pertama? Adakah anda, atau rakan teknikal anda, mempunyai keupayaan operasi sepanjang masa yang sebenar? Dan adakah anda telah membina lapisan abstraksi dalam aplikasi yang membolehkan anda menukar model tanpa menulis semula produk?

Jika jawapan kepada soalan terakhir ialah tidak, itulah keutamaan anda sebelum sebarang perbincangan tentang model mana yang hendak digunakan. Perbezaan antara syarikat yang fleksibel dengan syarikat yang terperangkap bukan pada memilih model yang betul, tetapi pada membina sistem yang mengekalkan pilihan itu boleh diubah kemudian dengan kos yang munasabah. Baca artikel kami tentang rantau awan tempatan dan residensi data jika residensi ialah pendorong utama anda.

Cara kami mengendalikannya di Origami

Kami membina aplikasi pelanggan supaya model menjadi komponen yang boleh diganti di sebalik antara muka dalaman yang seragam, dan kami menyimpan set penilaian kes pelanggan sebenar yang kami jalankan terhadap mana-mana model calon sebelum menggunakannya. Ini mengubah berita seperti pengeluaran Hy4 daripada tajuk teknikal kepada keputusan yang boleh diukur: jalankan set penilaian, bandingkan kualiti, kos dan kependaman, kemudian putuskan berdasarkan angka, bukan tanggapan.

Sumber