Jawaban singkatnya lebih dulu: pada 13 Agustus 2026 Mixedbread meluncurkan model bernama Toast 1. Ini bukan model umum yang Anda ajak mengobrol — ini adalah agen pencarian khusus yang satu-satunya tugasnya adalah menggali dokumen Anda dan kembali dengan membawa bukti. Yang layak mendapat perhatian pemilik bisnis bukanlah nama produknya, melainkan apa yang diungkapnya: sebagian besar dari yang Anda bayar untuk AI saat ini habis untuk aktivitas mencari, bukan berpikir, dan memisahkan keduanya memangkas biaya secara substansial sekaligus meningkatkan kualitas jawaban.

Apa yang sebenarnya diumumkan

Menurut pengumuman resmi perusahaan tersebut, Toast 1 adalah agen pencarian yang dilatih untuk satu tugas: ia menerima pertanyaan, memecahnya menjadi subkueri, mengumpulkan bukti dari sumber-sumber Anda, memeriksanya, lalu menyerahkan paket terkurasi berisi materi yang relevan. Ia tidak menulis jawaban akhir Anda — ia menyiapkan bahan mentah yang kemudian menjadi dasar penalaran model besar.

Perusahaan itu menyatakan bahwa kualitas pencariannya secara khusus setara atau melampaui model terdepan, dengan biaya hingga sepuluh kali lebih rendah dan dua belas kali lebih cepat. Itu adalah angka dari vendor dan harus dibaca demikian, tetapi klaim yang lebih penting menyangkut arsitektur: Anda tidak perlu mengubah pengaturan yang ada, dan model ini berjalan di atas indeks pengambilan yang sudah Anda miliki tanpa memigrasikan data Anda ke tempat baru.

Harga peluncuran yang diumumkan adalah $0,30 per juta token input, $0,036 per juta token input yang di-cache, dan $0,72 per juta token output. Dalam praktiknya, perusahaan itu memperkirakan satu kueri sekitar $0,016 hingga $0,023 dengan latensi median delapan detik, naik pada konfigurasi berkualitas tertinggi menjadi sekitar $0,05 hingga $0,07 dengan median sebelas detik.

Mengapa ini penting bagi pemilik bisnis: ekonomi pencarian

Saat Anda membangun asisten di atas dokumen perusahaan, Anda mengira sebagian besar biaya ada pada penyusunan jawaban. Kenyataannya justru sebaliknya. Model membaca puluhan dokumen untuk menemukan tiga baris yang berguna, dan Anda membayar untuk semua yang dibacanya, bukan untuk yang digunakannya. Itulah sebabnya tagihan membengkak seiring bertambahnya arsip Anda, jawaban menjadi lambat, dan jawaban yang tepat makin sering tenggelam dalam kebisingan.

Yang dilakukan agen pencarian khusus adalah memindahkan pekerjaan berat itu ke model yang lebih murah dan lebih cepat, yang dilatih tepat untuk itu, lalu meneruskan hasil yang sudah diringkas ke model besar. Model besar tetap dilibatkan, tetapi kemampuannya dipakai untuk hal yang tidak bisa dikerjakan dengan baik oleh yang lain: memahami, menarik kesimpulan, dan merumuskan keputusan.

Aturan praktisnya: jangan membayar harga model terdepan untuk pekerjaan yang menyerupai tugas seorang arsiparis. Belilah kemampuan berpikir dari model yang mahal dan kemampuan mencari dari model yang murah.

Angka dari dua tolok ukur independen

Klaim pemasaran bisa diperdebatkan; tolok ukur yang dipublikasikan lebih jelas. Pada OfficeQA Pro v2, yang dirilis Databricks untuk mengukur ketepatan jawaban atas sembilan puluh pertanyaan tentang situasi keuangan perusahaan yang kompleks dan realistis, GPT-5.6 Sol dengan Toast 1 tersedia sebagai subagen mencapai ketepatan 70% dengan biaya sekitar $1,15 per tugas. Sebagai perbandingan, pencapaian terbaik sebelumnya hanya 60% dengan biaya sekitar $4 per tugas, sementara model yang sama tanpa agen pencarian hanya mencapai 33%. Menambahkan lapisan pencarian kira-kira menggandakan akurasi sekaligus memangkas biaya.

Pada tolok ukur pengetahuan firma hukum dari Harvey, pada subset berisi tiga puluh tiga tugas, kualitas jawaban tetap stabil sementara konsumsi token turun dari 80,6 juta menjadi 47 juta hanya dengan memperbaiki pencarian, lalu menjadi 23 juta setelah agen pencarian khusus ditambahkan — selesai dalam separuh jumlah giliran, dengan penurunan biaya lebih dari 60%.

Perhatikan pelajaran yang sama di keduanya: kemampuan model untuk bernalar tidak berubah. Yang berubah adalah kualitas materi yang sampai kepadanya. Itulah persis yang kami lihat dalam proyek klien — asisten perusahaan yang gagal jarang kekurangan kecerdasan; yang kurang adalah asupannya.

Di mana hal ini muncul dalam bisnis Anda di Saudi

  • Kontrak dan perjanjian. Pertanyaan seperti "kontrak kita yang mana saja yang mengizinkan pemutusan dengan pemberitahuan tiga puluh hari?" adalah pertanyaan pencarian, bukan pertanyaan penalaran, dan saat ini menyita berjam-jam waktu seorang staf hukum.
  • Dokumen tender dan RFP. Mengekstrak persyaratan kualifikasi, denda, dan tanggal pengiriman dari ratusan halaman sebelum Anda bahkan memutuskan apakah akan ikut menawar.
  • Faktur dan tagihan termin. Menelusuri satu pos biaya di sepanjang dokumen bertahun-tahun untuk menemukan di mana laba bocor.
  • Arsip SDM. Kebijakan cuti, tunjangan, dan tanggal berakhirnya izin tinggal yang tersebar di berbagai berkas dan sistem yang tidak saling terhubung.
  • Layanan pelanggan. Asisten yang menjawab berdasarkan manual produk dan notulen rapat alih-alih mengarang jawaban.

Dalam setiap kasus ini, aset sebenarnya yang Anda miliki bukanlah model — melainkan arsip. Model bisa diganti dalam seminggu; arsip yang tertata baik hanya dibangun sekali.

Tiga pertanyaan yang perlu diajukan sebelum membeli

Pertama: berapa biaya satu pertanyaan bagi saya, bukan berapa biaya langganan bulanannya? Jika vendor Anda tidak punya jawaban dalam angka, Anda tidak tahu akan menjadi apa tagihan Anda saat skala bertambah.

Kedua: apakah lapisan pencarian terpisah dari model? Pemisahan berarti Anda bisa mengganti model besar besok tanpa membangun ulang semuanya, dan itu adalah pelindung paling kuat terhadap fluktuasi harga penyedia.

Ketiga: di mana dokumen saya disimpan, dan apakah dokumen itu keluar dari sana? Itu adalah pertanyaan tata kelola sebelum menjadi pertanyaan teknis, dan berkaitan langsung dengan kewajiban Anda berdasarkan Undang-Undang Perlindungan Data Pribadi (PDPL) jika arsip Anda berisi data pelanggan atau karyawan.

Cara kami menanganinya di Origami

Kami tidak menjual model tertentu, dan kami tidak menyarankan klien untuk mengikat operasinya pada satu penyedia hanya karena penyedia itu masuk berita minggu ini. Yang kami bangun adalah arsitektur yang menjaga model tetap menjadi komponen yang bisa diganti: sumber pengetahuan tertata yang menjadi milik Anda, lapisan pencarian yang independen, izin akses yang jelas yang menentukan siapa melihat apa, dan biaya yang diukur per kueri, bukan per tagihan bulanan.

Jika perusahaan Anda menyimpan arsip besar yang belum pernah dimanfaatkan, mulailah dari pertanyaan berulang dan mahal yang paling sempit cakupannya, lalu ukur waktu dan biaya sebelum dan sesudahnya. Satu langkah kecil yang terukur lebih berharga daripada program AI yang luas tanpa satu pun indikator yang melekat padanya.

Sumber