Tiga perkara berubah dalam pelan anda: jangan bina di atas keupayaan yang belum dilancarkan, pastikan orang yang meluluskan pembantu AI anda bukan orang yang membangunkannya, dan berikan ia suis pemati sebenar yang boleh digunakan oleh pekerja bukan teknikal. Sebabnya: pada 12 September 2026, Ketua Pegawai Eksekutif Anthropic, Dario Amodei, menerbitkan esei bertajuk "We Must Pace the Frontier" (Kita mesti mengawal rentak barisan hadapan), yang berhujah bahawa industri AI mesti memperlahankan rentak peningkatan keupayaan model, dan membentangkan pelan tiga langkah. Anthropic komited kepada langkah pertama, iaitu menempatkan penilai luar yang bebas di dalam pejabatnya, dengan akses yang hampir sama seperti pekerja dan hak untuk menerbitkan dapatan mereka tanpa kawalan editorial oleh Anthropic. Dalam masa beberapa jam, Sam Altman berkata OpenAI bersetuju dan akan membuat komitmen yang sama.

Tiga Langkah seperti yang Dihuraikan dalam Esei

  • Penilai yang ditempatkan di dalam makmal: organisasi penilaian bebas seperti METR mendapat akses tetap di peringkat pekerja untuk mengesahkan bahawa komitmen keselamatan yang dinyatakan benar-benar dilaksanakan dan insiden dilaporkan sebagaimana sepatutnya. Inilah langkah yang dijanjikan oleh Anthropic seorang diri, tanpa menunggu pihak lain.
  • Penyelarasan antara makmal di negara demokratik: piawaian keselamatan bersama dan had yang dipersetujui terhadap rentak kemajuan tanpa kawalan, dengan sokongan kerajaan untuk menangani kebimbangan antipersaingan yang akan timbul daripada penyelarasan sedemikian. Di sini Amodei mengemukakan idea "titik semakan": jika sesebuah model mencapai keupayaan tertentu, ia tidak sepatutnya dilancarkan sebelum pensijilan khusus mengesahkan sifat penjajaran tertentu — mungkin bersama had ke atas input itu sendiri, seperti kuasa pengkomputeran latihan atau penggunaan dalaman model untuk membina model lain.
  • Penyelarasan global: usaha untuk mencapai persefahaman dengan kerajaan bukan demokratik, merentasi empat peringkat yang semakin meningkat, daripada larangan sempit ke atas aplikasi tertentu hinggalah penangguhan pembangunan sepenuhnya, dengan pengakuan jelas tentang betapa sukarnya pematuhan untuk disahkan.

Amodei tidak memberikan sebarang peratusan perlahanan mahupun jadual masa, tetapi beliau berkata bahawa mendapatkan "setahun dua lagi" sebelum model mencapai tahap keupayaan kritikal akan mengurangkan risiko dengan ketara. Pada masa yang sama, beliau menegaskan bahawa kemajuan masih akan kelihatan pantas, dan tujuannya adalah untuk menggunakan masa yang diperoleh dengan bijak, bukan untuk berhenti.

Mengapa Para Pesaing Bersetuju Begitu Pantas

Kepantasan itulah berita sebenarnya. Industri yang dibina atas prinsip "siapa sampai dahulu, dialah yang menang" menyaksikan empat nama terbesarnya sebaris dalam masa sehari. Latar belakangnya, Demis Hassabis dari Google DeepMind pada 14 Julai telah mencadangkan sebuah badan piawaian yang dibiayai industri dan diselia di peringkat persekutuan, berdasarkan model pengawal selia industri kewangan FINRA, yang akan menguji model kelas barisan hadapan sehingga tiga puluh hari sebelum pelancaran — pada mulanya secara sukarela, kemudian sebagai syarat untuk digunakan di Amerika Syarikat.

Dan pada 14 September, hanya dua hari kemudian, Microsoft menerbitkan draf tatakelakuan bagi model dalamannya, yang digambarkan oleh Mustafa Suleyman, ketua bahagian AI syarikat itu, sebagai sejenis perlembagaan. Peraturan terasnya ialah model tidak boleh sama sekali menentang pembetulan atau penutupan, mesti berkomunikasi dengan istilah yang boleh difahami manusia, dan mesti menganggap sebarang pelanggaran tatakelakuan sebagai kegagalan mutlak, bukan kes terpencil. Syarikat itu membuka tempoh komen awam selama enam minggu, dan selepas itu merancang untuk melatih generasi model seterusnya berdasarkan tatakelakuan yang dimuktamadkan.

Apa yang Benar-benar Berubah dalam Perniagaan Anda

Tiga perubahan konkrit, dan tiada satu pun memerlukan anda menunggu perundangan:

  • Jangan bina pelan di atas keupayaan yang belum dilancarkan. Banyak sekali projek AI yang tergendala secara tersirat bergantung pada ayat "versi seterusnya akan menyelesaikannya." Jika pengasas makmal sendiri bercakap tentang memperlahankan rentak, andaian yang wajar ialah apa yang akan anda jadikan asas tahun depan lebih kurang sama dengan apa yang anda boleh lihat hari ini. Reka bentuk berdasarkan keupayaan yang benar-benar wujud, dan ukur sendiri.
  • Prinsip penilai bebas boleh disesuaikan dengan saiz anda. Teras komitmen Anthropic adalah mudah: pihak yang membina sistem bukan pihak yang mengesahkannya selamat. Dalam perniagaan anda, ini bermakna sesiapa yang membangunkan pembantu AI tidak sepatutnya juga menjadi orang yang meluluskan penggunaannya di hadapan pelanggan. Minta orang atau pasukan lain mengujinya dengan kes sebenar, dengan kuasa sebenar untuk berkata tidak.
  • Peraturan tidak menentang penutupan diterjemahkan menjadi suis pemati sebenar. Jika anda mempunyai ejen AI yang menghantar mesej, mengubah pesanan atau mengeluarkan invois, tanya satu soalan: berapa saat yang diperlukan oleh pekerja bukan teknikal untuk menghentikannya sepenuhnya? Jika jawapannya melibatkan "kami telefon pembangun", anda tidak mempunyai suis pemati — anda mempunyai nombor telefon.

Empat Keputusan yang Wajar Mendapat Perhatian Anda Selama Satu Suku Tahun

  • Tulis dalam satu halaman segala yang boleh dilakukan oleh sistem AI anda tanpa kelulusan manusia, kemudian potong setiap tindakan yang tidak boleh diundur: pembayaran, pemadaman, mesej keluar kepada pelanggan luar, perubahan inventori.
  • Letakkan pintu kelulusan tepat pada tindakan-tindakan itu, dan biarkan selebihnya berjalan bebas supaya anda tidak membunuh manfaat bersama-sama risikonya.
  • Hidupkan log audit yang menunjukkan apa yang dilakukan sistem, bila, dan berdasarkan input apa — kerana soalan pertama selepas sebarang kesilapan ialah "mengapa ia berbuat begitu?"
  • Tentukan lebih awal siapa yang menghentikan sistem dan siapa yang dimaklumkan, dan ujinya sekurang-kurangnya sekali sebelum anda memerlukannya.

Hala tuju ini selari dengan arah yang sudah pun diambil oleh Kerajaan Arab Saudi. Prinsip Etika AI dan Akta Perlindungan Data Peribadi (PDPL) yang dikeluarkan oleh Pihak Berkuasa Data dan Kecerdasan Buatan Saudi (SDAIA) meminta perkara yang sama dalam bahasa yang berbeza: pengawasan manusia yang jelas, kebolehjelasan dan akauntabiliti yang ditetapkan bagi keputusan automatik. Apa yang anda lakukan hari ini sebagai persediaan tidak akan sia-sia.

Dan Apa yang Tidak Berubah

Komitmen ini tidak harus dibaca sebagai lebih besar daripada hakikatnya. Ia sepenuhnya sukarela, tanpa mekanisme pengesahan yang mengikat dan tanpa jadual masa yang diumumkan. Persaingan daripada model pemberat terbuka yang datang dari China tidak tertakluk kepada mana-mana perkara ini dan akan terus menolak harga ke bawah dan keupayaan ke atas. Dan esei Amodei ialah cadangan, bukan peraturan. Mesej praktikalnya bukanlah bahawa AI akan berhenti bertambah baik — tetapi lapisan yang memisahkan model yang berkuasa daripada perniagaan anda, iaitu tadbir urus, ujian dan pengawasan, secara rasmi telah beralih daripada kemewahan kepada sebahagian daripada produk.

Di Origami, kami membina sistem AI untuk perniagaan dengan logik yang sama sejak hari pertama: pintu kelulusan pada tindakan yang tidak boleh diundur, log audit yang lengkap, dan penyerahan yang kemas kepada manusia apabila perbualan keluar daripada skop sistem. Bukan kerana pengawal selia memintanya, tetapi kerana itulah perbezaan antara alat yang anda percayai di hadapan pelanggan dan alat yang anda perhatikan dengan cemas.

Sumber

  • Teks penuh "We Must Pace the Frontier" oleh Dario Amodei, 12 September 2026: darioamodei.com
  • Liputan TechCrunch tentang pelan itu, komitmen Anthropic dan respons Sam Altman: techcrunch.com
  • Liputan CNBC tentang draf tatakelakuan AI Microsoft: cnbc.com
  • Pihak Berkuasa Data dan Kecerdasan Buatan Saudi (SDAIA) — Prinsip Etika AI dan Akta Perlindungan Data Peribadi: sdaia.gov.sa