Ada tiga hal yang berubah dalam rencana Anda: jangan membangun di atas kemampuan yang belum dirilis, pastikan orang yang menyetujui asisten AI Anda bukan orang yang mengembangkannya, dan berikan asisten itu tombol pemati sungguhan yang bisa digunakan karyawan nonteknis. Alasannya: pada 12 September 2026, CEO Anthropic Dario Amodei menerbitkan esai berjudul "We Must Pace the Frontier" (Kita harus mengatur laju garis depan), yang berpendapat bahwa industri AI harus memperlambat laju peningkatan kemampuan model, dan memaparkan rencana tiga langkah. Anthropic berkomitmen pada langkah pertama: menempatkan evaluator eksternal independen di dalam kantornya, dengan akses yang hampir setara karyawan dan hak untuk menerbitkan temuan mereka tanpa kendali redaksional dari Anthropic. Dalam hitungan jam, Sam Altman mengatakan OpenAI setuju dan akan membuat komitmen yang sama.

Tiga Langkah sebagaimana Dipaparkan dalam Esai

  • Evaluator yang ditempatkan di dalam lab: organisasi penilai independen seperti METR mendapat akses permanen setingkat karyawan untuk memverifikasi bahwa komitmen keselamatan yang dinyatakan benar-benar diterapkan dan bahwa insiden dilaporkan sebagaimana mestinya. Inilah langkah yang dijanjikan Anthropic sendirian, tanpa menunggu pihak lain.
  • Koordinasi antarlab di negara-negara demokratis: standar keselamatan bersama dan batas yang disepakati atas laju kemajuan yang tidak terkendali, dengan dukungan pemerintah untuk mengatasi kekhawatiran antimonopoli yang akan muncul dari koordinasi semacam itu. Di sini Amodei melontarkan gagasan "titik pemeriksaan": jika sebuah model mencapai kemampuan tertentu, model itu tidak boleh dirilis sebelum sertifikasi tertentu memastikan sifat penyelarasan tertentu — mungkin disertai batasan pada masukan itu sendiri, seperti daya komputasi pelatihan atau penggunaan internal model untuk membangun model lain.
  • Koordinasi global: upaya mencapai kesepahaman dengan pemerintah nondemokratis, melalui empat tingkat yang makin ketat, mulai dari larangan terbatas pada aplikasi tertentu hingga penghentian total pengembangan, disertai pengakuan terbuka tentang betapa sulitnya memverifikasi kepatuhan.

Amodei tidak menyebutkan persentase perlambatan maupun jadwal, tetapi ia mengatakan bahwa membeli "waktu tambahan satu atau dua tahun" sebelum model mencapai tingkat kemampuan kritis akan sangat mengurangi risiko. Pada saat yang sama ia menekankan bahwa kemajuan akan tetap terasa cepat, dan intinya adalah memanfaatkan waktu yang diperoleh dengan bijak, bukan berhenti.

Mengapa Para Pesaing Setuju Begitu Cepat

Kecepatan itulah berita sebenarnya. Industri yang dibangun di atas prinsip "siapa yang sampai lebih dulu, dialah yang menang" mendapati empat nama terbesarnya sepakat dalam satu hari. Latar belakangnya, Demis Hassabis dari Google DeepMind pada 14 Juli telah mengusulkan sebuah badan standar yang didanai industri dan diawasi pemerintah federal, meniru regulator industri keuangan FINRA, yang akan menguji model kelas terdepan hingga tiga puluh hari sebelum dirilis — awalnya secara sukarela, lalu sebagai syarat penerapan di Amerika Serikat.

Dan pada 14 September, hanya dua hari kemudian, Microsoft menerbitkan rancangan kode etik untuk model buatannya sendiri, yang oleh Mustafa Suleyman, pemimpin divisi AI perusahaan itu, digambarkan sebagai semacam konstitusi. Aturan intinya adalah bahwa model tidak boleh sekali pun menolak koreksi atau penghentian, harus berkomunikasi dengan istilah yang dapat dipahami manusia, dan harus memperlakukan setiap pelanggaran kode sebagai kegagalan nyata, bukan kasus pinggiran. Perusahaan membuka masa konsultasi publik selama enam minggu, setelah itu berencana melatih generasi model berikutnya dengan kode versi final.

Apa yang Sebenarnya Berubah di Dalam Bisnis Anda

Tiga perubahan konkret, dan tidak satu pun mengharuskan Anda menunggu undang-undang:

  • Jangan menyusun rencana di atas kemampuan yang belum dirilis. Sangat banyak proyek AI yang macet diam-diam bertumpu pada kalimat "versi berikutnya akan menyelesaikan ini." Jika para pendiri lab sendiri berbicara tentang memperlambat laju, asumsi yang masuk akal adalah bahwa apa yang akan Anda jadikan landasan tahun depan kurang lebih sama dengan apa yang bisa Anda lihat hari ini. Rancang berdasarkan kemampuan yang benar-benar ada, dan ukur sendiri.
  • Prinsip evaluator independen bisa diterapkan pada skala Anda. Inti komitmen Anthropic sederhana: pihak yang membangun sistem bukan pihak yang menyatakannya aman. Di bisnis Anda, artinya siapa pun yang mengembangkan asisten AI sebaiknya bukan orang yang juga menyetujui penggunaannya di hadapan pelanggan. Mintalah orang atau tim lain mengujinya dengan kasus nyata, dengan wewenang sungguhan untuk berkata tidak.
  • Aturan tidak menolak penghentian diterjemahkan menjadi tombol pemati sungguhan. Jika Anda memiliki agen AI yang mengirim pesan, mengubah pesanan, atau menerbitkan faktur, ajukan satu pertanyaan: berapa detik yang dibutuhkan karyawan nonteknis untuk menghentikannya sepenuhnya? Jika jawabannya mengandung "kami menelepon pengembang", Anda tidak punya tombol pemati — Anda punya nomor telepon.

Empat Keputusan yang Layak Mendapat Perhatian Anda Selama Satu Kuartal

  • Tuliskan di satu halaman semua hal yang dapat dilakukan sistem AI Anda tanpa persetujuan manusia, lalu coret setiap tindakan yang tidak dapat dibatalkan: pembayaran, penghapusan, pesan keluar kepada pelanggan eksternal, perubahan stok.
  • Pasang gerbang persetujuan tepat pada tindakan-tindakan itu, dan biarkan sisanya berjalan bebas agar Anda tidak mematikan manfaatnya bersama risikonya.
  • Aktifkan log audit yang menunjukkan apa yang dilakukan sistem, kapan, dan berdasarkan masukan apa — karena pertanyaan pertama setelah kesalahan apa pun adalah "mengapa sistem melakukan itu?"
  • Tentukan sejak awal siapa yang menghentikan sistem dan siapa yang diberi tahu, lalu uji setidaknya sekali sebelum Anda membutuhkannya.

Arah ini sejalan dengan arah yang sudah ditempuh Kerajaan Arab Saudi. Prinsip Etika AI dan Undang-Undang Pelindungan Data Pribadi (PDPL) yang diterbitkan oleh Otoritas Data dan Kecerdasan Buatan Saudi (SDAIA) meminta hal yang sama dengan bahasa berbeda: pengawasan manusia yang jelas, keterjelasan, dan akuntabilitas yang tegas atas keputusan otomatis. Apa yang Anda lakukan hari ini untuk bersiap tidak akan sia-sia.

Dan Apa yang Tidak Berubah

Komitmen ini tidak boleh dibaca lebih besar daripada kenyataannya. Semuanya sepenuhnya sukarela, tanpa mekanisme verifikasi yang mengikat dan tanpa jadwal yang diumumkan. Persaingan dari model bobot terbuka asal Tiongkok tidak tunduk pada semua ini dan akan terus menekan harga turun serta mendorong kemampuan naik. Dan esai Amodei adalah usulan, bukan regulasi. Pesan praktisnya bukan bahwa AI akan berhenti berkembang, melainkan bahwa lapisan yang memisahkan model yang kuat dari bisnis Anda, yaitu tata kelola, pengujian, dan pengawasan, secara resmi telah berubah dari kemewahan menjadi bagian dari produk.

Di Origami, kami membangun sistem AI untuk bisnis dengan logika persis seperti ini sejak hari pertama: gerbang persetujuan pada tindakan yang tidak dapat dibatalkan, log audit yang lengkap, dan pengalihan yang rapi ke manusia ketika percakapan keluar dari cakupan sistem. Bukan karena regulator memintanya, tetapi karena itulah perbedaan antara alat yang Anda percayai di hadapan pelanggan dan alat yang Anda awasi dengan cemas.

Sumber

  • Teks lengkap "We Must Pace the Frontier" karya Dario Amodei, 12 September 2026: darioamodei.com
  • Liputan TechCrunch tentang rencana tersebut, komitmen Anthropic, dan tanggapan Sam Altman: techcrunch.com
  • Liputan CNBC tentang rancangan kode etik AI Microsoft: cnbc.com
  • Otoritas Data dan Kecerdasan Buatan Saudi (SDAIA) — Prinsip Etika AI dan Undang-Undang Pelindungan Data Pribadi: sdaia.gov.sa