Lindungi perusahaan Anda dari risiko AI dengan tujuh langkah: ketahui setiap alat dan agen AI yang berjalan di perusahaan, beri setiap agen akunnya sendiri dengan akses sesedikit mungkin, wajibkan persetujuan manusia sebelum setiap pembayaran, penghapusan, atau pesan kepada pelanggan, jauhkan data pelanggan dari alat yang belum disetujui, tambal sistem yang terhubung ke internet dalam hitungan hari, verifikasi permintaan uang melalui saluran kedua, dan tinjau apa saja yang ditanggung asuransi Anda. Langkah-langkah ini berasal dari peringatan bulan Oktober 2026: Microsoft meminta perusahaan memperlakukan agen sebagai orang dalam yang bisa keliru atau dimanipulasi; dua celah PHP2Shell, salah satunya ditemukan dengan model AI, masuk ke daftar kerentanan yang aktif dieksploitasi 5 hari setelah diungkap; dan prospektus IPO Anthropic memperingatkan bahwa modelnya bisa berperilaku dengan cara yang tidak dimaksudkan oleh pengguna atau pengembang mana pun.
Apa saja peringatan terbaru, dan mengapa penting bagi perusahaan Anda?
Dalam waktu kurang dari sebulan, peringatan datang dari perusahaan yang membangun model AI itu sendiri dan dari lembaga keamanan siber pemerintah. Inilah yang utama, sesuai urutan terbitnya:
| Tanggal | Sumber | Isi peringatan | Artinya bagi Anda |
|---|---|---|---|
| 8 Oktober | Anthropic | Modelnya menemukan lebih dari 29.000 kandidat kerentanan pada perangkat lunak penting dalam 6 bulan, dan manusia hanya sempat meninjau sekitar 6.000 di antaranya (tulisan Anthropic) | Celah ditemukan lebih cepat daripada diperbaiki |
| 19 Oktober | Microsoft | Agen bisa keliru, dimanipulasi, atau dibobol, jadi tidak boleh mewarisi semua izin seorang karyawan (blog keamanan Microsoft) | Setiap agen membutuhkan akun dan izinnya sendiri |
| 21 Oktober | Lembaga AS CISA | Dua celah PHP2Shell memungkinkan penyerang menjalankan kode di server tanpa login; keduanya dimasukkan ke daftar kerentanan yang aktif dieksploitasi pada 26 Oktober (peringatan CISA) | Menambal kini soal hitungan hari |
| 21 Oktober | Fortinet | AI membantu penyerang membuat eksploit yang berfungsi dari tambalan itu sendiri dalam hitungan jam atau hari, bukan minggu (blog Fortinet) | Perangkat yang terhubung ke internet lebih dulu |
| 26 Oktober | Anthropic | Prospektus IPO-nya menyatakan bahwa modelnya bisa berperilaku dengan cara yang tidak dimaksudkan oleh pengguna atau pengembang mana pun, dan asuransinya mungkin tidak cukup (formulir S-1) | Tinjau kontrak dan asuransi Anda |
| 27 Oktober | Anthropic | Claude menulis eksploit yang memberi penyerang akses root pada server Linux yang menerima koneksi MPTCP (tulisan Anthropic) | Celah server makin dekat untuk dieksploitasi |
Kesamaan peringatan-peringatan ini adalah bahwa AI menaikkan risiko dari dua arah: dari luar, karena penyerang kini menemukan dan mengeksploitasi celah lebih cepat, dan dari dalam, ketika sebuah alat atau agen mendapat akses lebih besar daripada yang dibutuhkannya. OpenAI, yang memimpin koalisi penanganan celah PHP, menyebutnya sebagai salah satu masalah keamanan paling berdampak dalam ingatan baru-baru ini dan menyatakan bahwa "kemampuan yang sama juga dapat membantu penyerang dengan cepat mengembangkan alat serangan dan eksploit". Perusahaan itu memperkirakan temuan serupa "akan meningkat tajam dalam beberapa bulan mendatang". Prospektus IPO Anthropic menambahkan bahwa "pihak jahat telah melakukan serangan siber berskala besar dengan memanfaatkan kemampuan AI untuk menemukan kerentanan, membuat malware, dan menghindari alat deteksi".
Bagaimana melindungi perusahaan Anda? 7 tips praktis
- Ketahui setiap alat dan agen AI yang berjalan di perusahaan Anda. Microsoft mengatakannya dengan lugas: "Anda tidak bisa mengamankan apa yang tidak bisa Anda lihat." Perusahaan itu memperluas alatnya agar bisa mendeteksi 60 jenis agen yang berjalan di perangkat karyawan, termasuk Claude Code, OpenAI Codex, dan GitHub Copilot, karena sebagian agen masuk ke perangkat tanpa penerapan terpusat apa pun. Mulailah dengan satu lembar daftar yang memuat setiap alat, siapa yang memakainya, data apa yang bisa dijangkaunya, apakah akunnya pribadi atau bisnis, dan siapa penanggung jawabnya. Lembar yang sama ini juga menjadi titik awal kerangka nasional SDAIA untuk manajemen risiko AI.
- Beri setiap agen akunnya sendiri dan akses sesedikit mungkin. Contoh dari Microsoft adalah agen yang memeriksa klaim pengeluaran: agen itu perlu membaca klaim dan kebijakan perusahaan, tetapi tidak boleh mewarisi semua izin karyawan yang menyiapkannya. Microsoft menyarankan agar agen dimulai tanpa wewenang apa pun, hanya menerima apa yang dibutuhkan tugasnya dan hanya selama tugas itu berlangsung, serta agar tindakan berdampak besar memerlukan persetujuan manusia yang terverifikasi. Dalam praktiknya: jangan hubungkan agen ke akun manajer, jangan berikan kata sandi bank perusahaan kepadanya, pisahkan akses baca dari akses tulis, hapus kunci yang terlupakan di kode dan pengaturan yang membuka akses lebih dari yang diperlukan, dan simpan cara untuk menghentikannya seketika. CEO Microsoft Satya Nadella merangkumnya begini: "Sistem agen yang paling tepercaya bukanlah sistem dengan model yang paling kita percayai. Melainkan sistem yang dirancang agar kita bisa sesedikit mungkin memercayai modelnya."
- Jangan biarkan agen bertindak berdasarkan isi email, berkas, atau halaman web yang dibacanya tanpa pemeriksaan. Prospektus IPO Anthropic mendefinisikan injeksi prompt sebagai serangan yang menyisipkan instruksi jahat ke dalam konten yang harus diproses model, seperti situs web, dokumen, atau keluaran alat, untuk memanipulasi perilakunya, biasanya tanpa sepengetahuan pengguna. Agen yang membaca email pelanggan dan bisa mentransfer, menghapus, atau mengirim berpotensi menjalankan perintah yang ditulis penyerang di dalam sebuah pesan. Microsoft menggambarkan skenario yang sama: agen pengeluaran bisa menemukan injeksi prompt di dokumen eksternal, dan perilakunya berubah meskipun konfigurasinya tidak berubah. Pastikan setiap langkah yang mengeluarkan uang atau data dari perusahaan melewati persetujuan karyawan, terutama setelah agen membaca konten dari luar. Risiko yang sama kami lihat pada agen pemrograman yang menjalankan perintah penyerang begitu proyek dibuka.
- Jauhkan data pelanggan dari alat yang belum disetujui. Menurut Pusat Bantuan OpenAI, secara bawaan OpenAI tidak memakai masukan maupun keluaran dari ChatGPT Business, ChatGPT Enterprise, atau API-nya untuk meningkatkan modelnya, sedangkan konten dari paket individu Free, Plus, dan Pro bisa dipakai untuk pelatihan kecuali pengguna mematikannya di pengaturan. Anthropic menyatakan bahwa secara bawaan ia tidak melatih model dengan masukan dari produk komersialnya, seperti Claude for Work dan API-nya. Karena itu, standarkan penggunaan akun bisnis dan beri tahu karyawan secara tertulis apa saja yang tidak boleh masuk ke alat mana pun: data pribadi pelanggan, kontrak, dan kata sandi. Jika Anda memasukkan data pribadi pelanggan ke alat AI, penyedia alat itu memproses data tersebut atas nama Anda, dan Pasal 17 peraturan pelaksanaan Undang-Undang Perlindungan Data Pribadi Arab Saudi (PDPL) mewajibkan Anda memilih pemroses yang memberikan jaminan memadai, dengan perjanjian yang menetapkan tujuan dan jangka waktu pemrosesan serta kewajiban pemroses untuk memberi tahu Anda tentang setiap kebocoran. Jika kebocoran dapat merugikan orang yang bersangkutan, Pasal 24 mewajibkan Anda memberi tahu otoritas berwenang dalam 72 jam sejak Anda mengetahuinya.
- Tambal sistem yang terhubung ke internet dalam hitungan hari, bukan minggu. Fortinet menyatakan bahwa alat AI kini membantu penyerang merekayasa balik tambalan dan membuat eksploit yang berfungsi "dalam hitungan jam atau hari, bukan minggu", dan bahwa "jeda antara pengungkapan dan eksploitasi terus menyempit". Anthropic menyebut bahwa eksploit kini bisa dikembangkan dalam hitungan menit. Karena itulah, untuk celah PHP2Shell, CISA meminta langkah yang jelas: mendata setiap sistem yang menjalankan PHP, segera memasang tambalan dimulai dari sistem yang terhubung ke internet, dan memutus dari jaringan sistem yang tidak bisa diperbarui sampai sistem itu diperbarui, dengan catatan bahwa web application firewall (WAF) bisa memberi sedikit perlindungan sementara itu. Otoritas Keamanan Siber Nasional Arab Saudi (NCA) juga menerbitkan peringatan yang menyarankan pembaruan produk yang terdampak. Terapkan aturan yang sama pada setiap sistem yang terbuka: situs web, firewall, VPN, dan email. Rinciannya ada di artikel kami tentang celah PHP2Shell, kerentanan baru Linux, dan firewall FortiGate.
- Verifikasi setiap permintaan uang atau data melalui saluran kedua. Dalam kampanye kesadaran tentang deepfake, SDAIA dan Komisi Komunikasi, Antariksa, dan Teknologi (CST) menyatakan bahwa "melihat seseorang dalam video atau mendengar suaranya bukan bukti bahwa ia mengatakannya", dan menyebut kerugian finansial dan penipuan, pembobolan sistem verifikasi, serta pencurian identitas sebagai risikonya. Jadi, jangan pernah mentransfer uang atau mengirim data hanya berdasarkan telepon, pesan suara, atau video, meskipun suaranya terdengar seperti suara manajer. Telepon balik orang tersebut di nomor yang sudah Anda miliki, dan wajibkan dua tanda tangan untuk setiap transfer di atas batas yang Anda tetapkan. Kami menjelaskan lapisan perlindungannya di artikel kami tentang deepfake dan penipuan AI, serta cara menutup setiap jalur yang memindahkan uang perusahaan Anda tanpa tanda tangan Anda di pelajaran dari peretasan Binance.
- Tinjau apa yang ditanggung asuransi Anda dan apa isi kontrak pemasok Anda. Prospektus IPO Anthropic menyatakan: "Karena model kami dapat berperilaku dengan cara yang tidak dimaksudkan oleh pengguna atau pengembang mana pun, klaim yang timbul dari tindakan tersebut dapat menimbulkan tanggung jawab yang besar." Prospektus itu menambahkan bahwa polis asuransinya mungkin tidak memberikan perlindungan yang cukup dan bahwa "pasar asuransi untuk risiko khusus AI masih baru dan terus berkembang". Jika begitu keadaan perusahaan yang membangun modelnya, tanyakan secara tertulis kepada perusahaan asuransi Anda: apakah polis menanggung kebocoran data yang disebabkan agen AI, atau transfer palsu yang dilakukan dengan suara kloningan? Lalu tanyakan kepada setiap penyedia alat di mana data Anda disimpan, berapa lama disimpan, dan kapan ia akan memberi tahu Anda tentang suatu insiden.
Apa kata otoritas Arab Saudi?
Ada tiga rujukan penting bagi setiap bisnis di Arab Saudi yang memakai AI:
- SDAIA meluncurkan kerangka nasional manajemen risiko AI sebagai rujukan panduan bagi lembaga pemerintah dan swasta; kami telah menjelaskan empat tahapannya dan cara perusahaan Anda menerapkannya.
- Otoritas Keamanan Siber Nasional (NCA) membuka draf pedoman keamanan siber untuk AI untuk konsultasi publik, dengan 5 Agustus 2026 sebagai batas akhir pengiriman masukan. Draf itu bertumpu pada 4 ranah: tata kelola keamanan siber, pertahanan, ketahanan, dan keamanan siber pihak ketiga, serta mencakup AI generatif dan AI agentik.
- Undang-Undang Perlindungan Data Pribadi (PDPL) mengikat setiap bisnis yang memproses data pribadi, termasuk Pasal 17 dan 24 peraturan pelaksanaannya yang disebut di atas. Informasi lebih lanjut ada di panduan praktis kami tentang undang-undang ini.
Apa rencana untuk 30 hari pertama?
| Minggu | Yang perlu dilakukan | Hasil |
|---|---|---|
| 1 | Daftarkan alat, agen, dan akun AI Anda, lalu tunjuk penanggung jawab untuk setiap alat | Satu lembar yang menunjukkan siapa memakai apa |
| 2 | Pindahkan penggunaan ke akun bisnis, beri setiap agen akun dan izinnya sendiri, dan tambahkan persetujuan manusia untuk pembayaran, penghapusan, dan pesan keluar | Tidak ada agen yang memegang akses penuh seorang karyawan |
| 3 | Tambal sistem yang terhubung ke internet, aktifkan web application firewall, dan terapkan verifikasi lewat saluran kedua untuk permintaan transfer | Lebih sedikit celah yang diketahui, penipuan lebih sulit |
| 4 | Tulis kebijakan satu halaman dan latih karyawan dengan kebijakan itu, lalu kirim pertanyaan Anda kepada perusahaan asuransi dan pemasok | Aturan tertulis dan jawaban yang terdokumentasi |
Pandangan Origami
Kami tidak melihat peringatan-peringatan ini sebagai alasan untuk mematikan AI di perusahaan Anda, melainkan sebagai alasan untuk menjalankannya dalam batas yang jelas. Microsoft sendiri mengatakan bahwa tujuannya bukan model yang setiap tindakannya bisa diprediksi, melainkan "sistem yang tetap aman bahkan ketika modelnya tidak". Di Origami, kami membangun fitur dan agen AI ke dalam sistem perusahaan dengan izin terbatas, langkah persetujuan, dan log yang jelas, meninjau kode yang dibuat dengan alat AI dan menutup celahnya, serta memperbarui server dan aplikasi yang terhubung ke internet. Hubungi kami untuk meninjau alat dan agen Anda bersama-sama.
Poin penting
- Peringatan bulan Oktober 2026 menunjukkan bahwa AI mempercepat penemuan dan eksploitasi celah, bahwa agen bisa keliru atau dimanipulasi, dan bahwa model bisa berperilaku dengan cara yang tidak dimaksudkan siapa pun.
- Ketahui alat dan agen Anda, beri setiap agen akses paling minim, dan wajibkan persetujuan manusia sebelum langkah keuangan dan langkah sensitif.
- Gunakan akun bisnis yang secara bawaan tidak melatih model dengan data Anda, dan jauhkan data pelanggan dari alat yang belum disetujui.
- Tambal sistem yang terbuka dalam hitungan hari, verifikasi permintaan uang lewat saluran kedua, dan tinjau asuransi serta kontrak pemasok Anda.
Sumber
- Microsoft: Agen adalah orang dalam terbaru Anda, 19 Oktober 2026
- OpenAI: Patch the Planet, koordinasi penanganan celah kritis PHP
- CISA: Kerentanan kritis di PHP memerlukan penambalan segera
- Otoritas Keamanan Siber Nasional Arab Saudi (NCA): peringatan PHP
- Fortinet: Rilis penguatan keamanan untuk berbagai produk
- Anthropic: Layanan opsional pencarian kerentanan untuk perangkat lunak sumber terbuka, 8 Oktober 2026
- Anthropic: Menemukan dan mengeksploitasi kerentanan dengan Claude, 27 Oktober 2026
- Anthropic: Pernyataan pendaftaran S-1 di Komisi Sekuritas dan Bursa AS (SEC)
- SPA: SDAIA meluncurkan kerangka nasional manajemen risiko AI
- Otoritas Keamanan Siber Nasional Arab Saudi (NCA): konsultasi pedoman keamanan siber untuk AI
- SDAIA dan CST: Deepfake dan video palsu
- SDAIA: Peraturan pelaksanaan Undang-Undang Perlindungan Data Pribadi
- OpenAI: Bagaimana data Anda digunakan untuk meningkatkan kinerja model
- Anthropic: Apakah data saya digunakan untuk melatih model?
Tanya jawab
Apa risiko AI terbesar bagi perusahaan saat ini?
Ada tiga: penyerang yang memakai AI untuk menemukan dan mengeksploitasi celah lebih cepat, agen dengan akses luas yang bisa keliru atau dimanipulasi lewat instruksi tersembunyi, dan data pelanggan yang masuk ke alat yang belum disetujui. Selain itu, ada penipuan dengan suara dan video palsu (deepfake).
Apakah saya perlu melarang karyawan memakai ChatGPT dan alat AI lainnya?
Larangan tidak diperlukan. Setujui alat dengan akun bisnis yang secara bawaan tidak melatih model dengan data Anda, seperti ChatGPT Business dan Claude for Work, lalu tetapkan secara tertulis apa saja yang tidak boleh dimasukkan ke alat mana pun, seperti data pribadi pelanggan, kontrak, dan kata sandi.
Apakah agen AI aman?
Tidak dengan sendirinya. Microsoft menyarankan untuk berasumsi bahwa agen bisa gagal atau dibobol, dan menempatkan kontrol atas apa yang bisa dijangkau dan dilakukannya di luar model agar agen tidak bisa melewatinya, disertai hak akses minimum dan persetujuan manusia sebelum langkah penting.
Apakah regulasi Arab Saudi mewajibkan saya mengelola risiko AI?
Kerangka SDAIA bersifat panduan, sedangkan pedoman Otoritas Keamanan Siber Nasional (NCA) diterbitkan sebagai draf untuk konsultasi publik. Undang-Undang Perlindungan Data Pribadi (PDPL) bersifat mengikat, dan peraturan pelaksanaannya mewajibkan pemberitahuan kepada otoritas berwenang dalam 72 jam sejak mengetahui kebocoran yang dapat merugikan orang yang bersangkutan.
Apakah asuransi siber menanggung insiden AI?
Itu tergantung pada isi polisnya. Bahkan Anthropic menyebutkan dalam prospektus IPO-nya bahwa asuransinya mungkin tidak memberikan perlindungan yang cukup, jadi tanyakan secara tertulis kepada perusahaan asuransi Anda tentang kebocoran data yang disebabkan agen AI dan transfer palsu yang dilakukan dengan suara kloningan.
