Pada 17 September 2026, Suruhanjaya Eropah menerima pakai cadangannya untuk EU KIDS Act. Ringkasnya: mana-mana perkhidmatan digital yang mungkin digunakan oleh kanak-kanak bawah umur di EU — rangkaian sosial, platform video, permainan, kedai aplikasi atau chatbot AI — perlu menunjukkan bahawa ia selamat sejak reka bentuk, dan bukannya menunggu aduan. Bawah 13 tahun, tiada akaun bebas langsung. Antara 13 hingga 14 tahun, akaun mini yang diselia di bawah kawalan ibu bapa. Akaun bebas bermula pada usia 15 tahun. Chatbot AI dan teman AI dimatikan secara lalai untuk golongan bawah umur. Ketidakpatuhan boleh dikenakan denda sehingga 6% daripada jumlah perolehan tahunan di seluruh dunia.

Cadangan ini belum menjadi undang-undang — ia masih perlu dirundingkan dengan Parlimen Eropah dan negara anggota. Tetapi hala tuju peraturan kini cukup jelas untuk mempengaruhi keputusan teknikal yang anda buat dalam produk anda hari ini.

Apa yang sebenarnya berubah dalam peraturan

Peraturan terdahulu hanya bertanya satu soalan: adakah anda menurunkan kandungan berbahaya selepas ia dilaporkan? KIDS Act membalikkannya dan sebaliknya bertanya: adakah anda mereka bentuk perkhidmatan itu supaya seseorang yang terlalu muda untuk menggunakannya tidak pernah dapat masuk? Suruhanjaya sendiri menyatakan bahawa cadangan ini membalikkan beban pembuktian dan meletakkannya pada pembekal perkhidmatan.

Skopnya lebih luas daripada yang disangka kebanyakan orang. Ini bukan hanya tentang platform sosial yang besar. Ia meliputi permainan, kedai aplikasi dan perkhidmatan perkongsian video yang mempunyai ciri berisiko yang terbukti, dan secara jelas meliputi chatbot AI dan teman AI. Dalam erti kata lain: jika produk anda mempunyai pembantu yang bercakap dengan pengguna, anda termasuk dalam skop walaupun anda bukan syarikat media sosial.

Fasal yang penting bagi sesiapa yang menambah pembantu AI

Inilah bahagian paling penting bagi mana-mana perniagaan yang memasang chatbot pada kedai atau aplikasinya dalam dua tahun kebelakangan ini. Cadangan ini mensyaratkan bahawa teman AI tidak boleh menyerupai hubungan manusia dengan cara yang mungkin mewujudkan kebergantungan emosi. Dari segi praktikal, ini membawa kepada tingkah laku lalai yang berbeza: perbualan tidak membawa memori dari satu sesi ke sesi lain secara lalai, dan akses untuk mereka yang berumur bawah 13 tahun hanya melalui kawalan ibu bapa.

Ia juga menambah satu kewajipan yang tiada kaitan dengan antara muka: chatbot mesti diuji untuk risiko keselamatan kanak-kanak sebelum pelancaran dan dipantau selepasnya. Sesiapa yang menjalankan pembantu AI tanpa log perbualan yang boleh disemak dan tanpa cara untuk mengukur tingkah lakunya akan mendapati bahawa mereka tidak dapat membuktikan apa-apa apabila diminta.

Jaminan umur tidak bermaksud mengumpul foto kad pengenalan

Salah faham yang paling biasa ialah pengesahan umur bermaksud mengumpul dokumen pengenalan daripada pengguna — iaitu perkara paling teruk yang boleh anda lakukan kepada pangkalan data anda sendiri. Teks Suruhanjaya menuju ke arah yang bertentangan: pengesahan dijalankan melalui penyelesaian bertauliah yang bebas daripada platform, termasuk aplikasi pengesahan umur EU yang percuma dan Dompet Identiti Digital Eropah, serta menggunakan teknologi bukti sifar pengetahuan supaya platform menerima jawapan ya atau tidak tentang had umur tanpa mengetahui siapa pengguna itu atau di mana mereka berada.

Reka bentuk ini wajar ditiru jauh di luar Eropah. Prinsip umumnya: ambil jawapan yang anda perlukan, bukan data yang menghasilkannya. Jika keputusan anda ialah membenarkan atau menolak, anda memerlukan satu nilai boolean — bukan rekod yang menyimpan tarikh lahir dan nombor kad pengenalan yang menjadi liabiliti keselamatan anda selama-lamanya.

Ada satu perincian operasi yang ramai akan terlepas pandang: akaun sedia ada. Cadangan ini mewajibkan pembekal menyahaktifkan akaun bawah umur sedia ada dalam tempoh enam bulan selepas peraturan berkuat kuasa. Jadi kerjanya tidak terhad kepada skrin pendaftaran baharu; ia menjangkau pangkalan pengguna semasa anda dan apa yang benar-benar anda ketahui tentangnya.

Corak reka bentuk yang dahulu dianggap bijak untuk pertumbuhan dan kini menjadi pelanggaran

Sebahagian besar cadangan ini langsung tidak berkaitan dengan kandungan, tetapi tentang mekanik antara muka yang dibina untuk memanjangkan sesi. Bagi golongan bawah umur, senarai larangan termasuk:

  • Main automatik tanpa henti dan tatal tanpa had tanpa rehat yang sebenar.
  • Pemberitahuan yang direka untuk menarik pengguna kembali tetapi tiada kaitan dengan apa-apa yang benar-benar mereka lakukan.
  • Ganjaran kerana menyiarkan kandungan kepada khalayak ramai.
  • Mekanik rentetan harian yang menghukum pengguna kerana terlepas satu hari.
  • Suapan cadangan berasaskan penjejakan, mesej daripada orang yang tidak dikenali dan profil yang awam secara lalai.

Pengajaran bagi produk bukan sosial: corak yang sama wujud di dalam banyak aplikasi kesetiaan, kedai dan aplikasi pendidikan. Jika sebahagian model pertumbuhan anda bergantung pada rentetan harian dan pemberitahuan waktu petang, fahamilah bahawa model ini berada di bawah tekanan peraturan yang semakin meningkat — dan bukan hanya di Eropah.

Adakah ini menjejaskan anda sebagai perniagaan Saudi

Dalam tiga keadaan yang jelas. Pertama, jika anda mempunyai pengguna di dalam EU: peraturan Eropah mengikut pengguna, bukan ibu pejabat syarikat, dan permainan atau aplikasi pendidikan Saudi yang diterbitkan secara global di kedua-dua kedai termasuk dalam kategori ini. Kedua, jika anda pembekal kepada entiti Eropah, kewajipan itu sampai kepada anda melalui kontrak dan keperluan audit. Ketiga, dan yang paling kerap dirasai dalam amalan: kedua-dua kedai aplikasi menterjemahkan peraturan seperti ini menjadi syarat penerbitan. Apa yang bermula sebagai peraturan Eropah biasanya berakhir sebagai satu fasal dalam semakan App Store dan Google Play yang terpakai kepada semua orang.

Di peringkat tempatan, Undang-undang Perlindungan Data Peribadi (PDPL) Arab Saudi sudah pun menangani data individu yang tidak mempunyai keupayaan undang-undang sepenuhnya, mensyaratkan persetujuan penjaga dalam keadaan tersebut dan mewajibkan anda meminimumkan data. Bezanya, cadangan Eropah menambah lapisan reka bentuk produk di atas lapisan perlindungan data. Berita baiknya, bersedia untuk satu hampir sama dengan bersedia untuk yang satu lagi.

Apa yang perlu dilakukan pasukan teknikal anda suku tahun ini

Anda tidak memerlukan program pematuhan yang besar sekarang — empat langkah yang boleh disiapkan dalam beberapa minggu sudah memadai:

  • Ketahui umur pengguna anda. Adakah sistem anda tahu pengguna mana yang mungkin bawah umur? Kebanyakan produk tidak dapat menjawabnya, dan itulah jurang pertama.
  • Asingkan tetapan bawah umur daripada tetapan dewasa dalam kod. Jadikannya penanda yang boleh ditukar dalam lapisan kebenaran, bukan syarat yang bertaburan di seluruh antara muka.
  • Betulkan tetapan lalai. Pembantu AI dimatikan, profil peribadi, tiada mesej daripada orang yang tidak dikenali, tiada pemberitahuan waktu malam. Menukar tetapan lalai jauh lebih murah daripada membina semula sesuatu ciri kemudian.
  • Dokumenkan ujian. Jika anda menjalankan chatbot, simpan rekod ujian keselamatan bagi setiap keluaran. Dokumen itu sendiri ialah bukti anda.

Peraturan yang kami pegang semasa membina di Origami adalah mudah: reka bentuk yang tidak mengetahui umur penggunanya tidak dapat melindungi mereka, dan tidak dapat melindungi anda juga. Semua perkara di atas boleh dilaksanakan dalam mana-mana produk yang dibina dengan betul tanpa perlu menulis semula.

Sumber