Pada 17 September 2026, Komisi Eropa mengadopsi usulannya untuk EU KIDS Act. Singkatnya: setiap layanan digital yang mungkin digunakan anak di bawah umur di UE — jejaring sosial, platform video, gim, toko aplikasi, atau chatbot AI — harus menunjukkan bahwa layanannya aman sejak dirancang, alih-alih menunggu adanya pengaduan. Di bawah 13 tahun, tidak ada akun mandiri sama sekali. Antara 13 dan 14 tahun, akun mini yang diawasi di bawah kontrol orang tua. Akun mandiri dimulai pada usia 15 tahun. Chatbot AI dan pendamping AI dinonaktifkan secara default bagi anak di bawah umur. Ketidakpatuhan dapat dikenai denda hingga 6% dari total omzet tahunan di seluruh dunia.

Usulan ini belum menjadi undang-undang — masih harus dirundingkan dengan Parlemen Eropa dan negara-negara anggota. Namun arah regulasinya kini sudah cukup jelas untuk memengaruhi keputusan teknis yang Anda ambil dalam produk Anda saat ini.

Apa yang sebenarnya berubah dalam aturan

Aturan sebelumnya hanya mengajukan satu pertanyaan: apakah Anda menghapus konten berbahaya setelah dilaporkan? KIDS Act membaliknya dan justru bertanya: apakah Anda merancang layanan sehingga seseorang yang terlalu muda untuk menggunakannya tidak pernah bisa masuk? Komisi sendiri merumuskan bahwa usulan ini membalikkan beban pembuktian dan meletakkannya pada penyedia layanan.

Cakupannya lebih luas daripada yang diasumsikan kebanyakan orang. Ini bukan hanya soal platform sosial besar. Cakupannya meliputi gim, toko aplikasi, dan layanan berbagi video dengan fitur berisiko yang terbukti, serta secara eksplisit mencakup chatbot AI dan pendamping AI. Dengan kata lain: jika produk Anda memiliki asisten yang berbicara dengan pengguna, Anda termasuk dalam cakupan meskipun Anda bukan perusahaan media sosial.

Ketentuan yang penting bagi siapa pun yang menambahkan asisten AI

Inilah bagian terpenting bagi bisnis mana pun yang menempelkan chatbot ke toko atau aplikasinya dalam dua tahun terakhir. Usulan ini mensyaratkan bahwa pendamping AI tidak boleh meniru hubungan antarmanusia dengan cara yang kemungkinan menimbulkan ketergantungan emosional. Dalam praktiknya, hal itu berarti perilaku default yang berbeda: secara default percakapan tidak membawa memori dari satu sesi ke sesi berikutnya, dan akses bagi anak di bawah 13 tahun hanya berjalan melalui kontrol orang tua.

Usulan ini juga menambahkan kewajiban yang tidak ada hubungannya dengan antarmuka: chatbot harus diuji terhadap risiko keselamatan anak sebelum peluncuran dan dipantau setelahnya. Siapa pun yang menjalankan asisten AI tanpa log percakapan yang dapat ditinjau dan tanpa cara mengukur perilakunya akan mendapati bahwa mereka tidak dapat membuktikan apa pun ketika diminta.

Jaminan usia tidak berarti mengumpulkan foto kartu identitas

Kesalahpahaman yang paling umum adalah bahwa verifikasi usia berarti mengumpulkan dokumen identitas dari pengguna — yang merupakan hal terburuk yang dapat Anda lakukan terhadap basis data Anda sendiri. Teks Komisi justru mengarah sebaliknya: verifikasi dilakukan melalui solusi bersertifikat yang independen dari platform, termasuk aplikasi verifikasi usia UE yang gratis dan Dompet Identitas Digital Eropa, serta menggunakan teknologi bukti tanpa pengetahuan sehingga platform menerima jawaban ya atau tidak tentang ambang usia tanpa mengetahui siapa penggunanya atau di mana mereka berada.

Desain ini layak ditiru jauh di luar Eropa. Prinsip umumnya: ambil jawaban yang Anda butuhkan, bukan data yang menghasilkannya. Jika keputusan Anda adalah mengizinkan atau menolak, Anda membutuhkan satu nilai boolean — bukan catatan berisi tanggal lahir dan nomor identitas yang selamanya menjadi tanggung jawab keamanan Anda.

Ada detail operasional yang akan terlewat oleh banyak orang: akun yang sudah ada. Usulan ini mewajibkan penyedia menonaktifkan akun anak di bawah umur yang sudah ada dalam waktu enam bulan setelah aturan berlaku. Jadi pekerjaannya tidak terbatas pada layar pendaftaran baru; pekerjaan ini menjangkau basis pengguna Anda saat ini dan apa yang benar-benar Anda ketahui tentang mereka.

Pola desain yang dulu dianggap kecerdikan pertumbuhan dan kini menjadi pelanggaran

Sebagian besar usulan ini sama sekali tidak membahas konten, melainkan mekanika antarmuka yang dibuat untuk memperpanjang sesi. Bagi anak di bawah umur, daftar larangan mencakup:

  • Putar otomatis tanpa akhir dan gulir tak terbatas tanpa jeda yang nyata.
  • Notifikasi yang dirancang untuk menarik pengguna kembali dan tidak berkaitan dengan apa pun yang benar-benar mereka lakukan.
  • Hadiah karena memposting untuk audiens massal.
  • Mekanika streak yang menghukum pengguna karena melewatkan satu hari.
  • Umpan rekomendasi berbasis pelacakan, pesan dari orang asing, dan profil yang publik secara default.

Pelajaran bagi produk nonsosial: pola-pola yang sama hidup di dalam banyak aplikasi loyalitas, toko, dan aplikasi pendidikan. Jika sebagian model pertumbuhan Anda bertumpu pada streak harian dan notifikasi malam hari, pahamilah bahwa model ini berada di bawah tekanan regulasi yang terus meningkat — dan bukan hanya di Eropa.

Apakah ini menjangkau Anda sebagai bisnis Saudi

Dalam tiga kasus yang jelas. Pertama, jika Anda memiliki pengguna di dalam UE: aturan Eropa mengikuti pengguna, bukan kantor pusat perusahaan, dan gim atau aplikasi pendidikan Saudi yang diterbitkan secara global di kedua toko termasuk di dalamnya. Kedua, jika Anda adalah pemasok bagi entitas Eropa, kewajiban itu sampai kepada Anda melalui kontrak dan persyaratan audit. Ketiga, dan yang paling sering terasa dalam praktik: kedua toko aplikasi menerjemahkan aturan seperti ini menjadi syarat penerbitan. Apa yang dimulai sebagai regulasi Eropa biasanya berakhir sebagai klausul dalam peninjauan App Store dan Google Play yang berlaku untuk semua orang.

Di tingkat lokal, Undang-Undang Perlindungan Data Pribadi (PDPL) Arab Saudi sudah mengatur data orang yang tidak memiliki kecakapan hukum penuh, mensyaratkan persetujuan wali dalam kasus tersebut, dan mewajibkan Anda melakukan minimisasi data. Bedanya, usulan Eropa menambahkan lapisan desain produk di atas lapisan perlindungan data. Kabar baiknya, bersiap untuk yang satu hampir sama dengan bersiap untuk yang lain.

Apa yang harus dilakukan tim teknis Anda kuartal ini

Anda tidak memerlukan program kepatuhan besar saat ini — empat langkah yang muat dalam beberapa minggu sudah cukup:

  • Ketahui usia pengguna Anda. Apakah sistem Anda bahkan tahu pengguna mana yang mungkin masih di bawah umur? Sebagian besar produk tidak dapat menjawabnya, dan itulah celah pertama.
  • Pisahkan pengaturan anak di bawah umur dari pengaturan dewasa di dalam kode. Jadikan itu penanda yang dapat diubah di lapisan izin, bukan kondisi yang tersebar di seluruh antarmuka.
  • Perbaiki pengaturan default. Asisten AI mati, profil privat, tanpa pesan dari orang asing, tanpa notifikasi malam hari. Mengubah pengaturan default jauh lebih murah daripada membangun ulang fitur di kemudian hari.
  • Dokumentasikan pengujian. Jika Anda menjalankan chatbot, simpan catatan uji keamanan untuk setiap rilis. Dokumen itu sendiri adalah bukti Anda.

Aturan yang kami pegang dalam membangun di Origami sederhana: desain yang tidak mengetahui usia penggunanya tidak dapat melindungi mereka, dan juga tidak dapat melindungi Anda. Semua hal di atas dapat diterapkan pada produk apa pun yang dibangun dengan benar tanpa menulis ulang.

Sumber