Pemerintah Siapkan Regulasi AI, Tangkal Bahaya Teknologi pada Anak

Anak-anak dapat menghadapi beberapa risiko spesifik dari penggunaan AI, antara lain:

• Ketergantungan: Anak-anak bisa menjadi terlalu bergantung pada AI untuk tugas-tugas yang seharusnya melatih kemampuan kognitif mereka.
• Penurunan Kognitif: Penggunaan AI yang berlebihan dapat menghambat perkembangan kemampuan berpikir kritis dan pemecahan masalah.
• Paparan Konten Negatif: AI generatif berpotensi menghasilkan atau mengekspos anak pada konten yang tidak pantas atau berbahaya.
• Misinformasi: AI dapat menyebarkan informasi yang salah atau menyesatkan, yang sulit dibedakan oleh anak-anak.
• Eksploitasi Seksual Anak: Ada potensi AI digunakan untuk tujuan eksploitasi seksual anak.
• Pengaburan Batas Realitas: AI dapat mengaburkan batas antara benda hidup dan mati, memengaruhi pemahaman anak tentang dunia.
• Saran Berbahaya: AI pendamping seperti Character.AI dapat memberikan saran yang tidak aman, bahkan mengarah pada percakapan seksual yang tidak pantas.

Pemerintah Indonesia sedang menyiapkan peta jalan dan regulasi AI dalam bentuk Peraturan Presiden (Perpres). Regulasi ini dianggap penting karena Undang-Undang Informasi dan Transaksi Elektronik (UU ITE) serta Undang-Undang Pelindungan Data Pribadi (UU PDP) dinilai belum cukup untuk mengawal perkembangan AI. Selain itu, pemerintah juga telah menerbitkan PP No. 17 Tahun 2025 tentang Tata Kelola Penyelenggaraan Sistem Elektronik dalam Pelindungan Anak (PP Tunas) sebagai implementasi teknis dari UU ITE.

PP No. 17 Tahun 2025, atau yang dikenal sebagai PP Tunas, adalah Peraturan Pemerintah tentang Tata Kelola Penyelenggaraan Sistem Elektronik dalam Pelindungan Anak. Aturan ini merupakan implementasi teknis dari UU ITE. PP Tunas mewajibkan Penyelenggara Sistem Elektronik (PSE) untuk:

• Menyediakan penilaian risiko produk digital terhadap anak.
• Memastikan adanya persetujuan orang tua untuk penggunaan layanan oleh anak.
• Menyediakan fitur kontrol orang tua.
• Mengimplementasikan teknologi verifikasi usia.
• Menyediakan mekanisme pelaporan penyalahgunaan.

Aturan ini bertujuan untuk menciptakan lingkungan digital yang lebih aman bagi anak-anak.

Guru Besar Ilmu AI IPB University dan Komisi I DPR mendorong penyusunan Undang-Undang khusus AI karena UU ITE dan UU PDP dianggap belum memadai untuk mengatur pengembangan dan pemanfaatan AI secara komprehensif. UU khusus AI diperlukan untuk:

• Mencegah penyalahgunaan data yang mungkin terjadi dalam ekosistem AI.
• Memastikan inovasi AI yang bertanggung jawab dan etis.
• Memberikan kerangka hukum yang lebih spesifik untuk mengatur aspek-aspek unik dari teknologi AI yang terus berkembang.

Hal ini menunjukkan adanya kebutuhan akan regulasi yang lebih adaptif dan mendalam untuk menghadapi tantangan AI.

Orang tua dan guru memiliki peran yang sangat krusial dalam meningkatkan literasi AI pada anak-anak. KORIKA menekankan pentingnya literasi AI, khususnya etika AI, dengan pembentukan karakter yang kuat. Peran mereka meliputi:

• Mempelajari teknologi AI: Orang tua disarankan untuk ikut memahami cara kerja AI.
• Menetapkan batasan penggunaan gawai: Mengatur waktu dan jenis penggunaan perangkat digital.
• Mengajari anak berpikir kritis: Membantu anak membedakan informasi yang benar dan salah dari AI.
• Memantau perubahan emosional anak: Mengidentifikasi dampak psikologis dari penggunaan AI.
• Mendorong penggunaan AI yang lebih aman: Mengarahkan anak pada aplikasi atau fitur AI yang dirancang untuk keamanan anak.
• Berdiskusi aktif: Membangun komunikasi terbuka dengan anak tentang pengalaman mereka dengan AI.
• Memberi contoh: Menunjukkan penggunaan teknologi yang bertanggung jawab.
• Mengawasi: Memantau aktivitas anak dalam menggunakan AI.

Peran aktif ini sangat penting untuk membekali anak dengan pemahaman dan keterampilan yang diperlukan di era AI.

Fitur 'kids mode' adalah salah satu solusi pelengkap yang diusulkan untuk melindungi anak-anak dari dampak negatif AI. Co-founder AICO, Tommy Teja Adhiraja, menekankan bahwa perancangan fitur ini harus dilakukan dari nol dengan pendekatan yang relevan khusus untuk anak-anak. Desain 'kids mode' yang efektif harus mencakup:

• Konten yang disesuaikan: Materi yang relevan dan aman untuk usia anak.
• Bahasa yang ramah: Penggunaan bahasa yang mudah dipahami oleh anak-anak.
• Sistem filter yang ketat: Mekanisme penyaringan konten yang kuat untuk mencegah paparan materi tidak pantas.

Tommy menilai bahwa upaya perlindungan anak oleh platform AI generatif saat ini masih minim dan belum sistematis, meskipun ada inisiatif seperti ChatGPT for Kids dan rencana Elon Musk dengan Baby Grok.

Perlindungan anak dari risiko AI memerlukan kolaborasi dari berbagai pihak, yaitu pemerintah, pengembang aplikasi AI, dan keluarga (orang tua).

• Pemerintah: Bertanggung jawab untuk membuat regulasi yang konkret dan adaptif, seperti Perpres AI dan PP Tunas, serta mempertimbangkan UU khusus AI. Regulasi ini harus mampu mengawal perkembangan teknologi dan memastikan keamanan anak.
• Pengembang Aplikasi AI: Memiliki tanggung jawab untuk menyediakan pengamanan yang lebih ketat dan transparansi dalam perancangan produk AI mereka. Ini termasuk merancang fitur seperti 'kids mode' dari awal dengan pendekatan yang relevan untuk anak-anak, serta memastikan filter konten yang ketat.
• Keluarga (Orang Tua): Memiliki peran yang tak terpisahkan dalam literasi AI. Orang tua perlu aktif berdiskusi dengan anak, memberi contoh penggunaan teknologi yang bertanggung jawab, mengawasi penggunaan AI oleh anak-anak, dan mengajarkan berpikir kritis.

Sinergi antara ketiga pihak ini sangat penting untuk menciptakan ekosistem AI yang aman dan bermanfaat bagi anak-anak.