Penggunaan mainan berbasis kecerdasan buatan (AI) semakin meningkat, namun masih ada beberapa masalah yang perlu diperhatikan. Dalam beberapa kasus, mainan AI memberikan jawaban atau petunjuk yang tidak sesuai untuk anak-anak. Hal ini menimbulkan kekhawatiran dari para pembuat mainan dan ahli teknologi.
Dalam acara Consumer Electronics Show 2026 (CES), para pengembang mainan AI mengingatkan bahwa produk tersebut harus digunakan dengan hati-hati. Tujuannya adalah agar mainan yang seharusnya ramah terhadap anak-anak tidak justru memberikan informasi yang tidak pantas atau berbahaya.
Kekhawatiran ini muncul setelah sebuah laporan dari Public Interest Research Group (PIRG) menemukan bahwa boneka beruang AI bernama Kumma memberikan nasihat tentang seks dan cara mencari pisau. Kejadian ini memicu protes dari berbagai pihak, sehingga perusahaan FoloToy menghentikan sementara penjualan produk tersebut.
CEO FoloToy menjelaskan bahwa masalah terjadi karena model AI yang digunakan belum cukup aman. Saat ini, mereka sedang mengganti AI dengan versi yang lebih canggih agar tidak lagi memberikan jawaban yang tidak pantas.
Selain itu, perusahaan besar seperti Mattel juga memilih menunda peluncuran mainan AI yang bekerja sama dengan OpenAI. Perkembangan AI generatif yang pesat sejak munculnya ChatGPT membuat banyak mainan pintar baru bermunculan. Karena itu, orang tua perlu lebih berhati-hati dalam memilih mainan untuk anak-anak.
Salah satu mainan yang diuji oleh PIRG adalah Grok dari perusahaan Curio. Mainan ini berbentuk boneka berkaki empat yang terinspirasi dari roket dan sudah dijual sejak 2024. Grok dinilai cukup baik karena menolak menjawab pertanyaan yang tidak pantas untuk anak kecil.
Selain itu, Grok memiliki fitur yang memungkinkan orang tua mengatur sendiri rekomendasi dan melihat riwayat percakapan anak. Mainan ini juga telah mendapatkan sertifikat KidSAFE, yang menunjukkan bahwa ia memenuhi standar perlindungan anak.
Beberapa perusahaan lain khawatir tentang privasi dan bagaimana data suara anak digunakan. Curio mengatakan mereka sedang memperbaiki masalah terkait pembagian data pengguna.
PIRG juga memberi imbauan kepada orang tua untuk ekstra waspada terhadap mainan yang memiliki chatbot, terutama yang menyimpan data anak dan mencoba membangun hubungan jangka panjang dengan mereka.
Di sisi lain, beberapa mainan AI juga memiliki manfaat. Misalnya, mainan Sunny dari perusahaan Turki Elaves dirancang untuk membantu anak belajar bahasa. Percakapannya dibatasi waktunya agar tidak berlebihan dan mencegah kesalahan dari AI.
Perusahaan lain seperti Olli juga menambahkan fitur keamanan dengan memberi peringatan kepada orang tua jika mainan mendeteksi kata-kata yang tidak pantas.
Meskipun demikian, para pengamat menilai bahwa aturan dari pemerintah tetap dibutuhkan. Mereka khawatir jika produsen hanya mengatur diri sendiri, keselamatan anak tidak akan cukup terlindungi.
