JAKARTA, Infomalangraya.net
– Menteri Komunikasi dan Digital (Menkomdigi) Meutya Hafid menegaskan bahwa pemblokiran sementara akses terhadap aplikasi Grok, sebuah chatbot berbasis kecerdasan buatan (AI), dilakukan sebagai langkah pemerintah untuk melindungi perempuan dan anak dari ancaman digital.
Meutya menjelaskan bahwa penggunaan teknologi deepfake untuk membuat konten seksual tanpa persetujuan merupakan tindakan yang sangat merusak hak asasi manusia dan merendahkan martabat warga negara.
“Dalam rangka melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan buatan, pemerintah memutuskan akses sementara terhadap aplikasi Grok,” ujar Meutya dalam pernyataannya, dikutip Senin (12/1/2025).
Menurut Meutya, penyalahgunaan AI untuk menciptakan konten seksual non-konsensual adalah ancaman nyata terhadap keamanan publik, privasi individu, serta nilai-nilai kemanusiaan.
“Ruang digital tidak boleh menjadi wilayah bebas hukum,” tambahnya.
Selain memblokir akses sementara terhadap Grok, pihaknya juga meminta X, sebagai pengelola platform tersebut, segera memberikan penjelasan dan bertanggung jawab atas tindakan yang dilakukan.
“Evaluasi lanjutan akan dilakukan berdasarkan komitmen perbaikan yang diajukan oleh penyelenggara sistem elektronik,” kata Meutya.
Kebijakan pemutusan akses ini didasarkan pada kewenangan yang diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat.
Dalam aturan tersebut, setiap platform wajib memastikan layanannya tidak menyediakan atau memfasilitasi konten yang dilarang oleh hukum Indonesia.
Sebagai informasi, Indonesia menjadi negara pertama di dunia yang melakukan pemutusan akses sementara terhadap Grok, aplikasi chatbot berbasis kecerdasan buatan (AI).
Langkah ini diambil setelah ditemukan adanya penyalahgunaan teknologi tersebut untuk memproduksi dan menyebarkan konten pornografi palsu berbasis deepfake.
Langkah-langkah yang Diambil Pemerintah
Berikut beberapa langkah yang telah diambil oleh pemerintah dalam menghadapi masalah ini:
-
Pemblokiran Akses
Pemerintah melakukan pemblokiran sementara terhadap aplikasi Grok untuk mencegah penyebaran konten pornografi palsu yang dibuat dengan teknologi AI. -
Pemanggilan Pengelola Platform
X, sebagai pengelola platform, diminta untuk memberikan klarifikasi dan bertanggung jawab atas tindakan yang dilakukan. -
Evaluasi Lanjutan
Pemerintah akan melakukan evaluasi lebih lanjut berdasarkan komitmen perbaikan yang diajukan oleh penyelenggara sistem elektronik. -
Penegakan Hukum
Kebijakan ini didasarkan pada regulasi yang sudah ada, yaitu Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020, yang menegaskan bahwa setiap platform harus memastikan layanannya tidak memuat atau memfasilitasi konten ilegal.
Alasan Pemblokiran
Beberapa alasan utama di balik kebijakan ini adalah:
-
Ancaman terhadap Keamanan Publik
Penggunaan AI untuk menciptakan konten seksual non-konsensual berisiko membahayakan keamanan dan privasi individu. -
Melindungi Hak Asasi Manusia
Tindakan seperti deepfake seksual tanpa izin merupakan pelanggaran serius terhadap hak asasi manusia dan martabat warga negara. -
Menciptakan Ruang Digital yang Aman
Pemerintah ingin memastikan bahwa ruang digital tidak menjadi tempat bebas hukum bagi tindakan ilegal.
Peran Masyarakat dan Pengguna
Selain tindakan pemerintah, peran masyarakat dan pengguna internet juga penting dalam mencegah penyalahgunaan teknologi. Beberapa langkah yang bisa diambil antara lain:
-
Meningkatkan Kesadaran
Masyarakat perlu lebih waspada terhadap bahaya deepfake dan teknologi AI yang bisa disalahgunakan. -
Laporan Konten Ilegal
Pengguna dapat melaporkan konten pornografi palsu atau penyalahgunaan teknologi kepada otoritas terkait. -
Mengikuti Edukasi Digital
Penting bagi masyarakat untuk terus belajar tentang manfaat dan risiko teknologi digital.
Kesimpulan
Indonesia menjadi negara pertama yang mengambil tindakan tegas terhadap penyalahgunaan teknologi AI dalam bentuk pemblokiran akses sementara terhadap aplikasi Grok. Langkah ini menunjukkan komitmen pemerintah dalam melindungi masyarakat dari ancaman digital, terutama terhadap perempuan dan anak. Dengan regulasi yang jelas dan kesadaran masyarakat yang tinggi, diharapkan ruang digital dapat menjadi tempat yang aman dan bermanfaat bagi semua.
