Indonesia Mengambil Langkah Tegas Terhadap Penggunaan Teknologi AI yang Menyebarkan Konten Pornografi Palsu
Pemerintah Indonesia menjadi negara pertama di dunia yang mengambil tindakan dengan memutus akses sementara terhadap aplikasi chatbot berbasis kecerdasan buatan (AI) bernama Grok. Keputusan ini diambil setelah ditemukan adanya penyalahgunaan teknologi tersebut untuk menciptakan dan menyebarkan konten pornografi palsu menggunakan deepfake. Tindakan ini dilakukan sebagai bagian dari upaya melindungi masyarakat, khususnya perempuan dan anak-anak, dari ancaman eksploitasi seksual di ruang digital.
Menteri Komunikasi dan Digital, Meutya Hafid, menegaskan bahwa penggunaan deepfake untuk konten seksual tanpa persetujuan merupakan pelanggaran serius terhadap hak asasi manusia dan martabat warga negara. Ia menyatakan bahwa pemerintah bertindak demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dibuat dengan teknologi AI.
“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, pemerintah melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujar Meutya dalam pernyataan resmi di Jakarta, Sabtu (10/1/2026).
Menurut Meutya, ruang digital tidak boleh menjadi wilayah tanpa pengawasan hukum. Pemerintah melihat penyalahgunaan AI untuk menciptakan konten seksual nonkonsensual sebagai ancaman nyata terhadap keamanan publik, privasi individu, serta nilai-nilai kemanusiaan. Selain itu, Kementerian Komunikasi dan Digital juga meminta X, sebagai pengelola platform, memberikan klarifikasi serta bertanggung jawab atas dampak penggunaan teknologi tersebut.
Evaluasi lanjutan akan dilakukan berdasarkan komitmen perbaikan yang disampaikan oleh penyelenggara sistem elektronik terkait. Kebijakan ini merujuk pada kewenangan pemerintah sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, yang mewajibkan setiap platform memastikan layanannya tidak memuat maupun memfasilitasi konten yang dilarang oleh hukum Indonesia.
Tanggapan Pakar Keamanan Siber
Pakar keamanan siber dari Vaksincom, Alfons Tanujaya, menilai langkah pemerintah tersebut tepat dan patut diapresiasi, terutama karena Indonesia menjadi pelopor dalam memastikan keamanan platform digital. Menurut Alfons, jika suatu platform terbukti menimbulkan ancaman serius terhadap perempuan dan anak melalui eksploitasi pornografi digital, pemutusan akses merupakan langkah yang wajar.
“Jika ancamannya sudah nyata, terutama bagi perempuan dan anak, tetapi tidak diambil tindakan, siapa yang akan bertanggung jawab atas dampak mental dan moral yang ditimbulkan?” ujar Alfons saat dihubungi, Minggu (11/1/2026).
Ia menegaskan bahwa penyedia platform digital tidak dapat semata-mata berorientasi pada keuntungan bisnis tanpa memperhatikan nilai moral, etika, serta kepatuhan terhadap hukum di negara tempat beroperasi. “Setiap negara memiliki nilai dan standar yang berbeda. Apa yang dianggap wajar di negara lain belum tentu sesuai dengan norma di Indonesia. Platform global tidak bisa menerapkan satu standar untuk semua negara,” katanya.
Alfons juga membandingkan Grok dengan sejumlah platform AI lain yang dinilai telah menerapkan sistem pengamanan lebih ketat terhadap konten sensitif, sehingga tidak mudah disalahgunakan melalui perintah sederhana.
Tanda Awal Pengawasan Teknologi AI di Indonesia
Pemutusan akses Grok menjadi penanda babak baru pengawasan teknologi kecerdasan artifisial di Indonesia. Kebijakan ini menegaskan bahwa inovasi teknologi harus berjalan seiring dengan tanggung jawab sosial serta perlindungan hak-hak warga negara. Dengan langkah ini, pemerintah menunjukkan komitmennya untuk menjaga keamanan digital dan memastikan teknologi digunakan secara bertanggung jawab.
