Pemerintah Indonesia menjadi negara pertama di dunia yang mengambil tindakan tegas dengan memutus akses sementara terhadap aplikasi chatbot berbasis kecerdasan buatan (AI) bernama Grok. Keputusan ini diambil setelah ditemukan adanya penyalahgunaan teknologi tersebut untuk menciptakan dan menyebarkan konten pornografi palsu yang menggunakan deepfake. Langkah ini dilakukan sebagai bagian dari upaya melindungi masyarakat, khususnya perempuan dan anak-anak, dari ancaman eksploitasi seksual di ruang digital.
Menteri Komunikasi dan Digital Meutya Hafid menjelaskan bahwa penggunaan deepfake tanpa izin merupakan pelanggaran terhadap hak asasi manusia dan martabat warga negara. Ia menegaskan bahwa pemerintah bertindak demi melindungi seluruh masyarakat dari risiko konten pornografi palsu yang dibuat dengan bantuan AI.
“Kami memutus akses sementara terhadap aplikasi Grok karena khawatir akan bahaya yang ditimbulkan oleh konten-konten tersebut,” ujar Meutya dalam pernyataan resmi di Jakarta, Sabtu (10/1/2026). Menurutnya, ruang digital tidak boleh menjadi wilayah yang bebas dari pengawasan hukum. Pemerintah melihat penyalahgunaan AI untuk menghasilkan konten seksual nonkonsensual sebagai ancaman nyata terhadap keamanan publik, privasi individu, serta nilai-nilai kemanusiaan.
Selain pemutusan akses sementara, Kementerian Komunikasi dan Digital juga meminta X, yang merupakan pengelola platform, untuk memberikan penjelasan dan bertanggung jawab atas dampak penggunaan teknologi tersebut. Evaluasi lebih lanjut akan dilakukan berdasarkan komitmen perbaikan yang disampaikan oleh penyelenggara sistem elektronik.
Kebijakan ini didasarkan pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat. Aturan ini memaksakan setiap platform untuk memastikan layanannya tidak menyimpan atau memfasilitasi konten yang dilarang oleh hukum Indonesia.
Seorang ahli keamanan siber dari Vaksincom, Alfons Tanujaya, menilai langkah pemerintah tepat dan patut diapresiasi. Ia menekankan bahwa Indonesia menjadi pelopor dalam memastikan keamanan platform digital. Menurut Alfons, jika suatu platform terbukti membahayakan perempuan dan anak melalui eksploitasi pornografi digital, pemutusan akses adalah langkah yang wajar.
“Jika ancamannya sudah jelas, terutama bagi perempuan dan anak, tetapi tidak ada tindakan, siapa yang akan bertanggung jawab atas dampak mental dan moral yang ditimbulkan?” tanyanya saat dihubungi, Minggu (11/1/2026).
Alfons menekankan bahwa penyedia platform digital tidak boleh hanya fokus pada keuntungan bisnis tanpa memperhatikan nilai moral, etika, dan kepatuhan terhadap hukum di negara tempat mereka beroperasi. Ia menambahkan bahwa setiap negara memiliki standar dan norma yang berbeda. Apa yang dianggap wajar di satu negara belum tentu sesuai dengan norma di Indonesia.
Ia juga membandingkan Grok dengan beberapa platform AI lain yang telah menerapkan sistem pengamanan yang lebih ketat terhadap konten sensitif. Dengan demikian, konten tersebut tidak mudah disalahgunakan melalui perintah sederhana.
Pemutusan akses terhadap Grok menjadi tanda awal dari era baru pengawasan teknologi kecerdasan buatan di Indonesia. Kebijakan ini menunjukkan bahwa inovasi teknologi harus diiringi dengan tanggung jawab sosial dan perlindungan hak-hak warga negara.
