Langkah Tegas Pemerikaan Teknologi Kecerdasan Buatan di Indonesia
Pemerintah Indonesia mengambil langkah tegas dengan memblokir akses total terhadap Grok, asisten kecerdasan buatan (AI) yang dikembangkan oleh platform media sosial X. Keputusan ini diambil setelah maraknya penyalahgunaan Grok untuk membuat konten deepfake asusila, termasuk manipulasi foto perempuan dan anak-anak. Pemblokiran ini menjadi pertama kali di dunia, sehingga menarik perhatian internasional.
Apa Itu Grok dan Bagaimana Cara Kerjanya?
Grok adalah asisten AI yang dikembangkan oleh xAI, sebuah perusahaan rintisan milik Elon Musk. Grok terintegrasi langsung dengan platform X dan dirancang untuk membantu pengguna menjawab pertanyaan, memecahkan masalah, hingga menghasilkan ide kreatif dengan gaya respons yang santai dan humoris. Berbeda dengan chatbot AI lainnya, Grok memiliki kemampuan unik untuk mengakses unggahan publik di X secara real-time, sekaligus melakukan pencarian web langsung di internet. Fitur ini membuat Grok mampu merespons isu terkini dengan cepat dan kontekstual. Selain teks, Grok juga dibekali fitur pembuatan dan pengeditan gambar berbasis perintah teks (prompt). Namun, justru fitur inilah yang belakangan menuai kritik tajam karena dapat dimanfaatkan untuk mengubah foto seseorang menjadi konten seksual tanpa persetujuan pemilik gambar.
Alasan Komdigi Memblokir Grok
Kementerian Komunikasi dan Digital (Komdigi) Republik Indonesia mengambil langkah tegas dengan memblokir sementara hingga total akses Grok. Keputusan ini diambil menyusul maraknya penyalahgunaan Grok untuk membuat konten deepfake asusila. Menurut Komdigi, fitur Grok dinilai belum memiliki sistem pengamanan yang memadai untuk mencegah penyalahgunaan teknologi AI dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi.
Menteri Komunikasi dan Digital RI, Meutya Hafid, menegaskan bahwa pemblokiran Grok dilakukan berdasarkan landasan hukum yang jelas, yakni Peraturan Menteri Kominfo Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat. Aturan tersebut mewajibkan setiap platform digital memastikan sistemnya tidak memuat atau memfasilitasi distribusi konten yang dilarang, termasuk pornografi dan pelanggaran hak privasi.
Kritik Tajam dan Ancaman Deepfake Asusila
Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, menyebut manipulasi digital menggunakan Grok sebagai bentuk perampasan kendali individu atas identitas visualnya. Ia menilai deepfake asusila bukan sekadar pelanggaran etika, tetapi berpotensi menimbulkan kerugian psikologis, sosial, hingga reputasi bagi korban. “Hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia,” kata Alexander.
Indonesia Jadi Sorotan Dunia
Langkah Indonesia langsung menarik perhatian media internasional. Kantor berita AFP melaporkan bahwa Indonesia menjadi negara pertama yang menangguhkan akses Grok secara total. Dalam laporannya, AFP mengutip pernyataan Meutya Hafid yang menyebut deepfake pornografi tanpa persetujuan sebagai pelanggaran serius terhadap hak asasi manusia dan martabat warga. Reuters juga menyoroti keputusan Indonesia yang diambil di tengah meningkatnya tekanan global terhadap penggunaan AI generatif. Sejumlah negara di Eropa dan Asia diketahui mulai membuka penyelidikan serupa, meskipun sebagian masih membatasi fitur AI hanya untuk pelanggan berbayar.
Ancaman Pidana bagi Penyalahguna Grok
Komdigi menegaskan bahwa penyalahgunaan Grok untuk konten asusila dapat berujung sanksi pidana. Hal ini merujuk pada Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) yang mulai berlaku 2 Januari 2026. Pasal 172 KUHP mengatur definisi pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual. Sementara Pasal 407 mengancam pelaku dengan pidana penjara minimal enam bulan hingga maksimal 10 tahun, atau denda sesuai ketentuan. “Masyarakat yang menjadi korban manipulasi foto atau deepfake asusila dapat menempuh upaya hukum,” tegas Alexander Sabar.
Cara Melindungi Foto Pribadi dari Manipulasi AI
Pakar keamanan siber dari CISSReC, Pratama Persadha, menilai tidak ada perlindungan tunggal yang sepenuhnya mampu mencegah penyalahgunaan AI. Namun, ia menyarankan sejumlah langkah mitigasi. Beberapa alat seperti Fawkes dan PhotoGuard dapat menambahkan gangguan pada level piksel gambar sehingga menyulitkan AI memproses foto secara akurat. Selain itu, penggunaan watermark dapat menegaskan kepemilikan citra dan mengurangi potensi penyalahgunaan. Dari sisi perilaku digital, Pratama menyarankan masyarakat mengurangi unggahan foto pribadi ke ruang publik, mengatur privasi akun, serta aktif memantau dan melaporkan konten bermasalah. “Ruang digital bukan ruang tanpa hukum. Hak atas citra diri harus dihormati,” ujarnya.
Evaluasi Global terhadap AI Generatif
Kasus Grok menegaskan tantangan global dalam mengatur teknologi AI generatif yang berkembang jauh lebih cepat dibanding regulasi. Banyak negara kini menghadapi dilema antara inovasi teknologi dan perlindungan hak asasi manusia. Indonesia, dengan populasi Muslim terbesar di dunia dan regulasi ketat terkait konten cabul, memilih langkah tegas sebagai bentuk perlindungan masyarakat. Hingga kini, xAI belum memberikan pernyataan resmi terkait pemblokiran Grok di Indonesia. Namun, Komdigi menegaskan dialog dengan pihak X akan terus dilakukan sebelum akses dipulihkan.
