IndonesiaDiscover –
Jaksa Agung dari seluruh 50 negara bagian telah melarang bersama-sama dan mengirimkan surat terbuka kepada Kongres, meminta peningkatan tindakan perlindungan terhadap gambar pelecehan seksual terhadap anak yang disempurnakan dengan AI, seperti yang awalnya dilaporkan oleh AP. Surat tersebut menyerukan kepada anggota parlemen untuk “membentuk komisi ahli untuk mempelajari cara dan metode AI yang dapat digunakan untuk mengeksploitasi anak-anak secara khusus.”
Surat yang dikirimkan kepada para pemimpin Partai Republik dan Demokrat di DPR dan Senat juga mendesak para politisi untuk memperluas pembatasan yang ada terhadap materi pelecehan seksual terhadap anak-anak agar secara khusus mencakup gambar dan video yang dihasilkan oleh AI. Teknologi ini sangat baru dan, oleh karena itu, belum ada buku yang secara eksplisit menempatkan gambar yang dihasilkan AI dalam kategori yang sama dengan jenis materi pelecehan seksual terhadap anak lainnya.
“Kami berpacu dengan waktu untuk melindungi anak-anak di negara kami dari bahaya AI,” tulis jaksa dalam suratnya. “Memang benar, tembok kota sudah ditembus. Sekaranglah waktunya untuk bertindak.”
Menggunakan pembuat gambar seperti Dall-E dan Midjourney untuk membuat materi pelecehan seksual terhadap anak-anak tidak menjadi masalah, karena perangkat lunak tersebut memiliki batasan yang melarang hal semacam itu. Namun, para jaksa penuntut ini melihat ke masa depan ketika versi open-source dari perangkat lunak tersebut mulai bermunculan di mana-mana, masing-masing memiliki batasannya sendiri, atau kekurangannya. Bahkan CEO OpenAI Sam Altman telah menyatakan bahwa alat AI akan mendapat manfaat dari intervensi pemerintah untuk memitigasi risiko, meskipun ia tidak menyebutkan kekerasan terhadap anak sebagai potensi kerugian dari teknologi tersebut.
Pemerintah cenderung bergerak lambat dalam hal teknologi, karena sejumlah alasan, karena Kongres membutuhkan waktu beberapa tahun sebelum menanggapi ancaman pelaku pelecehan anak secara online dengan serius pada masa ruang obrolan AOL dan sejenisnya. Untuk mencapai tujuan tersebut, belum ada tanda-tanda bahwa Kongres akan merancang undang-undang AI yang secara tegas melarang generator membuat gambar buruk semacam ini. Bahkan Undang-Undang Kecerdasan Buatan Uni Eropa tidak secara spesifik menyebutkan risiko apa pun terhadap anak-anak.
Wilson memperingatkan konten deepfake yang menampilkan anak sebenarnya yang bersumber dari foto atau video. Ini bukan pelecehan anak dalam pengertian konvensional, kata Wilson, namun akan menggambarkan pelecehan dan akan “mencemarkan nama baik” dan “mengeksploitasi” anak dari gambaran aslinya. Ia melanjutkan dengan mengatakan bahwa “undang-undang kita mungkin tidak mengatasi sifat virtual” dari situasi seperti ini.
Teknologi ini juga dapat digunakan untuk membuat anak-anak fiktif, mengambil data dari perpustakaan, untuk menghasilkan materi pelecehan seksual. Wilson mengatakan hal ini akan menciptakan “permintaan terhadap industri yang mengeksploitasi anak-anak” sebagai argumen yang menentang gagasan bahwa hal tersebut tidak akan merugikan siapa pun.
Meskipun gagasan pelecehan seksual terhadap anak-anak dengan deepfake merupakan hal yang baru, industri teknologi sangat menyadari adanya konten pornografi deepfake dan mengambil langkah-langkah untuk mencegahnya. Pada bulan Februari lalu, Meta, OnlyFans, dan Pornhub mulai menggunakan alat online bernama Take It Down yang memungkinkan remaja melaporkan gambar dan video eksplisit diri mereka dari Internet. Alat ini digunakan untuk gambar biasa dan konten yang dihasilkan AI.
