Dalam ilustrasi foto ini, logo OpenAI ditampilkan di layar ponsel dengan foto Sam Altman, CEO OpenAI.
Didem Mente | Anadolu | Gambar Getty
OpenAI memperkirakan ChatGPT menolak lebih dari 250.000 permintaan untuk menghasilkan gambar calon presiden AS tahun 2024 sebelum Hari Pemilihan, kata perusahaan itu dalam sebuah posting blog pada hari Jumat.
Penolakan tersebut termasuk permintaan pembuatan gambar yang melibatkan Presiden terpilih Donald Trump, Wakil Presiden Kamala Harris, Presiden Joe Biden, Gubernur Minnesota Tim Walz dan Wakil Presiden terpilih JD Vance, kata OpenAI.
Munculnya kecerdasan buatan generatif telah menimbulkan kekhawatiran tentang bagaimana misinformasi yang diciptakan dengan teknologi tersebut dapat mempengaruhi banyak pemilu yang diadakan di seluruh dunia pada tahun 2024.
Menurut data dari Clarity, sebuah perusahaan pembelajaran mesin, jumlah deepfake telah meningkat sebesar 900%. Beberapa di antaranya berisi video yang dibuat atau dibayar oleh orang-orang Rusia yang berupaya mengganggu pemilu AS, kata para pejabat intelijen AS.
Dalam laporan setebal 54 halaman pada bulan Oktober, OpenAI mengatakan pihaknya telah “mengganggu lebih dari 20 operasi dan jaringan penipuan dari seluruh dunia yang mencoba menggunakan model kami.” Ancaman tersebut berkisar dari artikel situs web yang dibuat oleh AI hingga postingan media sosial oleh akun palsu, tulis perusahaan itu. Tidak ada satu pun kegiatan terkait pemilu yang dapat menarik “keterlibatan viral”, kata laporan itu.
Dalam blognya pada hari Jumat, OpenAI mengatakan pihaknya tidak melihat bukti bahwa operasi rahasia bertujuan mempengaruhi hasil pemilu AS dengan berhasil membuat produk perusahaan menjadi viral atau membangun “pemirsa yang berkelanjutan”.
Anggota parlemen sangat prihatin dengan misinformasi di era AI generatif, yang dimulai pada akhir tahun 2022 dengan peluncuran ChatGPT. Model bahasa besar masih baru dan sering kali mengeluarkan informasi yang tidak akurat dan tidak dapat diandalkan.
“Pemilih tidak boleh menggunakan chatbot AI untuk mendapatkan informasi tentang pemungutan suara atau pemilu – ada terlalu banyak kekhawatiran tentang keakuratan dan kelengkapan,” Alexandra Reeve Gives, CEO Pusat Demokrasi dan Teknologi, mengatakan kepada CNBC pekan lalu.
LIHAT: AI kemungkinan besar akan kurang diatur dan lebih mudah berubah di bawah kepemimpinan Trump yang kedua
