Aplikasi Snapchat di smartphone diadakan di Saint Thomas, Kepulauan Virgin, 29 Januari 2021.
Gabby Jones | Bloomberg | Gambar Getty
Patah sedang diselidiki di Inggris atas risiko privasi terkait chatbot kecerdasan buatan generatif perusahaan.
Kantor Komisaris Informasi (ICO), regulator perlindungan data di negara tersebut, mengeluarkan pemberitahuan penegakan awal pada hari Jumat dengan menyebutkan risiko yang dapat ditimbulkan oleh chatbot, My AI, terhadap pengguna Snapchat, khususnya anak-anak berusia 13 hingga 17 tahun.
“Temuan awal dari penyelidikan kami menunjukkan kegagalan Snap dalam mengidentifikasi dan menilai risiko privasi terhadap anak-anak dan pengguna lain sebelum meluncurkan ‘My AI’,” kata Komisaris Informasi John Edwards dalam rilisnya.
Temuan ini belum dapat disimpulkan dan Snap akan memiliki kesempatan untuk mengatasi kekhawatiran awal sebelum mengambil keputusan akhir. Jika temuan awal ICO menghasilkan pemberitahuan penegakan, Snap mungkin harus berhenti menawarkan chatbot AI kepada pengguna di Inggris sampai masalah privasi teratasi.
“Kami dengan hati-hati meninjau keputusan awal ICO. Seperti ICO, kami berkomitmen untuk melindungi privasi pengguna kami,” kata juru bicara Snap kepada CNBC melalui email. “Sesuai dengan pendekatan standar kami terhadap pengembangan produk, My AI telah melalui proses peninjauan hukum dan privasi yang ketat sebelum dipublikasikan.”
Perusahaan teknologi tersebut mengatakan akan terus bekerja sama dengan ICO untuk memastikan organisasi merasa nyaman dengan prosedur penilaian risiko Snap. Chatbot AI yang berjalan pada ChatGPT OpenAI ini memiliki fitur yang mengingatkan orang tua jika anaknya telah menggunakan chatbot tersebut. Snap mengatakan pihaknya juga memiliki pedoman umum yang harus diikuti oleh botnya untuk menahan diri dari komentar yang menyinggung.
ICO tidak memberikan komentar tambahan, dengan alasan sifat awal dari temuan tersebut.
ICO sebelumnya mengeluarkan “Panduan tentang AI dan perlindungan data” dan ditindaklanjuti dengan pemberitahuan umum pada bulan April yang menguraikan pertanyaan yang harus ditanyakan oleh pengembang dan pengguna tentang AI.
Chatbot AI Snap telah diawasi sejak debutnya awal tahun ini karena percakapan yang tidak pantas, seperti menasihati anak berusia 15 tahun cara menyembunyikan bau alkohol dan ganja, menurut Washington Post.
Bentuk lain dari AI generatif juga mendapat kritik pada minggu ini. AI generatif pembuat gambar Bing digunakan oleh papan pesan ekstremis 4chan untuk membuat gambar rasis, 404 laporan.
Perusahaan tersebut mengatakan dalam laporan pendapatan terbarunya bahwa lebih dari 150 juta orang telah menggunakan bot AI.
