Jaap Tiba | Foto Nur | Gambar Getty
Fitur kecerdasan buatan di iPhone menghasilkan peringatan berita palsu, sehingga meningkatkan kekhawatiran tentang kemampuan teknologi tersebut dalam menyebarkan informasi yang salah.
Minggu lalu memiliki fitur yang baru saja dibuat Menarik yang merangkum notifikasi pengguna menggunakan AI, mendorong ringkasan notifikasi aplikasi BBC News yang tidak akurat pada berita penyiar tentang semifinal Kejuaraan Dart Dunia PDC, dengan secara keliru mengklaim pemain dart Inggris Luke Littler telah memenangkan kejuaraan.
Insiden itu terjadi sehari sebelum final turnamen sebenarnya, yang dimenangkan Littler.
Kemudian, hanya beberapa jam setelah insiden itu terjadi, pemberitahuan terpisah yang dihasilkan oleh Apple Intelligence, sistem AI milik raksasa teknologi tersebut, secara keliru mengklaim bahwa legenda tenis Rafael Nadal telah mengaku sebagai gay.
BBC telah mencoba meminta Apple untuk memperbaiki masalah ini selama sekitar satu bulan. Penyiar negara bagian Inggris mengajukan keluhan kepada Apple pada bulan Desember setelah fitur AI-nya menghasilkan berita utama palsu yang menyatakan bahwa Luigi Mangione, pria yang ditangkap setelah pembunuhan CEO perusahaan asuransi kesehatan UnitedHealthcare Brian Thompson di New York, menembak dirinya sendiri – yang tidak pernah terjadi.
Apple tidak dapat dihubungi untuk dimintai komentar ketika dihubungi oleh CNBC. Apple mengatakan kepada BBC pada hari Senin bahwa mereka sedang mengerjakan pembaruan untuk memperbaiki masalah tersebut dengan menambahkan penjelasan yang menunjukkan kapan Apple Intelligence bertanggung jawab atas teks yang ditampilkan dalam notifikasi. Saat ini, notifikasi berita yang dihasilkan muncul langsung dari sumbernya.
“Fitur-fitur Apple Intelligence masih dalam versi beta dan kami terus melakukan perbaikan berdasarkan masukan dari pengguna,” kata perusahaan itu dalam sebuah pernyataan yang dibagikan kepada BBC. Apple menambahkan bahwa pihaknya mendorong pengguna untuk melaporkan kekhawatiran jika mereka melihat “ringkasan pemberitahuan yang tidak terduga”.
BBC bukan satu-satunya organisasi berita yang terpengaruh oleh Apple Intelligence yang merangkum peringatan berita secara tidak akurat. Pada bulan November, fitur tersebut mengirimkan pemberitahuan AI yang secara keliru mengklaim bahwa Perdana Menteri Israel Benjamin Netanyahu telah ditangkap.
Bug tersebut ditandai di aplikasi media sosial Bluesky oleh Ken Schwencke, editor senior di situs jurnalisme investigatif ProPublica.
CNBC telah menghubungi BBC dan The New York Times untuk memberikan komentar mengenai usulan solusi Apple terhadap masalah misinformasi pada fitur AI-nya.
Masalah misinformasi AI
Apple memuji ringkasan notifikasi yang dihasilkan AI sebagai cara efisien untuk mengelompokkan dan menulis ulang pratinjau notifikasi aplikasi berita menjadi satu peringatan di layar kunci pengguna.
Ini adalah fitur yang menurut Apple dirancang untuk membantu pengguna memindai notifikasi mereka untuk mengetahui detail penting dan mengurangi rentetan pembaruan yang banyak diketahui oleh banyak pengguna ponsel cerdas.
Namun, hal ini menyebabkan apa yang oleh para ahli AI disebut sebagai “halusinasi” – respons yang dihasilkan oleh AI yang berisi informasi palsu atau menyesatkan.
“Saya menduga Apple tidak akan sendirian dalam menghadapi tantangan terkait konten yang dihasilkan AI. Kami telah melihat banyak contoh layanan AI yang dengan percaya diri mengatakan kebohongan, yang disebut ‘halusinasi’,” Ben Wood, analis utama di riset pasar yang berfokus pada teknologi perusahaan CCS Insights, mengatakan kepada CNBC.
Dalam kasus Apple, karena AI mencoba menggabungkan pemberitahuan dan memadatkannya agar hanya menampilkan ringkasan informasi dasar, AI menggabungkan kata-kata tersebut dengan cara yang secara tidak akurat mengkarakterisasi peristiwa tersebut — tetapi dengan percaya diri menyajikannya sebagai fakta.
“Apple mempunyai kerumitan tambahan dalam mencoba memampatkan konten menjadi ringkasan yang sangat singkat, yang akhirnya memberikan pesan yang salah,” tambah Wood. “Apple pasti akan berupaya mengatasi masalah ini sesegera mungkin, dan saya yakin para pesaingnya akan mengawasi dengan cermat untuk melihat bagaimana responsnya.”
AI Generatif bekerja dengan mencoba mencari jawaban terbaik atas pertanyaan atau perintah yang dimasukkan oleh pengguna, dengan mengandalkan data dalam jumlah besar yang menjadi dasar pelatihan model bahasa besar.
Terkadang AI mungkin tidak mengetahui jawabannya. Namun karena diprogram untuk selalu memberikan respons terhadap perintah pengguna, hal ini dapat menyebabkan AI berbohong.
Tidak jelas kapan perbaikan bug di fitur ringkasan notifikasi oleh Apple akan diperbaiki. Pembuat iPhone memperkirakan satu perangkat akan tiba dalam beberapa minggu mendatang.
