Sudah kurang dari dua minggu sejak itu Google memulai debutnya “Ikhtisar AI” di Google Penelusuran, dan kritik publik meningkat setelah kueri memberikan hasil yang tidak masuk akal atau tidak akurat dalam fitur AI — tanpa ada cara untuk memilih tidak ikut serta.
Ikhtisar AI menunjukkan ringkasan singkat jawaban atas kueri penelusuran di bagian paling atas Google Penelusuran. Misalnya, jika pengguna menelusuri cara terbaik untuk membersihkan sepatu bot kulit, laman hasil mungkin menampilkan “ikhtisar AI” di bagian atas dengan proses pembersihan multi-langkah, yang diperoleh dari informasi yang dikumpulkan dari seluruh web.
Namun pengguna media sosial membagikan berbagai tangkapan layar yang menunjukkan alat AI tersebut memberikan jawaban yang salah dan kontroversial.
Google, Microsoft, OpenAI, dan perusahaan lain mendorong perlombaan senjata AI yang generatif karena perusahaan-perusahaan di setiap industri terburu-buru menambahkan chatbot dan agen bertenaga AI agar tidak tertinggal dari pesaing. Pasar ini diperkirakan akan mencapai pendapatan lebih dari $1 triliun dalam satu dekade.
Berikut beberapa contoh kesalahan yang dihasilkan oleh AI Review, menurut tangkapan layar yang dibagikan oleh pengguna.
Ketika ditanya berapa banyak presiden Muslim yang dimiliki AS, AI Review menjawab, “Amerika Serikat mempunyai satu presiden Muslim, Barack Hussein Obama.”
Saat pengguna menelusuri “keju tidak menempel pada pizza”, fitur tersebut menyarankan untuk menambahkan “sekitar 1/8 cangkir lem tidak beracun ke dalam saus”. Pengguna media sosial menemukan komentar Reddit berusia 11 tahun yang tampaknya menjadi sumbernya.
Pengakuan juga bisa menjadi masalah bagi AI Review, terutama dalam mengaitkan informasi yang tidak akurat dengan profesional medis atau ilmuwan.
Misalnya, ketika ditanya, “Berapa lama saya bisa menatap matahari untuk mendapatkan kesehatan terbaik,” alat tersebut berkata, “Menurut WebMD, para ilmuwan mengatakan bahwa menatap matahari selama 5-15 menit, atau hingga 30 menit jika Anda kulit yang lebih gelap, umumnya aman dan menawarkan manfaat kesehatan paling banyak.”
Ketika ditanya, “Berapa banyak batu yang harus saya makan setiap hari,” alat tersebut menjawab, “Menurut ahli geologi UC Berkeley, orang harus makan setidaknya satu batu kecil sehari,” sambil terus menyebutkan vitamin dan manfaat pencernaannya.
Alat ini juga dapat merespons pertanyaan sederhana secara tidak akurat, seperti membuat daftar buah-buahan yang diakhiri dengan “um”, atau mengatakan tahun 1919 adalah 20 tahun yang lalu.
Saat ditanya apakah Google Penelusuran melanggar undang-undang antimonopoli atau tidak, AI Review menjawab, “Ya, Departemen Kehakiman AS dan 11 negara bagian menggugat Google atas pelanggaran antimonopoli.”
Pada hari Google meluncurkan Ikhtisar AI pada acara Google I/O tahunannya, perusahaan tersebut mengatakan bahwa pihaknya juga berencana untuk memperkenalkan kemampuan perencanaan seperti asisten langsung dalam pencarian. Dijelaskan bahwa pengguna akan dapat mencari sesuatu seperti, “Buat rencana makan 3 hari untuk grup yang mudah disiapkan,” dan mereka akan mendapatkan titik awal dengan berbagai macam resep dari seluruh web.
“Sebagian besar ulasan AI memberikan informasi berkualitas tinggi, dengan tautan untuk menggali lebih dalam di web,” kata juru bicara Google kepada CNBC dalam sebuah pernyataan. “Banyak contoh yang kami lihat merupakan pertanyaan yang tidak biasa, dan kami juga melihat contoh yang telah direkayasa atau tidak dapat kami reproduksi.”
Juru bicara tersebut mengatakan bahwa AI Review telah menjalani pengujian ekstensif sebelum diluncurkan dan bahwa perusahaan “mengambil tindakan segera jika diperlukan berdasarkan kebijakan konten kami”.
Berita ini mengikuti peluncuran alat pembuat gambar Gemini yang diluncurkan oleh Google pada bulan Februari, dan jeda pada bulan yang sama setelah masalah serupa.
Alat ini memungkinkan pengguna memasukkan perintah untuk membuat gambar, namun pengguna segera menemukan ketidakakuratan historis dan reaksi yang meragukan, yang menyebar luas di media sosial.
Misalnya, ketika seorang pengguna meminta Gemini untuk menunjukkan seorang tentara Jerman pada tahun 1943, alat tersebut menampilkan a sekelompok tentara yang berbeda ras mengenakan seragam militer Jerman pada masa itu, menurut tangkapan layar di platform media sosial X.
Ketika ditanya tentang “penggambaran raja Inggris abad pertengahan yang akurat secara historis”, model tersebut menghasilkan serangkaian gambar yang berbeda ras, termasuk salah satu gambar penguasa perempuan, tangkapan layar menunjukkan Pengguna melaporkan hasil serupa ketika mereka meminta gambar para Founding Fathers Amerika, raja Prancis pada abad ke-18, pasangan Jerman pada tahun 1800-an, dan masih banyak lagi. Model tersebut menunjukkan gambar pria Asia sebagai jawaban atas pertanyaan tentang pendiri Google sendiri, lapor pengguna.
Google mengatakan dalam sebuah pernyataan pada saat itu bahwa mereka sedang berupaya untuk memperbaiki masalah pembuatan gambar Gemini, dan mengakui bahwa alat tersebut “meleset dari sasaran”. Segera setelah itu, perusahaan mengumumkan bahwa mereka akan segera “menghentikan pembuatan gambar manusia” dan “segera merilis ulang versi yang lebih baik.”
Pada bulan Februari, CEO Google DeepMind Demis Hassabis mengatakan Google berencana meluncurkan kembali alat AI penghasil gambarnya dalam “beberapa minggu” ke depan, namun belum diluncurkan.
Masalah dengan keluaran generasi gambar Gemini telah memicu perdebatan dalam industri AI, dengan beberapa kelompok menyebut Gemini terlalu “terbangun” atau condong ke kiri, dan kelompok lain mengatakan bahwa perusahaan tersebut tidak cukup terlibat dalam bentuk etika AI yang benar. diinvestasikan. Google mendapat kecaman pada tahun 2020 dan 2021 karena memecat para pemimpin kelompok etika AI setelah mereka menerbitkan makalah penelitian yang kritis terhadap risiko tertentu dari model AI tersebut dan kemudian mengatur ulang struktur kelompok tersebut.
Pada tahun 2023, Sundar Pichai, CEO perusahaan induk Google, Alphabet, dikritik oleh beberapa karyawan karena kegagalan perusahaan dan penerapan Bard yang “terburu-buru”, setelah penyebaran virus ChatGPT.
Koreksi: Artikel ini telah diperbarui untuk mencerminkan nama ikhtisar AI Google yang benar. Versi sebelumnya dari artikel ini juga menyertakan tautan ke tangkapan layar yang kemudian dikonfirmasi oleh Google.
