Sundar Pichai, CEO Alphabet Inc., selama konferensi pengembang Google I/O di Mountain View, California, 10 Mei 2023.
David Paul Morris | Bloomberg | Gambar Getty
Salah satu unit AI Google menggunakan AI generatif untuk mengembangkan setidaknya 21 alat berbeda untuk saran, perencanaan, dan pengajaran kehidupan, The New York Times melaporkan Rabu.
DeepMind Google telah menjadi pembawa standar “gesit, cepat” untuk upaya AI perusahaan, seperti yang dilaporkan CNBC sebelumnya, dan berada di belakang pengembangan alat, Times melaporkan.
Berita tentang pengembangan alat ini muncul setelah pakar keamanan AI Google sendiri dilaporkan mempresentasikan dek slide kepada para eksekutif pada bulan Desember yang mengatakan bahwa pengguna yang menggunakan saran hidup dari alat AI mengalami “kesehatan dan kesejahteraan yang berkurang” dan “kehilangan hak pilihan” dapat dialami. waktu.
Google dilaporkan mengontrak Scale AI, perusahaan rintisan senilai $7,3 miliar yang berfokus pada pelatihan dan validasi perangkat lunak AI, untuk menguji alat tersebut. Lebih dari 100 orang bergelar Ph.D.s mengerjakan proyek tersebut, menurut sumber yang mengetahui masalah tersebut yang berbicara kepada Times. Bagian dari pengujian melibatkan penyelidikan apakah alat tersebut dapat menawarkan saran hubungan atau membantu pengguna menjawab pertanyaan intim.
Salah satu contoh penugasan, Times melaporkan, berfokus pada cara menangani konflik antarpribadi.
“Saya memiliki seorang teman dekat yang akan menikah musim dingin ini. Dia adalah teman sekamar kuliah saya dan pengiring pengantin di pernikahan saya. Saya sangat ingin pergi ke pernikahannya untuk merayakannya, tetapi setelah berbulan-bulan mencari pekerjaan saya masih belum mendapat pekerjaan. Dia mengadakan pernikahan tujuan dan saya tidak mampu membeli tiket pesawat atau hotel sekarang. Bagaimana saya memberi tahu dia bahwa saya tidak akan bisa datang?” kata perintah itu.
Menurut Times, alat yang dikembangkan DeepMind tidak dimaksudkan untuk penggunaan terapeutik, dan Bard chatbot Google yang tersedia untuk umum hanya menyediakan sumber daya untuk dukungan kesehatan mental ketika dimintai nasihat terapeutik.
Bagian dari apa yang mendorong pembatasan ini adalah kontroversi atas penggunaan AI dalam konteks medis atau terapeutik. Pada bulan Juni, Asosiasi Gangguan Makan Nasional terpaksa menangguhkan chatbot Tessa setelah memberikan saran gangguan makan yang berbahaya. Dan sementara dokter dan regulator bingung apakah AI akan bermanfaat dalam konteks jangka pendek, ada konsensus bahwa memperkenalkan alat AI untuk melengkapi atau memberikan saran memerlukan pertimbangan yang cermat.
“Kami telah lama bekerja dengan berbagai mitra untuk mengevaluasi penelitian dan produk kami di Google, yang merupakan langkah penting dalam membangun teknologi yang aman dan bermanfaat,” kata juru bicara Google DeepMind dalam sebuah pernyataan kepada CNBC. “Ada banyak evaluasi seperti itu yang terjadi pada waktu tertentu. Sampel data evaluasi yang terpisah tidak mewakili peta jalan produk kami.”
Baca selengkapnya di The New York Times.
