‘Godfather of AI’ meninggalkan Google setelah satu dekade peringatan terhadap bahaya

Geoffrey Hinton, yang dikenal sebagai “The Godfather of AI,” menerima gelar Ph.D. dalam kecerdasan buatan 45 tahun yang lalu dan tetap menjadi salah satu suara yang paling dihormati di lapangan.

Hinton telah menghadiri paruh waktu selama dekade terakhir Google, antara kantor pusat perusahaan Silicon Valley dan Toronto. Tapi dia meninggalkan raksasa internet itu, dan dia mengatakan kepada New York Times bahwa dia akan memperingatkan dunia tentang potensi ancaman AI, yang menurutnya akan datang lebih cepat dari yang dia perkirakan sebelumnya.

berita investasi terkait

“Saya pikir itu 30 hingga 50 tahun lagi atau bahkan lebih lama,” kata Hinton kepada Times, dalam sebuah cerita yang diterbitkan Senin. “Tentu saja aku tidak berpikir begitu lagi.”

Hinton, yang dinobatkan sebagai pemenang Penghargaan Turing 2018 untuk terobosan konseptual dan teknik, mengatakan dia sekarang memiliki beberapa penyesalan tentang pekerjaan seumur hidupnya, Times melaporkan, mengutip risiko jangka pendek AI untuk mengambil pekerjaan, dan menyebarkan foto, video, dan foto palsu. teks yang tampak nyata bagi kebanyakan orang.

Dalam sebuah pernyataan kepada CNBC, Hinton berkata, “Sekarang menurut saya kecerdasan digital yang kami buat sangat berbeda dari kecerdasan biologis.”

Hinton merujuk pada kekuatan GPT-4, model bahasa besar (LLM) tercanggih sejak awal OpenAI, yang teknologinya menjadi viral sejak chatbot ChatGPT diluncurkan akhir tahun lalu. Begini cara dia menggambarkan apa yang terjadi sekarang:

“Jika saya memiliki 1.000 agen digital yang semuanya merupakan klon persis dengan bobot yang identik, ketika satu agen belajar bagaimana melakukan sesuatu, semua orang langsung mengetahuinya karena mereka memiliki bobot yang sama,” kata Hinton kepada CNBC. “Agen biologis tidak bisa melakukan itu. Jadi kumpulan agen digital yang identik dapat memperoleh jauh lebih banyak pengetahuan daripada agen biologis individu mana pun. Inilah mengapa GPT-4 mengetahui jauh lebih banyak daripada satu orang.”

Hinton membunyikan alarm bahkan sebelum dia meninggalkan Google. Dalam sebuah wawancara dengan CBS News yang ditayangkan pada bulan Maret, Hinton ditanya pendapatnya tentang “kemungkinan AI akan memusnahkan umat manusia.” Dia menjawab, “Itu tidak terbayangkan. Hanya itu yang akan saya katakan.”

CEO Google Sundar Pichai juga secara terbuka memperingatkan terhadap risiko AI. Dia mengatakan kepada “60 Menit” bulan lalu bahwa masyarakat tidak siap menghadapi apa yang akan terjadi. Pada saat yang sama, Google memamerkan produknya sendiri, seperti robot belajar mandiri dan Bard, pesaing ChatGPT-nya.

Namun ketika ditanya apakah “tingkat perubahan bisa melebihi kemampuan kita untuk beradaptasi”, Pichai meremehkan risikonya. “Kurasa tidak. Kita semacam spesies yang bisa beradaptasi tanpa batas,” katanya.

Selama setahun terakhir, Hinton telah mengurangi waktunya di Google, menurut dokumen internal yang dilihat oleh CNBC. Pada Maret 2022, dia pindah ke 20% dari waktu penuh. Belakangan di tahun itu, dia ditugaskan ke tim baru dalam penelitian otak. Peran terakhirnya adalah wakil presiden dan rekan teknik, melapor kepada Jeff Dean di dalam Google Brain.

Dalam pernyataan email ke CNBC, Dean mengatakan dia menghargai Hinton atas “kontribusinya selama satu dekade di Google.”

“Aku akan merindukannya, dan aku berharap dia baik-baik saja!” tulis Dean. “Sebagai salah satu perusahaan pertama yang menerbitkan prinsip-prinsip AI, kami tetap berkomitmen pada pendekatan AI yang bertanggung jawab. Kami terus belajar untuk memahami risiko yang muncul, sekaligus berinovasi dengan berani.”

Kepergian Hinton merupakan kerugian besar bagi Google Brain, tim di belakang sebagian besar pekerjaan perusahaan di bidang AI. Beberapa tahun yang lalu, Google dilaporkan menghabiskan $44 juta untuk mengakuisisi sebuah perusahaan yang dimulai oleh Hinton dan dua muridnya pada tahun 2012.

Kelompok risetnya membuat terobosan besar dalam pembelajaran mendalam yang mempercepat pengenalan ucapan dan klasifikasi objek. Teknologi mereka akan membantu membentuk cara baru untuk menggunakan AI, termasuk ChatGPT dan Bard.

Google telah menyatukan tim di seluruh perusahaan untuk mengintegrasikan teknologi dan LLM Bard ke lebih banyak produk dan layanan. Bulan lalu, perusahaan mengatakan akan menggabungkan Brain dengan DeepMind untuk “mempercepat kemajuan kami dalam AI secara signifikan.”

Menurut Times, Hinton mengatakan dia berhenti dari pekerjaannya di Google agar dia dapat berbicara dengan bebas tentang risiko AI. Dia mengatakan kepada surat kabar itu: “Saya menghibur diri dengan alasan normal: Jika saya tidak melakukannya, orang lain akan melakukannya.”

Hinton tweeted Senin, “Saya pergi agar saya dapat berbicara tentang bahaya AI tanpa mempertimbangkan bagaimana pengaruhnya terhadap Google. Google bertindak sangat bertanggung jawab.”