Bos dari Google DeepMind telah menolak klaim dari kepala kecerdasan buatan Meta yang mengklaim bahwa perusahaan tersebut mendorong kekhawatiran tentang ancaman eksistensial AI terhadap umat manusia untuk mengendalikan narasi tentang cara terbaik mengatur teknologi.
Dalam sebuah wawancara dengan Arjun Kharpal dari CNBC, Hassabis mengatakan bahwa DeepMind tidak berusaha mencapai “regulatory capture” ketika membahas cara terbaik untuk mendekati AI. Hal ini terjadi ketika DeepMind memberi penjelasan kepada pemerintah Inggris mengenai pendekatannya terhadap AI menjelang pertemuan puncak penting mengenai teknologi yang berlangsung pada hari Rabu dan Kamis.
Selama akhir pekan, Yann LeCun, kepala ilmuwan AI Meta, mengatakan bahwa Hassabis DeepMind, bersama dengan CEO OpenAI Sam Altman, CEO Anthropic Dario Amodi, “melakukan lobi perusahaan besar-besaran” untuk memastikan bahwa hanya segelintir perusahaan teknologi besar yang akhirnya mengendalikan AI. .
Dia juga mengatakan bahwa hal tersebut memicu kritik yang mengatakan sistem AI yang sangat canggih harus dilarang untuk menghindari situasi di mana umat manusia kehilangan kendali atas teknologi tersebut.
“Jika ketakutan Anda berhasil, hal itu *pastinya* akan mengarah pada apa yang Anda dan saya identifikasi sebagai bencana: sejumlah kecil perusahaan akan mengendalikan AI,” kata LeCun pada hari Minggu di X, platform yang sebelumnya dikenal sebagai Twitter.
“Seperti kebanyakan orang, saya sangat mendukung platform AI terbuka karena saya percaya pada kombinasi kekuatan: kreativitas masyarakat, demokrasi, kekuatan pasar, dan regulasi produk. Saya juga tahu bahwa menghasilkan sistem AI yang aman dan berada di bawah kendali kita adalah hal yang mungkin dilakukan. Saya telah membuat proposal konkrit untuk mencapai tujuan itu.”
LeCun adalah pendukung besar AI open source, atau perangkat lunak AI yang tersedia secara terbuka untuk umum untuk tujuan penelitian dan pengembangan. Hal ini berbeda dengan sistem AI “tertutup”, yang kode sumbernya dirahasiakan oleh perusahaan yang memproduksinya.
LeCun mengatakan visi regulasi AI yang dicita-citakan Hassabis dan CEO AI lainnya adalah menjadikan AI open-source “tidak ada lagi regulasinya” dan hanya sejumlah kecil perusahaan dari Pantai Barat AS dan Tiongkok yang dapat mengendalikan teknologi tersebut.
Meta adalah salah satu perusahaan teknologi terbesar yang berupaya menjadikan model AI-nya menjadi sumber terbuka. Perangkat lunak model bahasa besar (LLM) LLaMa milik perusahaan ini adalah salah satu model AI sumber terbuka terbesar yang pernah ada, dan memiliki fitur terjemahan bahasa tingkat lanjut di dalamnya.
Menanggapi komentar LeCun, Hassabis mengatakan pada hari Selasa, “Saya sangat tidak setuju dengan sebagian besar komentar dari Yann.”
“Saya pikir cara kita memikirkannya adalah mungkin ada tiga kelompok atau risiko yang harus kita khawatirkan,” kata Hassabis. “Ada dampak jangka pendek seperti misinformasi, deepfake, hal-hal semacam ini, bias dan keadilan dalam sistem, yang harus kita atasi.”
“Kemudian ada penyalahgunaan AI oleh pihak-pihak jahat yang menggunakan kembali teknologi, teknologi yang bertujuan umum untuk tujuan buruk yang sebenarnya tidak dimaksudkan. Ini adalah pertanyaan tentang distribusi sistem dan akses ke sistem ini. Jadi kita harus mengatasinya. memikirkan. .”
“Dan akhirnya saya memikirkan risiko jangka panjang, yaitu risiko teknis AGI (kecerdasan umum buatan),” kata Hassabis.
“Jadi risikonya adalah mereka sendiri yang memastikan bahwa mereka dapat dikendalikan, nilai apa yang ingin Anda berikan, memiliki tujuan tersebut dan memastikan mereka tetap berpegang pada tujuan tersebut?”
Hassabis adalah pendukung besar gagasan bahwa kita pada akhirnya akan mencapai bentuk kecerdasan buatan yang cukup kuat untuk mengungguli manusia dalam semua tugas yang bisa dibayangkan, sesuatu yang di dunia AI disebut sebagai “kecerdasan umum buatan”.
Hassabis mengatakan penting untuk memulai pembicaraan mengenai regulasi kecerdasan buatan yang berpotensi menjadi supercerdas sekarang, karena jika dibiarkan terlalu lama, konsekuensinya bisa sangat buruk.
“Saya kira kita tidak ingin melakukan hal itu menjelang terjadinya hal-hal berbahaya ini,” kata Hassabis. “Saya pikir kami ingin mendahuluinya.”
Meta tidak segera bisa dihubungi untuk dimintai komentar ketika dihubungi oleh CNBC.
Kerjasama dengan Tiongkok
Baik Hassabis maupun James Manyika, wakil presiden senior bidang penelitian, teknologi, dan masyarakat Google, mengatakan mereka ingin mencapai kesepakatan internasional tentang cara terbaik untuk melakukan pendekatan terhadap pengembangan dan regulasi kecerdasan buatan yang bertanggung jawab.
Manyika mengatakan menurutnya merupakan “hal yang baik” bahwa pemerintah Inggris, bersama dengan pemerintah AS, sepakat bahwa ada kebutuhan untuk mencapai konsensus global mengenai AI.
“Saya juga berpikir akan sangat penting untuk melibatkan semua orang dalam pembicaraan tersebut,” tambah Manyika.
“Saya pikir hal yang sering Anda dengar adalah kami ingin menjadi bagian dari hal ini karena ini adalah teknologi yang penting, dengan begitu banyak potensi untuk mengubah masyarakat dan meningkatkan kehidupan di mana pun.”
Salah satu poin perdebatan seputar KTT AI di Inggris adalah kehadiran Tiongkok. Delegasi dari Kementerian Sains dan Teknologi Tiongkok akan menghadiri acara tersebut minggu ini.
Hal ini memicu perasaan tidak nyaman di beberapa penjuru dunia politik, baik di pemerintahan AS maupun di beberapa jajaran Perdana Menteri Rishi Sunak sendiri.
Para pejabat ini khawatir bahwa keterlibatan Tiongkok dalam KTT tersebut dapat menimbulkan risiko terhadap keamanan nasional, terutama karena Beijing memiliki pengaruh yang kuat terhadap sektor teknologinya.
Ketika ditanya apakah Tiongkok harus dilibatkan dalam pembicaraan seputar keamanan kecerdasan buatan, Hassabis mengatakan bahwa AI tidak mengenal batas negara, dan hal ini memerlukan koordinasi para aktor di berbagai negara untuk mencapai tingkat kesepakatan internasional mengenai standar yang diperlukan untuk AI.
“Teknologi ini merupakan teknologi global,” kata Hassabis. “Sangat penting, setidaknya pada tingkat ilmiah, kita melakukan dialog sebanyak mungkin.”
Ketika ditanya apakah DeepMind sebagai sebuah perusahaan terbuka untuk bekerja sama dengan Tiongkok, Hassabis menjawab: “Saya pikir kita harus berbicara dengan semua orang pada tahap ini.”
Raksasa teknologi AS enggan melakukan pekerjaan komersial di Tiongkok, terutama karena Washington memberikan banyak tekanan pada negara tersebut dalam bidang teknologi.
