OpenAI telah membubarkan timnya yang berfokus pada risiko jangka panjang dari kecerdasan buatan hanya satu tahun setelah perusahaan mengumumkan grup tersebut, seseorang yang mengetahui situasi tersebut mengonfirmasi kepada CNBC pada hari Jumat.
Sumber yang enggan disebutkan namanya mengatakan beberapa anggota tim dipindahkan ke berbagai tim lain di perusahaan.
Berita ini muncul beberapa hari setelah kedua pemimpin tim, salah satu pendiri OpenAI Ilya Sutskever dan Jan Leike, mengumumkan kepergian mereka dari startup yang didukung Microsoft. Leike menulis pada hari Jumat bahwa “budaya dan proses keamanan OpenAI telah menggantikan produk-produk cemerlang.”
Diumumkan tahun lalu, tim Superalignment OpenAI berfokus pada “terobosan ilmiah dan teknis untuk mengarahkan dan mengendalikan sistem AI yang jauh lebih pintar dari kita.” Pada saat itu, OpenAI mengatakan akan memberikan 20% daya komputasinya untuk inisiatif ini selama empat tahun.
OpenAI tidak berkomentar, malah mengarahkan CNBC ke postingan terbaru salah satu pendiri dan CEO Sam Altman di X, di mana dia berbagi bahwa dia sedih melihat Leike pergi dan perusahaan memiliki lebih banyak pekerjaan yang harus dilakukan.
Berita pembubaran tim pertama kali diberitakan oleh Wired.
Sutskever dan Leike mengumumkan kepergian mereka di platform media sosial X pada hari Selasa dengan selang waktu beberapa jam, tetapi pada hari Jumat Leike berbagi rincian lebih lanjut tentang mengapa dia meninggalkan startup tersebut.
“Saya bergabung karena saya pikir OpenAI akan menjadi tempat terbaik di dunia untuk melakukan penelitian ini,” tulis Leike di X. “Namun, saya sudah lama tidak setuju dengan kepemimpinan OpenAI mengenai prioritas inti perusahaan, hingga akhirnya kami mencapai titik puncaknya.”
Leike menulis bahwa ia yakin lebih banyak bandwidth perusahaan harus difokuskan pada keamanan, pemantauan, kesiapsiagaan, keselamatan, dan dampak sosial.
“Masalah-masalah ini cukup sulit untuk diperbaiki, dan saya khawatir kita tidak berada pada jalur yang tepat untuk mencapainya,” tulisnya. “Selama beberapa bulan terakhir, tim saya berlayar melawan angin. Kadang-kadang kami kesulitan (menghitung sumber daya) dan semakin sulit menyelesaikan penelitian penting ini.”
Leike menambahkan bahwa OpenAI perlu menjadi “perusahaan AGI yang mengutamakan keselamatan.”
“Membangun mesin yang lebih pintar dari manusia pada dasarnya merupakan upaya yang berbahaya,” tulisnya. “OpenAI memikul tanggung jawab yang sangat besar atas nama seluruh umat manusia. Namun selama beberapa tahun terakhir, budaya dan proses keamanan telah menjadi bagian belakang dari produk-produk cemerlang.”
Leike tidak segera menanggapi permintaan komentar.
Pengunduran diri ini terjadi beberapa bulan setelah OpenAI mengalami krisis kepemimpinan yang melibatkan Altman.
Pada bulan November, dewan OpenAI memecat Altman, dengan mengatakan dalam sebuah pernyataan bahwa Altman tidak “secara konsisten jujur dalam komunikasinya dengan dewan.”
Masalah ini tampaknya semakin kompleks setiap hari, dengan The Wall Street Journal dan media lain melaporkan bahwa Sutskever telah melatih fokusnya untuk memastikan bahwa kecerdasan buatan tidak akan membahayakan manusia, sementara media lain, termasuk Altman, lebih tertarik untuk terus menghadirkan teknologi baru.
Pemecatan Altman menyebabkan pengunduran diri atau ancaman pengunduran diri, termasuk surat terbuka yang ditandatangani oleh hampir seluruh karyawan OpenAI, dan keributan dari investor termasuk Microsoft. Dalam seminggu, Altman kembali ke perusahaan, dan anggota dewan Helen Toner, Tasha McCauley dan Ilya Sutskever, yang memilih untuk memecat Altman, keluar. Sutskever tetap menjadi staf pada saat itu tetapi tidak lagi dalam kapasitasnya sebagai anggota dewan. Adam D’Angelo, yang juga memilih untuk menggulingkan Altman, tetap berada di dewan.
Ketika Altman ditanya tentang status Sutskever selama panggilan Zoom dengan wartawan pada bulan Maret, dia mengatakan tidak ada kabar terbaru yang bisa dibagikan. “Saya mencintai Ilya… Saya harap kita bisa bekerja sama di sisa karier kita, karier saya, apa pun,” kata Altman. “Tidak ada yang perlu diumumkan hari ini.”
Pada hari Selasa, Altman berbagi pemikirannya tentang kepergian Sutskever.
“Ini sangat menyedihkan bagi saya; Ilya adalah salah satu pemikir terhebat di generasi kita, cahaya penuntun di bidang kita, dan teman baik,” tulis Altman. pada X. “Kecemerlangan dan visinya sangat terkenal; kehangatan dan belas kasihnya kurang dikenal, namun tidak kalah pentingnya.” Altman mengatakan direktur penelitian Jakub Pachocki, yang telah bergabung dengan OpenAI sejak 2017, akan menggantikan Sutskever sebagai kepala ilmuwan.
Berita tentang kepergian Sutskever dan Leike, serta pembubaran tim penyelarasan super, muncul beberapa hari setelah OpenAI memperkenalkan model AI baru dan versi desktop ChatGPT, bersama dengan antarmuka pengguna yang diperbarui, upaya terbaru perusahaan untuk menyederhanakan penggunaan perluasan populernya. chatbot.
Pembaruan ini menghadirkan model GPT-4 kepada semua orang, termasuk pengguna gratis OpenAI, kata chief technology officer Mira Murati dalam siaran langsung pada hari Senin. Dia menambahkan bahwa model baru, GPT-4o, “jauh lebih cepat” dengan peningkatan kemampuan dalam teks, video dan audio.
OpenAI mengatakan pada akhirnya berencana untuk mengizinkan pengguna melakukan obrolan video dengan ChatGPT. “Ini pertama kalinya kami benar-benar mengambil langkah maju yang besar dalam hal kemudahan penggunaan,” kata Murati.
