Mengapa Jepang tertinggal dalam AI generatif dan pembuatan LLM

Negara-negara berlomba untuk mengembangkan algoritme kecerdasan buatan generatif mereka sendiri, tetapi Jepang yang berteknologi tinggi sudah tertinggal.

AI generatif telah menjadi topik terpanas di bidang teknologi sejak OpenAI menjadi berita utama dengan chatbot ChatGPT-nya. Terobosan dalam AI generatif berpotensi memicu peningkatan 7% dalam PDB global, atau hampir $7 triliun, selama dekade berikutnya, menurut penelitian Goldman Sachs.

Kunci pengembangan AI generatif adalah model bahasa besar yang mencakup ChatGPT dan Itu Baidu Ernie Bot, mampu memproses kumpulan data besar untuk menghasilkan teks dan konten lainnya. Tetapi Jepang saat ini tertinggal dari AS, China, dan UE dalam mengembangkan algoritme ini, kata Noriyuki Kojima, salah satu pendiri startup LLM Jepang, Kotoba Technology.

Organisasi China, termasuk raksasa teknologi Ali Baba dan Tencent, telah meluncurkan setidaknya 79 LLM di dalam negeri selama tiga tahun terakhir, Reuters melaporkan pada bulan Mei, mengutip penelitian dari konsorsium lembaga milik negara. Pusat kekuatan perusahaan AS seperti OpenAI, Microsoft, Google Dan Meta memainkan peran penting dalam mendorong kemajuan LLM negara, kata Kojima.

Namun, Jepang tertinggal dari AS, Cina, dan Eropa dalam cakupan dan kecepatan pengembangan LLM-nya.

“Posisi tertinggal Jepang di bidang AI generatif sebagian besar berasal dari kekurangan komparatifnya dalam pembelajaran mendalam dan pengembangan perangkat lunak yang lebih ekstensif,” kata Kojima.

Pembelajaran mendalam membutuhkan “komunitas insinyur perangkat lunak yang kuat” untuk mengembangkan infrastruktur dan aplikasi yang diperlukan, tambah Kojima. Namun, Jepang akan menghadapi kekurangan 789.000 insinyur perangkat lunak pada tahun 2030, menurut Kementerian Ekonomi, Perdagangan, dan Industri. Negara ini sekarang berada di peringkat ke-28^st dari 63 negara dalam hal pengetahuan teknologi, menurut IMD World Digital Competitiveness Ranking.

Jepang juga menghadapi tantangan perangkat keras karena LLM harus dilatih dengan superkomputer AI seperti milik IBM Vela dan sistem hosting Azure Microsoft. Tetapi tidak ada perusahaan swasta di Jepang yang memiliki “mesin kelas dunia” sendiri dengan kemampuan tersebut, lapor Nikkei Asia.

Oleh karena itu, superkomputer yang dikelola pemerintah seperti Fugaku “memegang kunci” untuk pengejaran LLM Jepang, jelas Kojima.

“Akses ke superkomputer berskala besar membentuk tulang punggung pengembangan LLM, karena secara tradisional menjadi hambatan utama dalam proses tersebut,” katanya.

Institut Teknologi Tokyo dan Universitas Tohoku berencana untuk menggunakan Fugaku untuk mengembangkan LLM terutama berdasarkan data Jepang bekerja sama dengan pengembang superkomputer Fujitsu dan Riken, Fujitsu mengumumkan pada bulan Mei.

Organisasi berencana untuk mempublikasikan hasil penelitian mereka pada tahun 2024 untuk membantu peneliti dan insinyur Jepang lainnya mengembangkan LLM, tambah Fujitsu.

Pemerintah Jepang juga akan menginvestasikan 6,8 miliar yen ($48,2 juta), sekitar setengah dari total biaya, untuk membangun superkomputer baru di Hokkaido yang akan mulai beroperasi pada awal tahun depan, Nikkei Asia melaporkan. Superkomputer tersebut akan berspesialisasi dalam pelatihan LLM untuk memajukan pengembangan AI generatif Jepang, kata Nikkei Asia.

Pada bulan April, Perdana Menteri Jepang Fumio Kishida mengatakan negaranya mendukung penggunaan industri teknologi AI generatif. Komentar Kishida mengikuti pertemuannya dengan CEO OpenAI Sam Altman, yang mengatakan perusahaan ingin membuka kantor di Jepang.

Para pemain Teknologi Besar juga bergabung untuk meningkatkan posisi Jepang dalam AI generatif. Pada bulan Juni, SoftBank mobile arm mengatakan berencana untuk mengembangkan platform AI generatifnya sendiri, lapor media lokal. Hal ini digarisbawahi oleh pengumuman CEO SoftBank Masayoshi Son bahwa perusahaan investasi tersebut berencana untuk beralih dari “mode pertahanan” ke “mode serangan” dan memperkuat fokusnya pada AI.

“Kami ingin menjadi (dalam) posisi terdepan untuk revolusi AI,” kata Son dalam rapat umum pemegang saham tahunan.

SoftBank Group menjual 85% sahamnya di SB Energy ke Toyota Tsusho pada bulan April dan baru-baru ini setuju untuk menjual 90% sahamnya di manajer investasi AS, Fortress Investment Group, Nikkei Asia melaporkan. Memangkas investasi lain ini membantu SoftBank membebaskan uang tunai, memungkinkannya untuk fokus pada AI melalui unit investasi modal ventura Vision Fund.

Perusahaan desain chip milik SoftBank, Arm, juga akan mengejar IPO AS di akhir tahun ini. “Ini akan menjadi IPO terbesar yang pernah terjadi di dunia,” kata Amir Anvarzadeh, ahli strategi pasar saham Jepang di Asymmetric Advisors.

IPO akan memberikan jumlah yang besar dan kuat untuk meningkatkan dana di SoftBank, yang melaporkan rekor kerugian sebesar 4,3 triliun yen di Vision Fund untuk tahun fiskal yang berakhir 31 Maret.

Arm awalnya berusaha mengumpulkan antara $8 miliar dan $10 miliar. Tetapi dengan permintaan chip semikonduktor “melalui atap”, Anvarzadeh menyarankan Arm dapat mengumpulkan sebanyak $50 miliar hingga $60 miliar – atau “85% kapitalisasi pasar SoftBank.”

Dia mengatakan harga saham SoftBank kemungkinan akan naik, meskipun itu tidak menjamin keberhasilan upaya AI-nya.

“Pada dasarnya, menurut saya SoftBank tidak akan mengubah lanskap Jepang … mereka bukan penyelamat AI Jepang,” katanya.

perusahaan telekomunikasi Jepang NTT juga mengumumkan rencana untuk mengembangkan LLM sendiri tahun keuangan ini, dengan tujuan menciptakan layanan yang “ringan dan efisien” untuk perusahaan. NTT mengatakan akan dapat menyuntikkan 8 triliun yen selama lima tahun ke depan ke area pertumbuhan seperti pusat data dan AI, meningkat 50% dari tingkat investasi sebelumnya.

Media lokal melaporkan perusahaan periklanan digital itu CyberAgent merilis LLM pada bulan Mei yang memungkinkan perusahaan membuat alat chatbot AI. Perusahaan mengatakan itu adalah salah satu dari sedikit “model yang berspesialisasi dalam bahasa dan budaya Jepang.”

Meskipun belum mengejar di ruang AI generatif, Jepang mengambil langkah pertama dengan upaya sektor swasta ini. Setelah “infrastruktur yang kuat” didirikan, tantangan teknis yang tersisa kemungkinan besar akan “dimitigasi secara signifikan” dengan menggunakan perangkat lunak sumber terbuka dan data dari pionir sebelumnya, kata Kojima. Bloom, Falcon, dan RedPajama semuanya adalah LLM sumber terbuka yang dilatih pada data dalam jumlah besar yang dapat diunduh dan dipelajari.

Namun, perusahaan yang merambah ke bidang ini harus mengharapkan persaingan yang mencakup “kerangka waktu yang relatif lebih lama,” kata Kojima. Mengembangkan LLM membutuhkan investasi modal yang signifikan dan tenaga kerja yang sangat terampil dalam pemrosesan bahasa alami dan komputasi kinerja tinggi, jelasnya.

“SoftBank dan NTT yang bergabung dalam kompetisi ini tidak akan mengubah lanskap AI dalam jangka pendek.”

Peningkatan partisipasi perusahaan teknologi Jepang dalam pengembangan AI generatif bertepatan dengan sikap positif terhadap adopsi AI di sektor lain. Lebih dari 60% perusahaan di Jepang memiliki sikap positif terhadap penggunaan AI generatif dalam operasi mereka, sementara 9,1% sudah melakukannya, menurut survei oleh Teikoku Databank.

Hitachi telah mendirikan pusat AI generatif untuk mempromosikan penggunaan teknologi yang aman dan efektif oleh karyawan, katanya pada bulan Mei. Dengan keahlian ilmuwan data, peneliti AI, dan spesialis terkait, pusat tersebut akan merumuskan pedoman untuk mengurangi risiko AI generatif, kata konglomerat itu.

Jepang bahkan akan mempertimbangkan penerapan teknologi AI oleh pemerintah seperti ChatGPT, asalkan masalah keamanan siber dan privasi diselesaikan, kata Kepala Sekretaris Kabinet Hirokazu Matsuno.

Ketika Jepang menjadi lebih terbuka untuk penggunaan AI generatif, pemerintah harus merumuskan dan memfasilitasi pedoman lunak terkait penggunaannya, sambil menilai perlunya regulasi keras berdasarkan risiko tertentu, kata Hiroki Habuka, profesor riset di Sekolah Pascasarjana Hukum Universitas Kyoto. , dikatakan.

“Tanpa panduan yang lebih jelas tentang tindakan apa yang harus diambil perusahaan saat menggunakan AI generatif, praktik dapat menjadi terfragmentasi,” kata profesor tersebut.