Meta telah membuat chip komputer khusus untuk membantu kecerdasan buatan dan tugas pemrosesan video, dan membicarakannya di depan umum untuk pertama kalinya.
Raksasa jejaring sosial itu mengungkapkan proyek chip silikon internalnya kepada wartawan untuk pertama kalinya awal pekan ini, menjelang acara virtual Kamis yang membahas investasi infrastruktur teknologi AI-nya.
berita investasi terkait
Investor telah mengamati dengan cermat investasi Meta di AI dan perangkat keras pusat data terkait saat perusahaan memulai “tahun efisiensi” yang mencakup setidaknya 21.000 PHK dan pemotongan biaya besar.
Meskipun mahal bagi perusahaan untuk merancang dan membangun chip komputernya sendiri, Alexis Bjorlin, wakil presiden infrastruktur, mengatakan kepada CNBC bahwa Meta yakin peningkatan kinerja akan membenarkan investasi tersebut. Perusahaan juga merevisi desain pusat datanya untuk lebih fokus pada teknik hemat energi, seperti pendinginan cair, untuk mengurangi panas berlebih.
Salah satu chip komputer baru, Meta Scalable Video Processor (MSVP), digunakan untuk memproses video dan mengirimkannya ke pengguna sekaligus mengurangi kebutuhan energi. Bjorlin berkata “tidak ada yang tersedia secara komersial” yang dapat menangani tugas pemrosesan dan mengirimkan 4 miliar video sehari seefisien yang diinginkan Meta.
Prosesor lainnya adalah yang pertama dalam keluarga chip Meta Training and Inference Accelerator (MTIA) perusahaan yang dimaksudkan untuk membantu berbagai tugas khusus AI. Chip MTIA baru secara khusus menangani “inferensi”, yaitu saat model AI yang sudah terlatih membuat prediksi atau mengambil tindakan.
Bjorlin mengatakan chip pengalih perhatian AI yang baru membantu memperkuat beberapa algoritme rekomendasi Meta yang digunakan untuk menampilkan konten dan iklan di umpan berita orang. Dia menolak untuk menjawab siapa yang memproduksi chip tersebut, tetapi sebuah posting blog mengatakan prosesor itu “diproduksi dalam proses TSMC 7nm,” menunjukkan bahwa raksasa chip Taiwan Semiconductor Manufacturing memproduksi teknologi tersebut.
Dia mengatakan Meta memiliki “peta jalan multi-generasi” untuk keluarga chip AI-nya yang mencakup prosesor yang digunakan untuk tugas melatih model AI, tetapi menolak untuk menjelaskan di luar tawaran chip inferensi baru. Reuters sebelumnya melaporkan bahwa Meta telah membatalkan satu proyek chip gangguan AI dan memulai proyek lain yang seharusnya berjalan sekitar tahun 2025, tetapi Bjorlin menolak mengomentari laporan tersebut.
Karena Meta tidak menjual layanan cloud computing seperti perusahaan seperti induk Google Alphabet atau Microsoft, perusahaan tidak merasa terdorong untuk berbicara secara terbuka tentang proyek chip pusat data internalnya, katanya.
“Jika Anda melihat bagian kami – dua chip pertama yang kami kembangkan – tentu memberikan sedikit wawasan tentang apa yang kami lakukan secara internal,” kata Bjorlin. “Kami tidak harus mengiklankannya, dan kami tidak harus mengiklankannya, tetapi Anda tahu, dunia tertarik.”
Wakil presiden teknik Meta Aparna Ramani mengatakan perangkat keras baru perusahaan dikembangkan untuk bekerja secara efisien dengan perangkat lunak PyTorch buatan sendiri, yang telah menjadi salah satu alat paling populer yang digunakan oleh pengembang pihak ketiga untuk membuat aplikasi AI.
Perangkat keras baru ini pada akhirnya akan digunakan untuk mendukung tugas-tugas yang terkait dengan metaverse, seperti realitas virtual dan augmented reality, serta bidang AI generatif yang sedang berkembang, yang biasanya mengacu pada perangkat lunak AI yang dapat menghasilkan teks, gambar, dan video yang menarik. membuat
Ramani juga mengatakan bahwa Meta telah mengembangkan asisten pengkodean bertenaga AI generatif untuk pengembang perusahaan untuk membantu mereka membuat dan mengoperasikan perangkat lunak dengan lebih mudah. Asisten baru ini mirip dengan alat GitHub Copilot Microsoft, yang dirilis pada 2021 dengan bantuan startup AI OpenAI.
Selain itu, Meta mengatakan telah menyelesaikan pembangunan tahap kedua, atau pembangunan terakhir, dari superkomputernya yang disebut Research SuperCluster (RSC), yang dirinci perusahaan tahun lalu. Meta menggunakan superkomputer, yang berisi 16.000 GPU Nvidia A100, antara lain untuk melatih model bahasa LLaMA perusahaan.
Ramani mengatakan bahwa Meta terus bertindak berdasarkan keyakinannya bahwa ia harus berkontribusi pada teknologi open source dan penelitian AI untuk memajukan bidang teknologi. Perusahaan mengungkapkan bahwa model bahasa LLaMA terbesarnya, LLaMA 65B, berisi 65 miliar parameter dan dilatih dengan 1,4 triliun token, yang mengacu pada data yang digunakan untuk pelatihan AI.
Perusahaan seperti OpenAI dan Google belum secara terbuka mengungkapkan tolok ukur serupa untuk model bahasa besar pesaing mereka, meskipun CNBC melaporkan minggu ini bahwa model PaLM 2 Google dilatih dengan 3,6 triliun token dan berisi 340 miliar parameter.
Tidak seperti perusahaan teknologi lainnya, Meta telah merilis model bahasa LLaMA kepada para peneliti agar mereka dapat belajar dari teknologi tersebut. Namun, model bahasa LlaMA kemudian dibocorkan ke publik yang lebih luas, menyebabkan banyak pengembang membangun program yang menggabungkan teknologi tersebut.
Ramani mengatakan bahwa Meta “masih memikirkan semua kolaborasi open source kami, dan saya pasti ingin menegaskan kembali bahwa filosofi kami masih ilmu terbuka dan kolaborasi lintas.”
Lihat: AI adalah pendorong besar sentimen teknologi besar
