Satya Nadella, CEO Microsoft
Jordan Novet | CNBC
Microsoftinvestasi besar-besaran di OpenAI menempatkan perusahaan di pusat ledakan kecerdasan buatan. Tapi itu bukan satu-satunya tempat raksasa perangkat lunak membuka dompetnya untuk memenuhi permintaan yang terus meningkat akan layanan bertenaga AI.
CNBC telah belajar dari orang-orang yang mengetahui masalah ini bahwa Microsoft telah setuju untuk menghabiskan miliaran dolar selama beberapa tahun untuk infrastruktur komputasi awan dari startup CoreWeave, yang mengumumkan pada hari Rabu bahwa mereka telah mengumpulkan $200 juta. Pendanaan itu datang lebih dari sebulan setelah perusahaan mencapai penilaian $ 2 miliar.
CoreWeave menjual akses yang disederhanakan ke Yang dari Nvidia unit pemrosesan grafis, atau GPU, dianggap sebagai yang terbaik yang tersedia di pasar untuk menjalankan model AI. Microsoft menandatangani kesepakatan CoreWeave awal tahun ini untuk memastikan bahwa OpenAI, yang menjalankan chatbot ChatGPT yang viral, akan memiliki daya komputasi yang memadai di masa mendatang, kata salah satu orang, yang meminta untuk tidak disebutkan namanya karena kerahasiaan. OpenAI mengandalkan infrastruktur cloud Azure Microsoft untuk kebutuhan komputasinya yang berat.
Microsoft dan CoreWeave sama-sama menolak berkomentar.
Serbuan AI generatif dimulai akhir tahun lalu setelah OpenAI merilis ChatGPT ke publik, membuktikan bahwa AI dapat menerima input manusia dan menghasilkan respons yang canggih. Banyak perusahaan, termasuk Google, sejak itu bergegas menambahkan AI generatif ke produk mereka. Dan Microsoft telah merilis chatbot untuk layanannya sendiri, seperti Bing dan Windows.
Dengan banyaknya permintaan pada infrastrukturnya, Microsoft memerlukan cara tambahan untuk menggunakan GPU Nvidia. CEO CoreWeave Michael Intrator menolak mengomentari kesepakatan Microsoft dalam sebuah wawancara bulan lalu, tetapi dia mengatakan pendapatan “telah meningkat berkali-kali lipat dari 2022 hingga 2023.”
Startup Coreweave yang didukung Nvidia berbasis di Roseland, New Jersey, dengan 160 karyawan.
CoreWeave
Pendanaan CoreWeave yang diumumkan Rabu dari dana lindung nilai Magnetar Capital merupakan perpanjangan dari putaran $221 juta pada bulan April. Nvidia menginvestasikan $100 juta dalam pembiayaan sebelumnya, kata Intrator. CoreWeave didirikan pada tahun 2017 dan memiliki 160 karyawan.
Harga saham Nvidia telah naik 170% tahun ini. Kapitalisasi pasar perusahaan mencapai $1 triliun untuk pertama kalinya minggu ini setelah mengeluarkan perkiraan untuk kuartal Juli yang lebih dari 50% lebih tinggi dari perkiraan Wall Street.
Pertumbuhan pembuat chip akan “sebagian besar didorong oleh pusat data, yang mencerminkan peningkatan tajam dalam permintaan terkait AI generatif dan model bahasa besar,” kata Chief Financial Officer Nvidia Colette Kress pada panggilan pendapatan minggu lalu. Model bahasa besar GPT-4 OpenAI, dilatih dengan GPU Nvidia pada data online ekstensif, merupakan inti dari ChatGPT.
Kress menyebut CoreWeave dengan namanya saat menelepon, dan pada bulan Maret CEO Nvidia Jensen Huang menyebut CoreWeave dalam presentasinya di konferensi GTC Nvidia.
Situs web CoreWeave mengklaim perusahaan dapat memberikan daya komputasi yang “80% lebih murah daripada penyedia cloud lama.” Antara lain, CoreWeave menawarkan GPU A100 Nvidia, yang juga dapat ditemukan pengembang melalui Amazonawan Google dan Microsoft.
Selain itu, CoreWeave menyediakan GPU Nvidia A40 yang lebih murah yang dipasarkan untuk komputasi visual, sedangkan A100 menargetkan AI, analitik data, dan komputasi performa tinggi. Beberapa pelanggan CoreWeave telah berjuang untuk mendapatkan daya GPU yang cukup di awan besar, kata Intrator. Terkadang prospek meminta GPU A100 atau H100 yang lebih baru dari Nvidia, dan perusahaan merekomendasikan GPU A40 sebagai gantinya.
Ini “akan melakukan pekerjaan yang sangat baik dengan harga yang sangat hemat biaya,” kata Intrator.
Microsoft berdiskusi dengan Peramal tentang dua perusahaan yang menyewa server satu sama lain ketika mereka membutuhkan kapasitas ekstra, The Information melaporkan awal bulan ini, mengutip orang yang tidak disebutkan namanya.
LIHAT: Microsoft ‘baru saja memulai’ di ruang AI, kata Gil Luria, DA Davidson
