CEO Amazon Andy Jassy berbicara dengan Jim Cramer dari CNBC tentang Mad Money di Seattle, WA. pada tanggal 6 Desember 2023.
CNBC
Menarik sedang digunakan Amazon Chip kecerdasan buatan khusus Layanan Web untuk layanan seperti pencarian dan akan mengevaluasi apakah chip AI terbaru perusahaan dapat digunakan untuk mendukung modelnya seperti Apple Intelligence.
Apple meluncurkan penggunaan chip milik Amazon pada konferensi tahunan AWS Reinvent pada hari Selasa. Benoit Dupin, direktur senior pembelajaran mesin dan AI Apple, naik panggung untuk membahas bagaimana Apple menggunakan layanan cloud. Ini adalah contoh langka dimana perusahaan secara resmi mengizinkan pemasok untuk mewakili mereka sebagai pelanggan.
“Kami memiliki hubungan yang kuat, dan infrastrukturnya dapat diandalkan serta mampu melayani pelanggan kami di seluruh dunia,” kata Dupin dari Apple.
Kemunculan Apple di konferensi Amazon dan dukungannya terhadap chip perusahaan merupakan dukungan kuat terhadap layanan cloud saat bersaing dengan Apple. Microsoft Biru langit dan Google Cloud untuk pembelanjaan AI. Apple juga menggunakan layanan cloud tersebut.
Benoit mengatakan Apple telah menggunakan AWS selama lebih dari satu dekade untuk layanan termasuk Siri, Apple Maps, dan Apple Music. Apple menggunakan chip Inferentia dan Graviton milik Amazon untuk melayani layanan pencarian, misalnya, dan Benoit mengatakan chip Amazon menghasilkan peningkatan efisiensi sebesar 40%.
Namun Benoit juga menyarankan agar Apple menggunakan chip Trainium2 milik Amazon untuk memberi daya pada modelnya sendiri. Ini merupakan tanda bahwa chip Amazon bukan hanya cara yang hemat biaya untuk mendapatkan model AI dibandingkan dengan CPU x86 yang didukung oleh teknologi AI. Intel Dan AMDtetapi juga dapat digunakan untuk mengembangkan AI baru. Amazon mengumumkan pada hari Selasa bahwa chip Trainium2 umumnya tersedia untuk disewa.
“Pada tahap awal evaluasi Trainium2, angka awal kami memperkirakan peningkatan efisiensi hingga 50% dengan pra-pelatihan,” kata Dupin.
CEO AWS Matt Garman mengatakan dalam sebuah wawancara dengan CNBC pada hari Selasa bahwa Apple adalah pengguna awal dan penguji beta untuk chip Trainium perusahaan tersebut.
Apple “datang kepada kami dan berkata, ‘bagaimana Anda dapat membantu kami dengan kemampuan AI Generatif kami, kami memerlukan infrastruktur untuk membangunnya,’ dan mereka memiliki visi untuk membangun Apple Intelligence,” kata CEO AWS Kate Rooney kepada CNBC.
Apple mengatakan dalam makalah penelitian awal tahun ini bahwa mereka menggunakan chip TPU Google Cloud untuk melatih layanan AI iPhone, yang disebut Apple Intelligence.
Mayoritas pelatihan AI dilakukan berdasarkan durasi Nvidia prosesor grafis. Penyedia cloud dan perusahaan rintisan berlomba untuk mengembangkan alternatif berbiaya lebih rendah dan menjajaki berbagai pendekatan yang dapat menghasilkan pemrosesan yang lebih efisien. Penggunaan chip khusus oleh Apple dapat memberi sinyal kepada perusahaan lain bahwa pendekatan pelatihan non-Nvidia dapat berhasil.
AWS diperkirakan akan mengumumkan rincian baru pada hari Selasa tentang menawarkan penyewaan server AI berbasis Nvidia Blackwell juga.
Apple merilis produk AI generatif besar pertamanya pada musim gugur ini. Apple Intelligence adalah serangkaian layanan yang dapat merangkum notifikasi, menulis ulang email, dan menghasilkan emoji baru. Akhir bulan ini, Siri akan berintegrasi dengan ChatGPT OpenAI, kata perusahaan itu, dan tahun depan Siri akan mendapatkan kemampuan baru untuk mengontrol aplikasi dan berbicara secara alami.
Berbeda dengan chatbot terkemuka seperti ChatGPT OpenAI, pendekatan Apple terhadap AI tidak didasarkan pada kelompok besar server berbasis Nvidia di cloud. Sebaliknya, Apple menggunakan chip iPhone, iPad, atau Mac untuk melakukan pemrosesan sebanyak mungkin, lalu mengirimkan pertanyaan kompleks ke server yang dikontrol Apple menggunakan chip seri M miliknya sendiri.
