IndonesiaDiscover –
Sejak Maret, NVIDIA memiliki , layanan yang memungkinkan bisnis untuk melatih model bahasa besar (LLM) pada data hak milik mereka sendiri. Hari ini perusahaan memperkenalkan NeMo Guardrails, alat yang dirancang untuk membantu pengembang memastikan aplikasi AI generatif mereka akurat, sesuai, dan aman.
Pagar Pembatas NeMo memungkinkan insinyur perangkat lunak untuk menegakkan tiga jenis batasan berbeda pada LLM internal mereka. Secara khusus, perusahaan dapat menetapkan “pagar pembatas topikal” yang akan mencegah aplikasi mereka menangani subjek yang tidak dilatih untuk mereka tangani. Misalnya, NVIDIA menyarankan chatbot layanan pelanggan, dengan bantuan perangkat lunaknya, menolak untuk menjawab pertanyaan tentang cuaca. Perusahaan juga dapat menetapkan batas keselamatan dan keamanan yang dirancang untuk memastikan LLM mereka mendapatkan informasi yang akurat dan terhubung ke aplikasi yang dikenal aman.
Menurut NVIDIA, Pagar Pembatas NeMo bekerja dengan semua LLM, termasuk ChatGPT. Terlebih lagi, perusahaan mengklaim hampir semua pengembang perangkat lunak dapat menggunakan perangkat lunak tersebut. “Tidak perlu menjadi ahli pembelajaran mesin atau ilmuwan data,” katanya. Karena NeMo Guardrails adalah open source, NVIDIA mencatat itu juga akan bekerja dengan semua alat yang sudah digunakan pengembang perusahaan.
NVIDIA menggabungkan Pagar Pembatas NeMo ke dalam yang sudah ada untuk membangun model AI generatif. Pelanggan bisnis dapat memperoleh akses ke NeMo melalui platform perangkat lunak perusahaan. NVIDIA juga menawarkan kerangka kerja melalui layanan AI Foundations. Rilis NeMo Guardrails muncul setelah beberapa AI generatif paling terkenal, termasuk , berada di bawah mikroskop karena kecenderungan mereka untuk “” informasi. Faktanya, chatbot Google membuat kesalahan faktual selama .
“NVIDIA membuat NeMo Guardrails — produk penelitian beberapa tahun — open source untuk berkontribusi pada energi luar biasa komunitas pengembang dan keselamatan kerja AI,” kata NVIDIA. “Bersama-sama, upaya kami dalam pagar pembatas akan membantu perusahaan menjaga layanan pintar mereka selaras dengan persyaratan keselamatan, privasi, dan keamanan sehingga mesin inovasi ini tetap berada di jalurnya.”
