Vertigo3d | E+ | Gambar Getty
DAVOS, Swiss — Blockchain dapat digunakan untuk mencegah bias dalam data yang digunakan untuk melatih model kecerdasan buatan — dan hal ini bisa menjadi “kasus penggunaan yang mematikan” untuk teknologi tersebut, kata para eksekutif kepada CNBC.
Salah satu kekhawatiran tentang model AI – yang mendukung aplikasi seperti ChatGPT – adalah bahwa data yang dilatih dapat mengandung bias atau misinformasi. Artinya, jawaban yang diberikan sistem AI mengandung bias dan informasi palsu tersebut.
Blockchain memasuki pasar pada tahun 2009 dengan diperkenalkannya cryptocurrency bitcoin. Dalam konteks bitcoin, teknologi ini merupakan buku besar transaksi yang tidak dapat diubah dan tahan terhadap kerusakan. Dunia usaha telah berusaha untuk menggunakan prinsip-prinsip ini dalam aplikasi lain untuk blockchain, kadang-kadang disebut sebagai teknologi buku besar terdistribusi.
Dalam kasus AI, data pelatihan dapat dimasukkan ke dalam blockchain. Ini akan memungkinkan pengembang sistem AI untuk melacak data yang digunakan untuk melatih model tersebut.
Casper Labs, sebuah perusahaan blockchain yang berfokus pada bisnis, bermitra dengan IBM bulan ini untuk menciptakan sistem seperti itu.
“Produk yang kami kembangkan, kumpulan datanya benar-benar diverifikasi dan disimpan di blockchain, sehingga Anda memiliki bukti bagaimana AI dilatih,” kata Medha Parlika, chief technology officer dan salah satu pendiri Casper Labs, kepada CNBC saat diskusi panel minggu ini di Forum Ekonomi Dunia di Davos.
“Jadi jika Anda menggunakan AI, jika ia sedang belajar dan Anda mendapati bahwa AI tersebut mulai berhalusinasi, Anda sebenarnya dapat memutar kembali AI tersebut. Sehingga Anda dapat membatalkan beberapa pembelajaran dan kembali ke pembelajaran sebelumnya. versi AI.”
Halusinasi secara luas mengacu pada saat sistem AI memberikan informasi palsu.
Blockchain telah menjadi teknologi yang telah dibicarakan selama bertahun-tahun, dan sejumlah industri mulai dari keuangan hingga layanan kesehatan telah mencari cara untuk menggunakannya.
Namun, Sheila Warren, CEO dari Crypto Council for Innovation, mengatakan bahwa buku besar data pelatihan AI berbasis blockchain bisa menjadi “kasus penggunaan yang mematikan” untuk teknologi tersebut.
“Saya benar-benar berpikir bahwa verifikasi AI dan semacam checks and balances … dalam sistem AI akan digerakkan oleh blockchain dan didukung oleh blockchain,” kata Warren kepada CNBC dalam panel tersebut.
