Perusahaan swasta dibiarkan mengembangkan teknologi AI dengan kecepatan sangat tinggi, memunculkan sistem seperti ChatGPT OpenAI yang didukung Microsoft dan Bard Google.
Lionel Bonaventura | AFP | Gambar Getty
Sebuah komite utama pembuat undang-undang di Parlemen Eropa telah menyetujui peraturan kecerdasan buatan pertama dari jenisnya – mendekatkannya untuk menjadi undang-undang.
Persetujuan tersebut menandai perkembangan penting dalam perlombaan di antara pihak berwenang untuk menguasai AI, yang berkembang dengan sangat cepat. Hukum, yang dikenal sebagai Hukum AI Eropa, adalah hukum pertama untuk sistem AI di Barat. China telah mengembangkan draf peraturan yang dirancang untuk mengatur bagaimana perusahaan mengembangkan produk AI generatif seperti ChatGPT.
Undang-undang mengambil pendekatan berbasis risiko untuk mengatur AI, di mana kewajiban untuk suatu sistem sebanding dengan tingkat risiko yang ditimbulkannya.
Aturan juga menentukan persyaratan untuk penyedia apa yang disebut “model dasar” seperti ChatGPT, yang telah menjadi perhatian utama bagi regulator mengingat betapa majunya mereka dan ketakutan bahwa bahkan pekerja terampil pun akan tergusur.
Apa yang dikatakan peraturan?
Undang-Undang AI mengkategorikan penerapan AI ke dalam empat tingkat risiko: risiko yang tidak dapat diterima, risiko tinggi, risiko terbatas, dan risiko minimal atau tanpa risiko.
Aplikasi berisiko yang tidak dapat diterima dilarang secara default dan tidak dapat diterapkan di blok tersebut.
Mereka termasuk:
- Sistem AI yang menggunakan teknik subliminal, atau teknik manipulatif atau menipu untuk mendistorsi perilaku
- Sistem AI yang mengeksploitasi kerentanan individu atau kelompok tertentu
- Sistem kategorisasi biometrik berdasarkan atribut atau karakteristik sensitif
- Sistem AI digunakan untuk penilaian sosial atau evaluasi kepercayaan
- Sistem AI digunakan untuk penilaian risiko yang memprediksi pelanggaran pidana atau administratif
- Sistem AI yang membuat atau memperluas basis data pengenalan wajah melalui penghapusan yang tidak disengaja
- Sistem AI yang menyimpulkan emosi dalam penegakan hukum, manajemen perbatasan, tempat kerja, dan pendidikan
Beberapa anggota parlemen menyerukan agar tindakan tersebut lebih mahal untuk memastikan mereka mencakup ChatGPT.
Untuk itu, persyaratan ditempatkan pada “model dasar”, seperti model bahasa besar dan AI generatif.
Pengembang model dasar akan diminta untuk menerapkan kontrol keamanan, tindakan tata kelola data, dan mitigasi risiko sebelum membuat model mereka menjadi publik.
Mereka juga akan diminta untuk memastikan bahwa data pelatihan yang digunakan untuk menginformasikan sistem mereka tidak melanggar undang-undang hak cipta.
“Penyedia model AI tersebut akan diminta untuk mengambil langkah-langkah untuk menilai dan mengurangi risiko terhadap hak-hak dasar, kesehatan dan keselamatan dan lingkungan, demokrasi dan supremasi hukum,” Ceyhun Pehlivan, konsultan di Linklaters dan salah satu pemimpin firma hukum tersebut. firma hukum. telekomunikasi, media dan teknologi dan kelompok praktik IP di Madrid, kepada CNBC.
“Mereka juga akan tunduk pada persyaratan manajemen data, seperti memeriksa kesesuaian sumber data dan kemungkinan bias.”
Penting untuk ditekankan bahwa, meskipun undang-undang tersebut telah disetujui oleh legislator di Parlemen Eropa, masih jauh dari menjadi undang-undang.
Kenapa sekarang?
Perusahaan swasta dibiarkan mengembangkan teknologi AI dengan kecepatan sangat tinggi, sehingga memunculkan sistem seperti Microsoft-Mendukung ChatGPT OpenAI dan Bard Google.
Google mengumumkan banyak pembaruan AI baru pada hari Rabu, termasuk model bahasa canggih yang disebut PaLM 2, yang menurut perusahaan mengungguli sistem terkemuka lainnya dalam beberapa tugas.
Chatbots AI baru seperti ChatGPT telah memukau banyak teknolog dan akademisi dengan kemampuan mereka menghasilkan respons manusia terhadap permintaan pengguna yang didukung oleh model bahasa besar yang dilatih pada data dalam jumlah besar.
Tetapi teknologi AI telah ada selama bertahun-tahun dan diintegrasikan ke dalam lebih banyak aplikasi dan sistem daripada yang Anda kira. Ini menentukan video viral atau gambar makanan mana yang Anda lihat di umpan TikTok atau Instagram Anda, misalnya.
Tujuan dari proposal UE adalah untuk memberikan beberapa aturan jalan bagi perusahaan dan organisasi AI yang menggunakan AI.
Tanggapan industri teknis
Aturan tersebut telah menimbulkan kekhawatiran di industri teknologi.
Asosiasi Industri Komputasi dan Komunikasi mengatakan prihatin bahwa ruang lingkup Undang-Undang AI telah diperpanjang dan dapat menangkap bentuk AI yang tidak berbahaya.
“Sangat mengkhawatirkan melihat kategori luas aplikasi AI yang berguna – yang menimbulkan risiko yang sangat terbatas, atau tidak sama sekali – sekarang akan menghadapi persyaratan ketat, atau bahkan mungkin dilarang di Eropa,” Manajer Kebijakan Boniface de Champris di CCIA Eropa, mengatakan kepada CNBC melalui email.
“Usulan awal Komisi Eropa untuk undang-undang AI mengambil pendekatan berbasis risiko, mengatur sistem AI spesifik yang menimbulkan risiko yang jelas,” tambah de Champris.
“LEP sekarang telah memperkenalkan segala macam amandemen yang mengubah sifat Undang-Undang AI, yang sekarang menerima bahwa kategori AI yang sangat luas pada dasarnya berbahaya.”
Apa yang dikatakan para ahli
Dessi Savova, kepala kontinental Eropa untuk kelompok teknologi di firma hukum Clifford Chance, mengatakan aturan UE akan menetapkan “standar global” untuk regulasi AI. Namun, dia menambahkan bahwa yurisdiksi lain, termasuk China, AS, dan Inggris, dengan cepat mengembangkan respons mereka sendiri.
Jangkauan panjang dari aturan AI yang diusulkan secara inheren berarti bahwa pemain AI di seluruh penjuru dunia perlu peduli, kata Savova kepada CNBC melalui email.
“Pertanyaan sebenarnya adalah apakah Undang-Undang Kecerdasan Buatan akan menetapkan satu-satunya standar untuk Kecerdasan Buatan. Cina, AS, dan Inggris Raya, untuk beberapa nama, sedang menentukan kebijakan AI dan pendekatan peraturan mereka sendiri. Tidak diragukan lagi, mereka semua akan lulus AI. Bertindak – negosiasi untuk tetap memperhatikan penyesuaian pendekatan mereka sendiri.”
Savova menambahkan bahwa rancangan undang-undang AI terbaru Parlemen akan memasukkan banyak prinsip etis AI yang telah didorong oleh organisasi.
Sarah Chander, penasihat kebijakan senior di European Digital Rights, sebuah kelompok kampanye hak digital yang berbasis di Brussels, mengatakan undang-undang tersebut akan mewajibkan model dasar seperti ChatGPT untuk “menjalani persyaratan pengujian, dokumentasi, dan transparansi.”
“Walaupun persyaratan transparansi ini tidak akan menghilangkan masalah infrastruktur dan ekonomi dengan pengembangan sistem AI yang besar ini, mereka membutuhkan perusahaan teknologi untuk mengungkapkan jumlah daya komputasi yang diperlukan untuk mengembangkannya,” kata Chander kepada CNBC.
“Saat ini ada beberapa inisiatif untuk mengatur AI generatif di seluruh dunia, seperti China dan AS,” kata Pehlivan.
“Namun, undang-undang AI UE kemungkinan akan memainkan peran yang menentukan dalam pengembangan inisiatif legislatif semacam itu di seluruh dunia dan menyebabkan UE sekali lagi menjadi penentu standar di kancah internasional, mirip dengan apa yang terjadi terkait Data Umum. Peraturan Perlindungan.”
