Perusahaan teknologi besar, termasuk Microsoft, Amazondan OpenAI, berkumpul di KTT Keamanan AI Seoul pada hari Selasa dalam sebuah perjanjian internasional penting mengenai keamanan kecerdasan buatan.
Sehubungan dengan perjanjian tersebut, perusahaan-perusahaan dari beberapa negara, termasuk AS, Tiongkok, Kanada, Inggris, Prancis, Korea Selatan, dan Uni Emirat Arab, akan membuat komitmen sukarela untuk memastikan pengembangan model AI tercanggih mereka secara aman.
Jika mereka belum melakukan hal tersebut, pembuat model AI telah setuju untuk menerbitkan kerangka keamanan yang menguraikan bagaimana mereka akan mengukur tantangan model batas mereka, seperti mencegah penyalahgunaan teknologi oleh pihak yang tidak bertanggung jawab.
Kerangka kerja ini akan mencakup “garis merah” bagi perusahaan teknologi yang menentukan jenis risiko yang terkait dengan sistem AI, yang akan dianggap “tidak dapat ditoleransi”. Risiko-risiko ini mencakup, namun tidak terbatas pada, serangan siber otomatis dan ancaman senjata biologis.
Untuk menanggapi keadaan ekstrem seperti itu, perusahaan-perusahaan mengatakan mereka berencana menerapkan “tombol mematikan” yang akan menghentikan pengembangan model AI mereka jika mereka tidak dapat menjamin mitigasi risiko-risiko ini.
“Ini adalah pertama kalinya di dunia dimana begitu banyak perusahaan AI terkemuka dari berbagai belahan dunia menyetujui komitmen yang sama mengenai keamanan AI,” kata Perdana Menteri Inggris Rishi Sunak dalam sebuah pernyataan pada hari Selasa.
“Komitmen ini memastikan bahwa perusahaan AI terkemuka di dunia akan memberikan transparansi dan akuntabilitas mengenai rencana mereka untuk mengembangkan AI yang aman,” tambahnya.
Perjanjian tersebut pada hari Selasa memperluas serangkaian komitmen sebelumnya yang dibuat oleh perusahaan-perusahaan yang terlibat dalam pengembangan perangkat lunak AI generatif pada bulan November lalu.
Perusahaan-perusahaan tersebut sepakat untuk menerima masukan mengenai ambang batas ini dari “pihak-pihak yang dipercaya,” termasuk pemerintah asal mereka, sebelum merilisnya menjelang pertemuan puncak AI berikutnya yang direncanakan – KTT Aksi AI di Prancis – pada awal tahun 2025.
Komitmen yang disepakati pada hari Selasa hanya berlaku untuk model perbatasan. Istilah ini mengacu pada teknologi di balik sistem AI generatif seperti keluarga model bahasa besar GPT OpenAI, yang mendukung chatbot AI ChatGPT yang populer.
Sejak ChatGPT pertama kali diperkenalkan ke dunia pada bulan November 2022, regulator dan pemimpin teknologi semakin khawatir terhadap risiko seputar sistem AI canggih yang mampu menafsirkan teks dan konten visual setara dengan atau lebih baik daripada yang dihasilkan manusia.
Uni Eropa berupaya untuk mengekang perkembangan AI yang tidak terkekang dengan pembuatan undang-undang AI, yang disetujui oleh Dewan UE pada hari Selasa.
Namun, Inggris belum mengusulkan undang-undang formal untuk AI, melainkan memilih pendekatan “sentuhan ringan” terhadap peraturan AI yang melibatkan regulator yang menerapkan undang-undang yang ada terhadap teknologi tersebut.
Pemerintah baru-baru ini mengatakan bahwa mereka akan mempertimbangkan untuk membuat undang-undang mengenai model perbatasan di masa depan, namun tidak berkomitmen mengenai batas waktu untuk memperkenalkan undang-undang formal.
