Elon Musk, Twitter menghadapi masalah keamanan merek setelah para eksekutif pergi

Kepergian tiba-tiba eksekutif Twitter yang bertugas dengan moderasi konten dan keamanan merek telah membuat perusahaan lebih rentan terhadap ujaran kebencian.

Pada hari Kamis, wakil presiden kepercayaan dan keamanan Twitter, Ella Irwin, mengundurkan diri dari perusahaan. Menyusul kepergian Irwin, kepala keamanan merek dan kualitas iklan perusahaan, AJ Brown, dilaporkan keluar, begitu pula Maie Aiyed, seorang manajer program yang bekerja pada kemitraan keamanan merek.

Sudah lebih dari tujuh bulan sejak Elon Musk menutup pembelian Twitternya senilai $44 miliar, sebuah investasi yang sejauh ini telah merugi besar. Musk secara dramatis mengurangi tenaga kerja perusahaan dan membatalkan kebijakan yang membatasi jenis konten yang dapat beredar. Sebagai tanggapan, banyak merek menangguhkan atau mengurangi belanja iklan mereka, seperti yang telah didokumentasikan oleh beberapa kelompok hak sipil.

Twitter, di bawah Musk, adalah merek keempat yang paling dibenci di AS menurut Peringkat Reputasi Axios Harris 2023.

Kontroversi seputar kendali Musk atas Twitter terus berkembang.

Musk mengatakan minggu ini bahwa tidak bertentangan dengan persyaratan layanan Twitter untuk menggambarkan orang trans di platform tersebut. Dia mengatakan melakukan itu hanya “kasar” tetapi tidak ilegal.” Pendukung dan peneliti LGBTQ + membantah posisinya, mengklaim itu mengundang intimidasi terhadap orang trans. Pada hari Jumat, Musk memperkuat video di Twitter bahwa kelompok yang disebut transfobia ini dipertimbangkan.

Banyak organisasi LGBTQ mengungkapkan kekecewaan mereka kepada NBC News atas keputusan Musk, dengan mengatakan bahwa kebijakan baru perusahaan akan mengarah pada peningkatan ujaran kebencian anti-trans dan pelecehan online.

Meskipun Musk baru-baru ini mempekerjakan mantan kepala periklanan global NBC Universal Linda Yaccarino untuk menggantikannya sebagai CEO, tidak jelas bagaimana bos baru tersebut akan meredakan kekhawatiran pengiklan tentang konten rasis, anti-Semit, transfobia, dan homofobik sehubungan dengan kepergian baru-baru ini dan peran lanjutan Musk. sebagai pemilik mayoritas dan chief technology officer.

Bahkan sebelum keluarnya profil tinggi terbaru, Musk telah mengurangi jumlah pekerja yang ditugaskan untuk keamanan dan moderasi konten sebagai bagian dari PHK yang meluas di perusahaan. Dia menghilangkan seluruh tim etika AI, yang bertanggung jawab untuk memastikan bahwa konten berbahaya tidak direkomendasikan secara algoritme kepada pengguna.

Musk, yang juga merupakan CEO dari Tesla dan SpaceX, baru-baru ini meremehkan kekhawatiran tentang prevalensi ujaran kebencian di Twitter. Dia mengklaim di acara Wall Street Journal bahwa sejak dia mengambil alih perusahaan pada bulan Oktober, ujaran kebencian di platform telah menurun, dan bahwa Twitter telah mengurangi “spam, penipuan, dan bot” hingga “setidaknya 90%”.

Pakar dan orang dalam industri periklanan mengatakan kepada CNBC bahwa tidak ada bukti yang mendukung klaim tersebut. Ada yang mengatakan Twitter secara aktif menghalangi peneliti independen yang mencoba melacak statistik semacam itu.

Twitter tidak memberikan komentar untuk cerita ini.

Di koran diterbitkan pada bulan April untuk dipresentasikan pada Konferensi Internasional tentang Web dan Media Sosial mendatang di Siprus, para peneliti dari Oregon State, University of Southern California dan lembaga lainnya menunjukkan bahwa ujaran kebencian telah meningkat sejak Musk membeli Twitter.

Para penulis menulis bahwa akun-akun tersebut, yang dikenal karena memposting konten kebencian dan cercaan yang menargetkan orang kulit hitam, Asia, kelompok LGTBQ, dan lainnya, meningkatkan tweet semacam itu “secara dramatis setelah pengambilalihan Musk” dan tidak menunjukkan tanda-tanda melambat. Mereka menemukan bahwa Twitter tidak membuat kemajuan dengan bot, yang tetap lazim dan aktif di Twitter seperti sebelum masa jabatan Musk.

Musk sebelumnya ditunjukkan bahwa algoritme rekomendasi Twitter menampilkan konten yang tidak terlalu menyinggung bagi orang yang tidak ingin melihatnya.

Keith Burghardt, salah satu penulis makalah dan ilmuwan komputer di Institut Ilmu Informasi Universitas Southern California, mengatakan kepada CNBC bahwa membanjirnya ujaran kebencian dan konten eksplisit lainnya berkorelasi dengan berkurangnya orang yang menggunakan masalah kepercayaan dan keamanan. kebijakan moderasi konten yang santai.

Musk juga mengatakan di acara WSJ bahwa “sebagian besar pengiklan” telah kembali ke Twitter.

Louis Jones, seorang eksekutif media dan periklanan lama yang sekarang bekerja di Brand Safety Institute, mengatakan tidak jelas berapa banyak pengiklan yang melanjutkan belanja, tetapi “banyak pengiklan tetap berhenti karena Twitter memiliki jangkauan terbatas dibandingkan dengan beberapa platform lain.”

Jones mengatakan banyak pengiklan sedang menunggu untuk melihat bagaimana tingkat “toksisitas” dan ujaran kebencian di Twitter berubah karena situs tersebut tampaknya condong ke lebih banyak pengguna sayap kanan dan menjelang pemilu AS. Dia mengatakan satu tantangan besar untuk merek adalah bahwa Musk dan Twitter belum memperjelas apa yang mereka hitung dalam metrik mereka yang menilai ujaran kebencian, spam, penipuan, dan bot.

Para peneliti meminta Musk untuk memberikan data untuk mendukung klaimnya baru-baru ini.

“Lebih banyak data sangat penting untuk benar-benar memahami apakah terus terjadi penurunan ujaran kebencian atau bot,” kata Burghardt. “Ini sekali lagi menyoroti perlunya transparansi yang lebih besar dan agar akademisi memiliki data yang tersedia secara bebas.”

Mendapatkan data itu semakin sulit.

Twitter baru-baru ini mulai menagih perusahaan untuk akses ke Application Programming Interface (API), yang memungkinkan mereka menggabungkan dan menganalisis data Twitter. Tingkat pembayaran terendah berharga $42.000 untuk 50 juta tweet.

Imran Ahmed, chief executive Center to Combat Digital Hate nirlaba, mengatakan bahwa karena peneliti sekarang harus “membayar mahal” untuk mengakses API, mereka harus bergantung pada rute potensial lainnya ke data.

“Twitter di bawah Elon Musk lebih buram,” kata Ahmed.

Dia menambahkan bahwa fungsi pencarian Twitter kurang efektif dibandingkan sebelumnya dan jumlah penayangan, seperti yang terlihat pada tweet tertentu, dapat berubah secara tiba-tiba, membuatnya tidak stabil untuk digunakan.

“Kami tidak lagi percaya pada keakuratan data,” kata Ahmed.

CCDH menganalisis serangkaian tweet dari awal 2022 hingga 28 Februari 2023. Itu telah dirilis sebuah laporan pada bulan Maret yang menganalisis lebih dari 1,7 juta tweet yang dikumpulkan menggunakan alat pengikis data dan fungsi pencarian Twitter dan menemukan bahwa tweet yang menyebutkan narasi “perawatan” kebencian meningkat sebesar 119% telah meningkat sejak Musk mengambil alih.

Ini mengacu pada “kebohongan yang salah dan penuh kebencian” bahwa komunitas LGBTQ+ peduli terhadap anak-anak. CCDH menemukan bahwa sejumlah kecil akun Twitter populer seperti Libs of TikTok dan Gays Against Groomers mendorong “narasi ‘perawatan’ yang penuh kebencian secara online.”

Simon Wiesenthal Center, sebuah kelompok hak asasi manusia Yahudi, terus menemukan postingan anti-Semit di Twitter. Kelompok tersebut baru-baru ini melakukan studi tahun 2023 tentang terorisme digital dan kebencian di platform sosial dan menilai Twitter sebagai D-, menempatkannya setara dengan Inggris di Rusia sebagai yang terburuk di dunia untuk jejaring sosial utama.

Rabi Abraham Cooper, dekan asosiasi dan direktur agenda aksi sosial global di pusat tersebut, meminta Musk untuk bertemu dengannya untuk membahas munculnya ujaran kebencian di Twitter. Ia mengaku belum mendapat tanggapan apapun.

“Mereka perlu memperhatikannya dengan serius,” kata Cooper. Jika tidak, katanya, anggota parlemen akan dipanggil untuk “melakukan sesuatu tentang hal itu.”

LIHAT: Kunjungan Elon Musk ke Cina