IndonesiaDiscover –
National Eating Disorder Association (NEDA) terpaksa menghapus chatbot Tessa setelah “mungkin memberikan informasi yang berbahaya dan tidak terkait dengan program”, menurut postingan media sosial resmi. Sederhananya, chatbot AI dimaksudkan untuk membantu orang yang menghadapi tekanan emosional, tetapi malah memperburuk keadaan dengan menawarkan saran diet dan mendesak pengguna untuk menimbang dan mengukur diri mereka sendiri.
Banyak pengguna dan pakar di bidang gangguan makan telah mengalami masalah ini secara langsung, mengklaim bahwa bot tidak menanggapi petunjuk sederhana seperti “Saya benci tubuh saya” dan terus menekankan pentingnya diet dan peningkatan aktivitas fisik, seperti dilaporkan oleh Gizmodo. Sekali lagi, ini adalah saluran bantuan bagi mereka yang mengalami gangguan makan, bukan kelompok pendukung penurunan berat badan.
Organisasi mengatakan ini adalah penghentian sementara sampai memperbaiki “bug” dan “pemicu” apa pun yang menyebabkan chatbot mengeluarkan informasi berbahaya seperti janji temu dengan Dr. Oz. Anda akan berpikir dengan hasil yang ekstrim, mereka akan berpikir untuk menghancurkan proyek sepenuhnya, tetapi ada lebih banyak cerita.
Seluruh alasan NEDA mengandalkan chatbot sejak awal adalah karena diduga memecat staf manusia setelah mereka mencoba untuk berserikat, seperti yang awalnya dilaporkan oleh Keburukan. Saluran bantuan telepon yang sudah lama berjalan diawaki oleh staf dan sukarelawan yang dibayar, dan mantan staf mengklaim pemecatan massal adalah konsekuensi langsung dari upaya pro-serikat.
“NEDA mengklaim ini adalah perubahan yang telah lama diantisipasi dan bahwa AI dapat melayani mereka yang mengalami gangguan makan dengan lebih baik. Tapi jangan tertipu — ini sebenarnya bukan tentang chatbot. Ini tentang penghancuran serikat pekerja, jelas dan sederhana, ”tulis mantan rekanan saluran bantuan Abbie Harper dalam posting blog di Catatan Buruh.
