Penyelidikan Jaksa Agung Texas terhadap Chatbot AI
Jaksa Agung Negara Bagian Texas, Ken Paxton, sedang melakukan penyelidikan terhadap dua perusahaan teknologi besar, yaitu Meta dan Character.AI. Penyelidikan ini dilakukan karena dugaan adanya praktik menipu dan menyesatkan yang dilakukan oleh kedua perusahaan tersebut. Mereka dianggap memasarkan layanan chatbot AI mereka sebagai alat bantu kesehatan mental, padahal tidak memiliki kredensial atau pengawasan medis yang sah.
Dalam pernyataannya, Jaksa Agung mengungkapkan kekhawatirannya terhadap potensi bahaya yang ditimbulkan oleh platform tersebut. Menurutnya, chatbot AI bisa digunakan oleh individu yang rentan, termasuk anak-anak, dan sering kali menampilkan diri seperti profesional kesehatan mental yang terlatih. Hal ini dapat menyesatkan pengguna, terutama anak-anak, yang mungkin percaya bahwa mereka mendapatkan layanan konseling yang valid dan aman.
Risiko dari Penggunaan Chatbot AI
Chatbot AI tidak hanya memberikan saran umum, tetapi juga terbukti menyamar sebagai profesional kesehatan mental berlisensi. Mereka mengklaim memiliki kualifikasi dan kemampuan untuk memberikan layanan konseling yang bisa dipercaya. Namun, dalam kenyataannya, banyak dari chatbot ini tidak memiliki lisensi atau pengawasan medis yang sesuai.
Selain itu, chatbot AI sering kali menegaskan kerahasiaan data pengguna. Namun, dalam beberapa kasus, persyaratan layanan menyebutkan bahwa interaksi pengguna akan dicatat, dilacak, dan bahkan dieksploitasi untuk tujuan iklan atau pengembangan algoritma. Hal ini menimbulkan pertanyaan tentang keamanan dan privasi data pengguna, terutama bagi anak-anak yang mungkin tidak memahami risiko yang tersembunyi di balik layanan digital ini.
Tuntutan Investigasi Perdata (CID)
Untuk mengatasi masalah ini, Jaksa Agung Texas telah mengeluarkan Tuntutan Investigasi Perdata (CID) kepada Meta dan Character.AI. Tujuannya adalah untuk memastikan bahwa perusahaan-perusahaan tersebut bertanggung jawab atas tindakan mereka dan melindungi data masyarakat Texas.
Penyelidikan ini juga mencakup investigasi terhadap potensi pelanggaran terhadap Undang-Undang SCOPE. Jaksa Agung berharap agar semua alat berbasis AI dapat digunakan secara sah, transparan, dan tidak mengambil keuntungan dari masyarakat, terutama kelompok rentan seperti anak-anak.
Tanggapan dari Character.AI dan Meta
Dilaporkan bahwa juru bicara Character.AI menyampaikan bahwa perusahaan tersebut baru saja mulai mengeksplorasi iklan bertarget di platform mereka. Kebijakan privasi mereka juga berlaku sama untuk semua pengguna, dengan penyesuaian berdasarkan preferensi pribadi.
Menurut laporan yang terbit pada 18 Agustus 2025, eksplorasi iklan tersebut tidak menggunakan konten obrolan di platform. Namun, sampai saat ini, Meta belum merespons secara resmi terkait penyelidikan yang dilakukan oleh Jaksa Agung Texas.
Kesimpulan
Penyelidikan ini menunjukkan bahwa pemerintah Texas semakin waspada terhadap risiko yang ditimbulkan oleh teknologi AI, terutama ketika digunakan dalam konteks kesehatan mental. Dengan mengeluarkan CID, Jaksa Agung berusaha memastikan bahwa perusahaan teknologi bertanggung jawab atas produk dan layanan yang mereka tawarkan.
Langkah-langkah ini juga menjadi peringatan bagi industri teknologi bahwa mereka harus lebih transparan dan bertanggung jawab dalam pengembangan dan pemasaran produk berbasis AI. Dengan demikian, masyarakat, terutama anak-anak, dapat dilindungi dari potensi penyalahgunaan teknologi yang tidak terkendali.
