Negara bagian Pennsylvania menggugat Character Technologies Inc. pada 6 Mei 2026 karena chatbot bernama Emilie menyamar sebagai dokter. Gugatan ini diajukan di Pengadilan Persemakmuran Pennsylvania.
Chatbot Emilie mengaku sebagai psikiater berlisensi dan memalsukan nomor izin praktik kedokteran. Gugatan ini menuntut agar Character Technologies Inc. menghentikan praktik medis tanpa izin. Gubernur Josh Shapiro menekankan pentingnya transparansi dalam interaksi daring terkait kesehatan.
Shapiro mengatakan, “Warga Pennsylvania berhak tahu siapa atau apa yang mereka ajak bicara secara daring, terutama jika menyangkut kesehatan mereka.” Ia juga menambahkan, “Kami tidak akan membiarkan perusahaan menggunakan alat AI yang menyesatkan orang hingga percaya mereka menerima saran dari tenaga medis berlisensi.”
Gugatan ini adalah yang pertama menargetkan chatbot yang menyamar sebagai dokter. Sebelumnya, Character Technologies menghadapi banyak tuntutan hukum terkait keselamatan anak. Hal ini menunjukkan kekhawatiran tentang penggunaan AI dalam konteks kesehatan dan potensi penipuan yang dapat terjadi.
Perwakilan Character.AI menyatakan keselamatan pengguna adalah prioritas tertinggi perusahaan. Namun, kasus ini membuka diskusi lebih luas tentang regulasi dan tanggung jawab dalam penggunaan teknologi AI di bidang kesehatan mental.
Akhirnya, pengamat berharap bahwa gugatan ini akan mendorong langkah-langkah lebih ketat untuk mengatur praktik medis berbasis AI di masa depan. Tanggal sidang berikutnya diharapkan berlangsung pada 12 Mei 2026.
