The wider picture
Kecerdasan buatan (AI) telah menunjukkan dampak signifikan dalam berbagai sektor, termasuk layanan kesehatan mental. Meskipun ada potensi besar, ada juga kekhawatiran mengenai efektivitas dan etika penggunaan AI dalam konteks ini. Penelitian menunjukkan bahwa chatbot AI mungkin belum siap untuk memberikan nasihat kesehatan mental yang memadai, yang dapat berisiko bagi pengguna yang rentan.
Meta Platforms Inc. baru-baru ini merekrut pendiri dan tim dari startup AI, Dreamer, yang diluncurkan tahun ini untuk membantu orang membuat agen AI mereka sendiri. Meskipun Dreamer tetap sebagai entitas hukum terpisah dengan perjanjian lisensi non-eksklusif dengan Meta, langkah ini menunjukkan komitmen Meta untuk memperluas pengembangan AI dalam berbagai aplikasi, termasuk kesehatan mental.
Dalam konteks kesehatan mental, penelitian yang dilakukan oleh American Psychological Association mengidentifikasi 15 risiko etika yang terkait dengan penggunaan chatbot AI. Chatbot ini sering kali gagal memenuhi standar etika profesional yang ditetapkan oleh organisasi tersebut, menciptakan kekhawatiran tentang keandalan dan keamanan informasi yang diberikan kepada pengguna.
AI chatbots dapat menciptakan kesan empati tanpa pemahaman yang nyata, yang dapat menyesatkan pengguna yang mencari dukungan. Zainab Iftikhar, seorang peneliti, mengingatkan bahwa “Jika Anda berbicara dengan chatbot tentang kesehatan mental, perlu untuk tetap berhati-hati.” Hal ini menunjukkan perlunya pengguna untuk tetap kritis terhadap informasi yang diberikan oleh sistem berbasis AI.
Selain itu, Sean Ransom menekankan bahwa untuk terapis manusia, ada mekanisme pengawasan dan pertanggungjawaban profesional yang tidak ada pada chatbot. “Namun, untuk terapis manusia, ada dewan pengawas dan mekanisme bagi penyedia untuk dimintai pertanggungjawaban secara profesional atas penganiayaan dan malapraktik,” ujarnya. Ini menunjukkan bahwa meskipun AI menawarkan kemudahan, ada risiko yang harus dipertimbangkan.
Dalam konteks Indonesia, layanan kesehatan mental digital, termasuk chatbot AI, semakin diakui, terutama di kalangan pemuda. Namun, efektivitas AI dalam merespons kondisi kesehatan mental tetap belum terkonfirmasi. Penelitian menunjukkan bahwa sistem digital dapat mendeteksi kondisi kesehatan mental dalam waktu lima menit, tetapi ini tidak menjamin bahwa AI dapat memberikan dukungan yang diperlukan.
Ellie Pavlick, seorang ahli AI, mencatat bahwa “Realitas AI saat ini jauh lebih mudah untuk membangun dan menerapkan sistem daripada mengevaluasi dan memahaminya.” Hal ini menyoroti tantangan yang dihadapi dalam mengembangkan AI yang tidak hanya efektif tetapi juga etis dalam konteks kesehatan mental.
Dengan meningkatnya penggunaan AI dalam layanan kesehatan mental, penting untuk menetapkan perlindungan yang jelas dan kerangka regulasi yang lebih kuat untuk situasi berisiko tinggi. Detail mengenai kesepakatan antara Meta dan Dreamer tetap tidak terkonfirmasi, dan efektivitas chatbot AI dalam perawatan kesehatan mental masih menjadi tanda tanya. Pengembangan lebih lanjut di bidang ini diharapkan dapat memberikan kejelasan mengenai potensi dan batasan AI dalam mendukung kesehatan mental.
