Terapis AI Punya Dampak Yang Berbahaya Menurut Penelitian Universitas Stanford
Chatbot berbasis AI memang semakin sering digunakan untuk mendampingi pasien dengan masalah kesehatan mental. Namun, menurut penelitian yang dilakukan di Universitas Stanford, chatbot AI dapat menimbulkan bias yang bisa mengakibatkan dampak yang berbahaya bagi pasien. Untuk memahami bagaimana terapis AI bekerja, para peneliti dari Universitas Stanford melakukan serangkaian uji coba terhadap beberapa chatbot AI.
Dalam uji coba ini, para peneliti meninjau penerapan pedoman etis chatbot AI dalam memperlakukan pasien dengan kesehatan mental. Pedoman ini mencakup bagaimana terapis memperlakukan pasien secara setara, menunjukan rasa empati, tidak menstigmatisasi kesehatan mental, hingga tidak membiarkan munculnya pikiran atau delusi terkait hal yang membahayakan. Hasil dari pengujian ini cukup mengkhawatirkan, lima chatbot ai yang diuji menunjukan kecenderungan untuk menstigmatisasi pasien dengan ketergantungan alkohol dan skizofrenia.
Para peneliti memperingatkan kalau stigmatisasi semacam ini, bisa membuat pasien merasa dikucilkan dan berpotensi membuat pasien menghentikan perawatan kesehatan mental. Selain itu, chatbot AI ini juga memberikan respon standar yang mengatakan jika masalah-masalah ini akan hilang dengan lebih banyak data. Peneliti sangat menyayangkan hal ini, karena chatbot AI ini tidak memberikan solusi yang tepat selayaknya terapis manusia.
Terapis AI Berbahaya Untuk Pasien
Dalam uji coba kedua, para peneliti menguji respon chatbot AI dalam merespon gejala kesehatan mental seperti ide atau delusi bunuh diri. Hasilnya lebih buruk lagi, terapis AI ini gagal mengidentifikasi niat ‘berbahaya’ yang ditanyakan oleh pasien. Bahkan AI tersebut malah memberikan jawaban yang bisa memperparah niat pasien, seperti menyebut tempat atau sarana berbahaya alih-alih memberikan solusi atau bantuan yang tepat.
Baca Juga: Sadar Tidak Akan Menang Lawan Atari 2600, Gemini Batalkan Pertandingan Catur
Dari penelitian yang dilakukan Universitas Stanford ini, para peneliti berpendapat kalau penggunaan AI untuk menggantikan terapis manusia adalah ide yang sangat buruk. Meski chatbot AI sering dianggap sebagai teman atau orang kepercayaan. Penggunaan terapis AI ini membuktikan resiko yang lebih berbahaya bagi pasien. Sebaliknya, AI akan lebih cocok digunakan untuk tugas pendukung seperti pencatat jurnal pasien, pengingat jadwal, atau membantu tugas administratif lainnya.
More Articles
