Cuma Karena Sedikit Typo, Chatbot AI Bisa Sarankan Kita Untuk Tidak Ke Dokter

Semakin maraknya penggunaan AI membuat banyak orang makin sering mencari solusi atau saran atas suatu masalah, salah satunya soal kesehatan. Tapi, pengguna yang ingin mencari saran kesehatan ke chatbot AI sepertinya harus lebih berhati-hati saat bertanya. Pasalnya, penelitian terbaru menunjukkan bahwa chatbot AI bisa memberikan solusi yang tidak tepat walaupun hanya ada sedikit kesalahan penulisan saat bertanya.

Lebih parahnya lagi, kesalahan penulisan ini bahkan bisa membuat AI menyarankan kita untuk tidak pergi ke dokter. Selain kesalahan penulisan, bahasa gaul dan bahasa tidak baku juga berpotensi membuat AI memberikan keputusan yang salah. Penelitian lebih lanjut juga ungkapkan bahwa pengguna wanita lebih rentan untuk mengikuti saran AI yang salah ketimbang pengguna laki-laki.

Baca Juga: OpenAI Mau Bikin Browser, Jadi Penantang Google Chrome?

Penelitian ini melibatkan 3 model chatbot AI, yaitu GPT-4 milik OpenAI, LLama-3-70b milik Meta, dan sebuah model AI medis bernama Palmyra-Med. Dengan 3 model tersebut, mereka menguji ribuan kasus kesehatan, baik itu kasus di dunia nyata, post dari forum online seperti Reddit, dan bahkan kasus yang dibuat sendiri oleh AI. Menariknya, peneliti mencoba untuk memberikan “gangguan” ke prompt yang digunakan seperti penggunaan bahasa tidak baku, huruf kapital yang tidak konsisten, tanda baca yang tidak beraturan, dan penggunaan kata yang bisa membuat AI ragu seperti “sepertinya”.

Hasilnya? Berbagai “gangguan” yang diberikan saat pengujian membuat semua model yang diuji mengubah solusi tepat yang harusnya mereka berikan. Berbagai kesalahan penulisan yang sengaja dilakukan membuat kemungkinan AI menyarankan pengguna untuk tidak konsultasi ke dokter meningkat 7% sampai 9%. Hasil seperti ini menunjukkan kalau keputusan AI sangat mudah berubah saat ada kesalahan kecil.

Potensi Kekhawatiran Pengguna Terhadap Chatbot AI

Dengan hasil yang cukup mengkhawatirkan ini, bisa jadi akan makin banyak orang yang ragu untuk bertanya ke chatbot AI perihal saran medis. Kondisi ini diperparah setelah Microsoft baru saja mengumumkan tool AI baru yang diklaim 4 kali lebih akurat dan 20% lebih murah dari dokter manusia. Tampaknya AI masih butuh waktu lebih kalau ingin digunakan untuk hal yang kompleks dan berisiko, salah satunya dunia kesehatan.

Sumber