Apakah AI Bisa Berbohong? Ini Penjelasannya

Apakah AI bisa berbohong? Pertanyaan tersebut kerap muncul ketika Kecerdasan Buatan (AI) memberikan jawaban yang salah. Bahkan, di berbagai kondisi, AI bisa menjawab dengan sangat meyakinkan sampai-sampai kita memercayainya.

Lantas, apakah AI sebenarnya sedang berbohong seperti manusia? Sebelum membahasnya lebih jauh, kalian bisa membaca artikel Apa Itu AI? jika masih ingin mengetahui dasar-dasar teknologi kecerdasan buatan.

Kata kuncinya terletak di sini: halusinasi. Hah, halusinasi? Bukankah itu biasa terjadi kalau di film-film ada manusia yang berjalan di gurun dan berhalusinasi melihat tempat penuh air?

Apakah AI Bisa Berbohong?

Jawaban sederhananya, tergantung bagaimana kita mendefinisikan “berbohong”. Menurut KBBI, bohong bisa diartikan sebagai tidak sesuai dengan hal (keadaan dan sebagainya) yang sebenarnya. Manusia berbohong biasanya punya niat untuk menyampaikan sesuatu yang tidak benar.

Large Language Model (LLM) bisa menghasilkan informasi palsu tanpa benar-benar “mengetahui” bahwa informasi itu salah. Mudahnya, LLM menghasilkan jawaban yang tidak benar karena keterbatasan informasi, konteks, maupun cara model memprediksi respons yang paling mungkin berdasarkan pola yang dipelajarinya.

Ini biasanya disebut hallucination atau halusinasi. OpenAI sendiri menjelaskan halusinasi sebagai jawaban yang terdengar meyakinkan tetapi sebenarnya tidak benar. Jadi, halusinasi di AI itu bukan kondisi seperti pada manusia yang membuat seseorang bisa melihat atau merasakan sesuatu yang sebenarnya tidak ada.

AI Salah Menjawab Bukan Berarti Berbohong

Benar, seperti yang telah disebutkan sebelumnya, ada banyak faktor yang membuat AI tidak bisa memberikan jawaban yang benar. Namun, itu bukan berarti AI sedang berbohong.

Sebagai contoh, kalian bisa bertanya, “Siapa penemu internet?” Ternyata AI menjawab dengan nama yang ternyata salah. Apakah AI sedang berbohong?

Belum tentu. Model AI bisa saja tidak memiliki informasi yang cukup untuk menjawab pertanyaan tersebut dengan benar. Selain itu, AI juga bisa menghasilkan jawaban yang keliru karena informasi yang dipelajari tidak lengkap, konteks yang diberikan kurang jelas, atau model salah memprediksi jawaban berdasarkan pola yang dipelajarinya.

AI juga bisa saja salah memahami pertanyaan. Dengan begitu, AI menghasilkan jawaban berdasarkan pola yang terlihat masuk akal. Masalahnya, jawabannya bisa terdengar sangat percaya diri seakan-akan itu benar.

Nah, inilah yang membuat AI terkadang terlihat seperti sedang berbohong. Padahal, belum tentu ada niat untuk menipu.

Lalu, Kapan AI Bisa Disebut Berbohong?

Jawaban dari poin ini sebenarnya sedikit kompleks. Di dunia nyata sendiri, sebenarnya sudah ada penelitian yang mencari perbedaan antara halusinasi dan berbohong di AI.

Dalam salah satu penelitian, LLM diuji dalam skenario tertentu untuk menghasilkan informasi yang salah demi mencapai tujuan tertentu. Jadi, model tersebut memang diarahkan atau ditempatkan dalam kondisi yang mendorongnya untuk berbohong. Bukan berarti AI tiba-tiba memutuskan sendiri untuk berbohong seperti manusia di dunia nyata.

Kenapa AI Bisa Menjawab dengan Yakin Padahal Salah?

Seperti yang telah dijelaskan, LLM menghasilkan respons atau jawaban berdasarkan pola yang telah dipelajari selama ini. Model tidak selalu memiliki kemampuan sederhana seperti manusia untuk memastikan apakah sebuah informasi benar atau salah.

Oleh karena itu, ketika informasi tidak tersedia atau tidak meyakinkan, model LLM masih bisa menghasilkan jawaban yang terdengar masuk akal, padahal jawaban tersebut bisa saja hanya tebakan. Bahkan, penelitian terbaru dari OpenAI membahas bahwa sistem evaluasi yang terlalu menghargai jawaban benar dapat mendorong model untuk menebak daripada mengakui tidak tahu.

Ibaratnya, kalau model selalu mendapat nilai karena memberikan jawaban, mengatakan “saya tidak tahu” bisa dianggap tidak memberikan hasil. Akhirnya, ketika tidak yakin, model tetap mencoba memberikan jawaban yang paling masuk akal menurut pola yang dipelajarinya.

Jadi, Apakah Kita Bisa Percaya Jawaban AI?

Inti jawaban dari pertanyaan ini: jangan langsung percaya hanya karena jawabannya terdengar meyakinkan! Terkadang informasi atau pola yang digunakan model tidak cukup untuk menghasilkan jawaban yang benar.

Jadi, sebaiknya selalu verifikasi jawaban yang diberikan oleh AI, terutama untuk informasi penting. Fakta, angka, nama, tanggal, hukum, dan kesehatan, merupakan sebagian kecil hal yang harus kalian verifikasi sebelum benar-benar percaya. Ingat, AI memang semakin pintar karena pola yang dipelajarinya semakin banyak, tapi bukan berarti selalu benar.

Kesimpulan

Dari pembahasan ini, kita mengetahui bahwa AI memang bisa menghasilkan informasi yang salah, bahkan dalam penelitian tertentu LLM bisa diarahkan untuk menghasilkan informasi palsu demi mencapai tujuan tertentu.

Akan tetapi, tidak semua informasi salah yang diberikan AI berarti AI sedang berbohong. Ketika model menghasilkan informasi yang salah tanpa tujuan untuk menipu, kondisi tersebut lebih tepat disebut sebagai halusinasi atau hallucination.

Sementara itu, kemampuan model untuk menghasilkan informasi palsu secara strategis atau dengan tujuan tertentu memang sudah menjadi objek penelitian. Namun, kondisi tersebut tidak bisa begitu saja disamakan dengan manusia yang secara sadar memutuskan untuk berbohong.

Jadi, kalau AI memberikan jawaban yang salah, jangan langsung menganggap AI sedang berbohong. Bisa saja model memang sedang mengalami halusinasi. Yang jelas, jangan langsung percaya hanya karena jawabannya terdengar sangat meyakinkan.

Jadi, sudah tahu kan jawaban dari apakah AI bisa berbohong?