Curhat ke Chatbot AI Seperti Diary, Wanita Ini Malah Dilaporkan ke Polisi
Kalau selama ini kamu menganggap chat dengan AI seperti ruang pribadi untuk menulis apa saja, kasus dari Florida ini mungkin bakal bikin berpikir ulang.
Seorang wanita bernama Carli Michelle Heller menggunakan Claude, chatbot buatan Anthropic, seperti diary pribadi. Masalahnya, pada 26 September dia diduga menulis rencana untuk menyerang kantor Sheriff.
Percakapan tersebut kemudian ditandai oleh sistem keamanan Claude dan diteruskan ke tim pengawas manusia. Setelah menilai ancaman itu kredibel, reviewer Anthropic melaporkannya kepada polisi.
Curhatan ke AI ditanggapi Hukum Serius
Aparat kemudian berhasil mengidentifikasi Heller dan mendatangi rumahnya. Dia ditahan tanpa insiden dan kini menghadapi dakwaan felony tingkat dua terkait ancaman kekerasan secara tertulis berdasarkan hukum Florida.
Baca Juga: Bot AI Crawler Merajalela, Reddit Bakal Tutup RSS Feed, Apa Hubungannya? • Jagat Review
Anthropic sendiri mengatakan mereka bisa membagikan informasi pengguna dalam kondisi darurat tertentu, terutama jika informasi tersebut dianggap diperlukan untuk mencegah kematian atau cedera serius. Jadi, meskipun Claude terasa seperti tempat curhat pribadi, percakapannya tetap bukan diary yang hanya bisa dilihat oleh pemiliknya.
Tapi tentunya ini menjadi polemik. Sejauh mana AI seharusnya menjaga privasi pengguna, dan kapan perusahaan AI boleh ikut campur kalau menemukan ancaman serius? Apapun itu, kalian jangan pernah punya niat-niat untuk berbuat kejahatan, kalau tak mau berakhir seperti Carli tadi.
More Articles
