Baru Beberapa Hari Dirilis, Tools AI Voice Generator Ini Sudah Banyak Disalahgunakan
Startup AI Voice Generator bernama ElevenLabs baru saja meluncurkan versi beta dari layanan mereka. Ini memungkinkan pengguna untuk membuat suara sintetis yang baru, atau mengkloning suara seseorang.
Tapi baru hitungan hari dirilis, Tools AI Voice Generator ini justru sudah disalahgunakan oleh pihak tidak bertanggung jawab. ElevenLabs melalui Twitternya menyampaikan kalau pihaknya melihat adanya meningkatnya kasus penyalahgunaan pengkloningan suara.
ElevenLabs sendiri tidak menyebutkan secara detail seperti apa penyalahgunaan pengkloningan suara menggunakan Tools mereka. Tapi, dalam forum 4Chan, ditemukan adanya pengguna yang mengunggah rekaman suara selebriti ternama, yang mengatakan kalimat-kalimat yang tidak pantas.
Baca Juga: Saingi ChatGPT, Baidu Bakal Rilis Chatbot AI • Jagat Review
Ini dicurigai sebagai hasil dari penyalahgunaan tools AI tersebut. Misalnya suara dari Emma Watson, dipakai untuk menyebutkan kalimat yang mengandung kekerasan dan rasis.
Kini ElevenLabs tengah berpikir untuk mengatasi masalah tersebut dan akan menerapkan keamanan tambahan. Kemungkinan ElevenLabs akan menambahkan beberapa persyaratan seperti verifikasi identitas pengguna, serta meminta pengguna untuk mendapatkan verifikasi hak cipta dari si pemilik suara yang ingin dikloning. Jadi, tidak sembarang orang bisa mengkloning suara orang lain tanpa ada ijin dari si pemilik suara.
Banyak Potensi Kegunaan, Tapi Juga Berbahaya
Sebenarnya teknologi Ai Voice Generator ini sendiri memiliki potensi manfaat yang sangat besar. Bahkan teknologi seperti ini pernah dipakai dalam film Top Gun: Maverick, dimana suara aktor Val Kilmer yang mengidap kanker tenggorokan, dibuat ulang menggunakan AI Voice Generator.
@jagatreview Dengan AI, Sonantic bisa gantikan suara Val Kilmer di film Top Gun: Maverick. #tiktokberita #beritateknologi #jagatreview ♬ original sound – JagatReview
Tapi jika teknologi ini dihadirkan secara publik tanpa adanya aturan tertentu, maka kita pasitnya sudah tidak heran kalau teknologi ini akan banyak disalah gunakan oleh pihak tidak bertanggung jawab. Bahkan sebelumnya, teknologi Deepfake yang juga berbasis AI, banyak dipakai oleh orang jahat untuk membuat film porno menggunakan wajah-wajah publik figur.
More Articles
