Microsoft Rilis Tools AI Speech, Bikin Video Speech Hanya Pakai Teks dan Foto

Dalam event konferensi Microsoft Ignite 2023, Microsoft meluncurkan tools Azure AI Speech, yang merupakan tools Text-To-Speech, yang dilengkapi juga dengan fitur avatar creator.

Tools  ini telah tersedia versi public preview, dimana fungsi utamanya adalah membuat deep fake dengan menggunakan wajah pengguna dengan mudah. Microsoft juga sempat mendemokan fitur tersebut.

Lewat tools AI Speech ini, pengguna bisa membuat video orang yang berbicara hanya dengan memasukan script teks yang ingin dibacakan, serta gambar personal yang ingin digunakan sebagai avatar. Setelah memasukan script, AI akan memproses untuk membuat voice over berdasarkan script tersebut.

Bersamaan dengan itu, pemrosesan AI lainnya yaitu menyesuaikan gambar personal yang diunggah sebagai avatar, dengan suara yang telah dibuat. Sehingga nantinya wajah avatar akan terlihat mengucapkan kata-kata seusai dengan teks. Pada dasarnya, teknologi ini menghasilkan video “Deepfake” bahkan dengan cara yang benar-benar sangat mudah menggunakan AI.

Tools ini nantinya akan sangat membantu di berbagai industri, termasuk membuat video presentasi, video training, pengenalan produk, testimoni customer dan lain-lain. Karena dengan tools ini, cukup memasukan teks dan gambar avatar, maka bisa langsung menjadi video dengan sangat mudah.

Berpotensi Disalahgunakan, “Emang Boleh” Pakai Tools AI Speech?

Meskipun tools ini memang terlihat sangat canggih dan akan sangat membantu berbagai aktivitas, tapi tentunya fokus lain yang harus diperhatikan adalah masalah privasi. Teknologi Deepfake sendiri sudah sejak lama menjadi kontroversi karena sangat rentan untuk disalah gunakan.

Kita bisa mengambil sample suara maupun sample foto seseorang, dan membuatnya menjadi konten video apapun yang disuka. Dan ini benar-benar sangat berbahaya.

Baca Juga: Amazon Akan Hadirkan AI Ready, Pelatihan Gratis untuk Pelajari Generative AI • Jagat Review

Microsoft sendiri menyebutkan kalau pihak mereka cukup concern mengenai masalah tersebut. Mereka mengakui kalau tools AI baru mereka ini akan bisa menjadi biang masalah jika digunakan oleh orang tidak bertanggung jawab.

Untuk mengatasi masalah tersebut, Microsoft menyebutkan kalau pengguna dari kalangan bisnis atau maupun personal memerlukan “izin tertulis yang jelas” untuk menggunakan fitur ini. Juga diwajibkan memberikan disclaimer yang jelas dari pengguna, yang menyatakan kalau video yang dibuat, adalah hasil dari generatif AI.

Meski demikian, rasanya masih tools tersebut masih tetap penuh resiko. Bisa saja pengguna mencari celah untuk menghilangkan bagian-bagian yang menunjukan kalau video yang dibuat adalah hasil generatif AI. Regulasi terkait penggunaan tools AI sepertinya akan lebih berguna untuk membatasi penyalahgunaan tools-tools berbasis AI saat ini dan waktu mendatang.

Sumber