Foto: socialmediasafety.org
Teknologi.id - Salah satu produk yang
diluncurkan dari acara Microsoft Ignite 2023 yang cukup tak terduga adalah alat
yang dapat membuat avatar foto realistik seseorang dan menganimasikan avatar
tersebut mengucapkan hal-hal yang sebenarnya tidak diucapkan oleh orang tersebut.
Disebut sebagai Azure AI Speech
Text-to-Speech Avatar, fitur baru ini, kini sudah tersedia dalam pra-pratinjau
publik per hari ini, fitur ini memungkinkan pengguna menghasilkan video avatar
yang berbicara dengan mengunggah gambar seseorang yang ingin mereka jadikan
avatar dan menulis skrip. Alat dari Microsoft akan melatih suatu model untuk
menggerakkan animasinya, dan ada suara terpisah yang bisa jadi sudah ada atau
dilatih dengan suara orang tersebut, yang akan "membaca" skrip
tersebut dengan suara.
Avatar tersebut dapat berbicara
dalam beberapa bahasa. Untuk skenario chatbot, mereka dapat menggunakan model
AI seperti OpenAI GPT-3.5 untuk menjawab pertanyaan di luar skrip dari
pelanggan.
Namun, perlu diingat bahwa ada banyak cara alat semacam ini bisa disalahgunakan, dan Microsoft menyadari hal tersebut. Contohnya, teknologi pembuat avatar serupa dari startup AI Synthesia pernah disalahgunakan untuk membuat propaganda di Venezuela dan laporan berita palsu yang dipromosikan oleh akun media sosial pro-China.
Microsoft menjelaskan, sebagian
besar pelanggan Azure hanya bisa menggunakan avatar yang sudah jadi saat awal
diluncurkan, bukan avatar yang bisa disesuaikan sesuai keinginan. Avatar kustom
saat ini hanya tersedia dengan "akses terbatas" yang bisa diakses
melalui pendaftaran, dan hanya untuk beberapa situasi tertentu.
Tetapi fitur ini menimbulkan
banyak pertanyaan etis yang kurang menyenangkan.
Salah satu permasalahan utama
dalam mogok kerja SAG-AFTRA baru-baru ini adalah penggunaan kecerdasan buatan
untuk membuat gambar digital seseorang. Pada akhirnya, studio-studio setuju
untuk membayar aktor atas gambar digital yang dibuat oleh kecerdasan buatan.
Tapi, bagaimana dengan Microsoft dan pelanggannya?
TechCrunch menanyakan pada
Microsoft bagaimana pendapat perusahaan terkait penggunaan wajah aktor oleh
perusahaan tanpa memberikan kompensasi yang adil atau memberikan pemberitahuan
kepada para aktor. Namun, Microsoft tidak memberikan jawaban dan juga tidak
mengatakan apakah mereka akan menuntut agar perusahaan menandai avatar sebagai
hasil dari kecerdasan buatan, seperti yang dilakukan oleh YouTube dan beberapa
platform lainnya.
Personal Voice
Microsoft sepertinya lebih
berhati-hati terkait alat kecerdasan buatan generatif lainnya, yaitu Personal
Voice, yang juga diperkenalkan di acara Ignite.
Personal Voice, fitur baru
dalam layanan suara khusus Microsoft, dapat meniru suara pengguna dalam waktu
singkat dengan memberikan contoh pidato satu menit sebagai perintah suara.
Microsoft menyajikannya sebagai cara untuk membuat asisten suara pribadi,
menerjemahkan konten ke bahasa lain, dan membuat narasi khusus untuk cerita,
buku audio, dan podcast.
Agar tidak terjadi masalah hukum, Microsoft mewajibkan pengguna memberikan "persetujuan eksplisit" dalam bentuk pernyataan rekaman sebelum pelanggan dapat menggunakan suara pribadi untuk mensintesis suara mereka. Akses ke fitur ini terkendali melalui formulir pendaftaran, dan pelanggan harus setuju menggunakan personal voice hanya dalam aplikasi "di mana suara tidak membaca konten yang dibuat pengguna atau konten terbuka."
"Penggunaan model suara
harus tetap di dalam aplikasi dan hasilnya tidak boleh dapat dipublikasikan
atau dibagikan dari aplikasi," tulis Microsoft dalam sebuah pos blog.
"Pelanggan yang memenuhi kriteria akses terbatas tetap memiliki kendali
penuh atas penciptaan, akses, dan penggunaan model suara dan hasilnya [khusus
untuk] dubbing di film, TV, video, dan audio hanya untuk skenario
hiburan."
Microsoft tidak menjawab pertanyaan dari TechCrunch mengenai bagaimana para aktor mungkin akan mendapatkan kompensasi untuk kontribusi suara pribadi mereka — atau apakah mereka berencana untuk menerapkan teknologi watermarking agar suara yang dihasilkan oleh kecerdasan buatan lebih mudah diidentifikasi.
Baca Berita dan Artikel yang lain di Google News.
(tqhf)
