Geger, Microsoft Rilis Alat Pembuat Deepfake?

Foto: socialmediasafety.org

Teknologi.id - Salah satu produk yang diluncurkan dari acara Microsoft Ignite 2023 yang cukup tak terduga adalah alat yang dapat membuat avatar foto realistik seseorang dan menganimasikan avatar tersebut mengucapkan hal-hal yang sebenarnya tidak diucapkan oleh orang tersebut.

Disebut sebagai Azure AI Speech Text-to-Speech Avatar, fitur baru ini, kini sudah tersedia dalam pra-pratinjau publik per hari ini, fitur ini memungkinkan pengguna menghasilkan video avatar yang berbicara dengan mengunggah gambar seseorang yang ingin mereka jadikan avatar dan menulis skrip. Alat dari Microsoft akan melatih suatu model untuk menggerakkan animasinya, dan ada suara terpisah yang bisa jadi sudah ada atau dilatih dengan suara orang tersebut, yang akan "membaca" skrip tersebut dengan suara.

Avatar tersebut dapat berbicara dalam beberapa bahasa. Untuk skenario chatbot, mereka dapat menggunakan model AI seperti OpenAI GPT-3.5 untuk menjawab pertanyaan di luar skrip dari pelanggan.

Namun, perlu diingat bahwa ada banyak cara alat semacam ini bisa disalahgunakan, dan Microsoft menyadari hal tersebut. Contohnya, teknologi pembuat avatar serupa dari startup AI Synthesia pernah disalahgunakan untuk membuat propaganda di Venezuela dan laporan berita palsu yang dipromosikan oleh akun media sosial pro-China.

Baca juga: Google Bikin AI yang Bisa Tiru Suara Penyanyi

Microsoft menjelaskan, sebagian besar pelanggan Azure hanya bisa menggunakan avatar yang sudah jadi saat awal diluncurkan, bukan avatar yang bisa disesuaikan sesuai keinginan. Avatar kustom saat ini hanya tersedia dengan "akses terbatas" yang bisa diakses melalui pendaftaran, dan hanya untuk beberapa situasi tertentu.

Tetapi fitur ini menimbulkan banyak pertanyaan etis yang kurang menyenangkan.

Salah satu permasalahan utama dalam mogok kerja SAG-AFTRA baru-baru ini adalah penggunaan kecerdasan buatan untuk membuat gambar digital seseorang. Pada akhirnya, studio-studio setuju untuk membayar aktor atas gambar digital yang dibuat oleh kecerdasan buatan. Tapi, bagaimana dengan Microsoft dan pelanggannya?

TechCrunch menanyakan pada Microsoft bagaimana pendapat perusahaan terkait penggunaan wajah aktor oleh perusahaan tanpa memberikan kompensasi yang adil atau memberikan pemberitahuan kepada para aktor. Namun, Microsoft tidak memberikan jawaban dan juga tidak mengatakan apakah mereka akan menuntut agar perusahaan menandai avatar sebagai hasil dari kecerdasan buatan, seperti yang dilakukan oleh YouTube dan beberapa platform lainnya.

 

Personal Voice

Microsoft sepertinya lebih berhati-hati terkait alat kecerdasan buatan generatif lainnya, yaitu Personal Voice, yang juga diperkenalkan di acara Ignite.

Personal Voice, fitur baru dalam layanan suara khusus Microsoft, dapat meniru suara pengguna dalam waktu singkat dengan memberikan contoh pidato satu menit sebagai perintah suara. Microsoft menyajikannya sebagai cara untuk membuat asisten suara pribadi, menerjemahkan konten ke bahasa lain, dan membuat narasi khusus untuk cerita, buku audio, dan podcast.

Agar tidak terjadi masalah hukum, Microsoft mewajibkan pengguna memberikan "persetujuan eksplisit" dalam bentuk pernyataan rekaman sebelum pelanggan dapat menggunakan suara pribadi untuk mensintesis suara mereka. Akses ke fitur ini terkendali melalui formulir pendaftaran, dan pelanggan harus setuju menggunakan personal voice hanya dalam aplikasi "di mana suara tidak membaca konten yang dibuat pengguna atau konten terbuka."

Baca juga: Intip Project Silica Microsoft, 7 TB Data Disimpan di Kaca Awet Hingga 10.000 Tahun

"Penggunaan model suara harus tetap di dalam aplikasi dan hasilnya tidak boleh dapat dipublikasikan atau dibagikan dari aplikasi," tulis Microsoft dalam sebuah pos blog. "Pelanggan yang memenuhi kriteria akses terbatas tetap memiliki kendali penuh atas penciptaan, akses, dan penggunaan model suara dan hasilnya [khusus untuk] dubbing di film, TV, video, dan audio hanya untuk skenario hiburan."

Microsoft tidak menjawab pertanyaan dari TechCrunch mengenai bagaimana para aktor mungkin akan mendapatkan kompensasi untuk kontribusi suara pribadi mereka — atau apakah mereka berencana untuk menerapkan teknologi watermarking agar suara yang dihasilkan oleh kecerdasan buatan lebih mudah diidentifikasi.

Baca Berita dan Artikel yang lain di Google News.

(tqhf)