Teknologi.id - Korea Selatan saat ini tengah menghadapi krisis yang mengkhawatirkan terkait penyebaran konten pornografi deepfake melalui aplikasi Telegram. Teknologi Deepfake memungkinkan penggunanya untuk memanipulasi suatu konten gambar atau video dengan wajah seseorang. Selain merubah wajah, deepfake juga dapat membuat seseorang tampak seperti sedang mengatakan sesuatu yang tidak pernah mereka ucapkan.
Dalam konten gambar atau video, pengguna dapat mengganti wajah seseorang dalam konten tersebut dengan wajah orang lain. Hasil dari konten yang di manipulasi dengan deepfake ini akan terlihat sangat nyata dan meyakinkan, seakan orang tersebut benar-benar melakukan hal yang tidak mereka lakukan. Sedangkan pada audio, deepfake mampu meniru suara seseorang secara realistis. Kemudian, suara tersebut dapat digunakan untuk membuat rekaman suara palsu yang terdengar seperti orang aslinya.
Namun, kecanggihan teknologi deepfake ini justru menjadi alat bagi pihak-pihak tidak bertanggung jawab untuk menciptakan dan mendistribusikan konten pornografi palsu. Hal itu lah yang tengah menjadi masalah serius di Korea Selatan saat ini.
Baca juga: Mahasiswa Wajib Tahu! Tools AI yang Bisa Bantu Buat Kesimpulan
Kasus Deepfake di Korea Selatan
Pornografi deepfake sedang mewabah di Korea Selatan. Hal ini membuat banyak wanita di Korea yang ketakutan dan mulai menghapus foto-foto mereka di media sosial seperti Instagram, Facebook, dan lainnya.
Kasus ini bermula dari seseorang pria lulusan Seoul National University (SNU) yang bekerja sama dengan 3 pria lainnya untuk membuat sebuah bot. Bot tersebut memiliki kemampuan untuk membuat konten pornografi deepfake dengan menggunakan foto-foto dari para korban lalu membagikannya ke aplikasi Telegram.
Mereka lalu mengundang beberapa laki-laki dengan undangan gratis untuk bergabung ke dalam channel Telegram mereka. Di dalam channel tersebut, para anggota nya dapat memposting wajah dari orang-orang yang mereka kenal. Lalu, bot deepfake tersebut akan membuat foto pornografi menggunakan wajah dari para korban. Menurut laporan, anggota dari channel Telegram tersebut kini sudah mencapai lebih dari 200 ribu orang.
Terdapat dua cara yang dapat dilakukan oleh anggota channel untuk membuat sebuah konten deepfake, yaitu dengan melakukan pembayaran atau mengundang teman. Anggota dapat melakukan pembayaran sebesar 0,49 USD (Rp6.853) dalam bentuk mata uang kripto untuk satu foto. Namun, anggota juga dapat mengundang 1 orang teman untuk mendapatkan kesempatan membuat 1 foto.
Baca Juga: Teknologi AI Canggih Korea Selatan Bisa Diagnosis Kesehatan Hewan
Channel Telegram ini banyak menyebar di kalangan pelajar seperti SD, SMP, ataupun SMA. Para pelajar ini biasa menggunakan bot tersebut dengan cara mengundang 1 orang teman. Semakin banyak konten yang mereka inginkan, maka semakin banyak pula teman yang mereka ajak bergabung dengan channel Telegram ini. Hal ini lah yang membuat penyebaran channel ini cukup cepat hingga memiliki lebih dari 200 ribu anggota.
Sebuah akun di X menyebutkan terdapat 300 sekolah di Korea Selatan, termasuk SD, SMP, SMA, dan perguruan tinggi, yang menjadi korban kejahatan seksual tersebut. Data ini menunjukkan bahwa siswa perempuan di bawah umur menjadi target dalam pembuatan konten pornografi deepfake.
Dampak pornografi deepfake
Karena para anggota dari channel Telegram tersebut banyak mengambil foto korban melalui media sosial, banyak wanita di Korea Selatan yang memutuskan untuk menghapus foto-foto mereka. Hal ini dilakukan guna mengurangi risiko wajah mereka akan digunakan untuk membuat konten pornografi dengan deepfake. Kasus ini telah menimbulkan perasaan takut dan juga was-was terhadap laki-laki di sekitar mereka.
Selain itu, para wanita dari kalangan idol pun turut menjadi korban pornografi deepfake ini. Hal ini membuat banyak agensi KPop siap untuk menggungat situs deepfake pornografi para artisnya. Contoh dari agensi-agensi tersebut adalah JYP Entertainment, ATRP, MODHAUS, dan FCNEM.
Kim Su-jeong, selaku direktur Pusat Konseling Hak Asasi Manusia Perempuan, mengatakan pemerintah harus mengedukasi para pelaku bahwa tindakan mereka salah dan tidak dapat ditoleransi, daripada menyuruh para korban menghapus foto mereka.
"Kekerasan berulang terhadap perempuan di negara ini adalah akibat dari kegagalan negara mendengarkan berbagai seruan di masa lalu untuk meningkatkan kewaspadaan terhadap masalah ini, hukuman lemah bagi pelaku, dan kurangnya kesadaran bahwa tindakan itu adalah kejahatan," ujarnya.
Baca berita dan artikel lainnya di: Google News
(ANNA)
