Apple Hapus Aplikasi yang menggunakan AI untuk Hasilkan Foto Vulgar

Sumber poto: Unplash

Teknologi id - Aplikasi dan Kecerdasan buatan atau Artifical Intelligence (AI) semakin berkembang pesat seiring kebutuhan manusia yang banyak berhubungan dengan  teknologi dalam kehidupan sehari-hari. kemampuan AI yang cepat sehingga banyak dipakai, salah satunya AI bisa mengedit foto dan video, hal ini tentunya dapat memudahkan para desainer dalam menghasilkan ide foto, dalam praktiknya.

Dapat menghasilkan poto dan video yang lebih berkualitas dan cepat membuat  para Desainer  memanfaatkannya  untuk memproduksi karya-karyanya. Tetapi dengan kemudahan yang telah di berikan teknologi berkonsep AI ini, justru oleh beberapa oknum-oknum meyalahgunakan untuk hal-hal tertentu dalam memproduksi atau menghasilkan poto dan video yang tidak benar seperti menghasilkan gambar vulgar.

Hal tersebut menimbulkan dampak negatif seperti akan adanya korban dalam pemanfaatan AI yang tidak tepat seperti menghasilkan foto vulgar dengan wajah orang terterntu. Sebagai contoh kasus yang menimpa Artis kenamaan dunia Taylor Swift beberapa waktu yang lalu, badannya diedit sehingga tidak tampak memakai busana sama sekali dampak lainnya yaitu poto tersebut telah mendapat  24.000 views. Selain Taylor Swift , ada juga remaja di New Jersey, Washington, California yang mendapati wajahnya di iklan tanpa memakai busana.

Baca Juga:YouTube Akan Beri Label pada Video Hasil Buatan AI

Kasus serupa di temukan oleh Apple. Perusahaan besutan Steve Jobs ini menemukan tiga Aplikasi di AppStore yang mampu mengedit foto seseorang menjadi "telanjang". Aplikasi itu ternyata sudah tersedia di AppStore sejak dua tahun yang lalu. Aplikasi ini di iklankan oleh "generator seni" di Instagram dan situs dewasa dengan klaim bahwa aplikasi tersebut dapat "menelanjangi gadis secara gratis". Kemampuan AI yang bisa membuat gambar dengan menggunakan poto atau desain apapun, di tambah teknologi yang mampu meciptakan gambar palsu seperti gambar wajah seseorang yang di hubungkan dengan konteks  vulgar.  Aplikasi ini pun  dapat menggunakan poto anak-anak atau anak muda setelah itu mereka mengedit menggunakan AI untuk tidak dikenakan pakaian.

Di lansir dari 404 Media, Apple menginformasikan. Aplikasi-aplikasi ini mengeksploitasi AI untuk membuat gambar telanjang palsu dari individu yang mengenakan pakaian. Rentetan aplikasi ini menawarkan fitur-fitur seperti penukaran wajah pada gambar -gambar dewasa lalu aplikasi lainnya bisa menanggalkan pakaian, bahkan pada subjek foto yang tidak berbahaya. Investigasi laporan tersebut sebelumnya mengangkal isu bahwa Instagram mengiklankan aplikasi terkait melalui perpusatkaan iklan Meta. Setelah iya klan-iklannya ditandai, Meta akhirnya menghapusnya.

Gambar yang dihasilkan dari aplikasi ini dapat digunakan untuk pelecahan, pemerasan dan pelanggaran privasi. Laporan ini menunjukan bahwa aplikasi ini sebelumnya diizinkan untuk tetap ada di AppStore karena mengingat Aplikasi ini ada sejak  tahun 2022, namun dengan syarat menghapus iklan dari situs dewasa. Namun Aplikasi ini tetap menjalankan iklan hingga 2024. Apple menghapus aplikasi ini dari AppStore, setelah Google menghapusnya dari PlayStore

Dengan  Apple menghapusnya dari AppStore menjadi berita bagus, tetapi Apple belum bisa mengatur atau melarang saat ada aplikasi yang ingin menjadi bagian dari AppStore tersebut bisa mengakses situs-situs vulgar. Tentunya ini menjadi evaluasi pihak Apple untuk bisa lebih teliti dalam mereview aplikasi untuk di AppStore.

Kemajuan Artifical Integellence ini ada baik  dan buruk. Seperti halnya kasus ini banyak pihak yang tentunya akan merasa dirugikan. Mereka "para Oknum" yang melakukan kejahatan dengan mudahnya dapat mengambil poto para perempuan untuk di desain menggunakan AI dan menampilkan dengan cara vulgar.

Keputusan Apple ini adalah langkah terbaru yang mereka lakukan untuk menjaga produk AI-nya tetap diatas. Selain menggunkan metode pelatihan untuk model bahasa AI yang menjaga privasi, perusahaan turut menghindari penggunaan karya berhak cipta dengan cara ilegal.

Apple baru-baru ini membuat kesepakatan dengan Shutterstock untuk menggunkan perpustakaan pemasok stok foto untuk pelatihan AI. Upaya ini memastikan bahwa para pencipta gambar mengizinkan menggunakan karya mereka, dan bahwa materi sumber akan aman untuk di gunakan.  Insentif kuat bagi Apple untuk menindak tegas penyalahgunaan AI.

Baca berita dan artikel lainnya di: Google News

(Ay)