Download Teknologi App
Teknologi.id - Kemajuan teknologi kecerdasan buatan (AI) kini tidak hanya memberikan kemudahan, tetapi juga menimbulkan tantangan baru di dunia digital, termasuk penyebaran gambar telanjang sintetis yang menyerupai orang asli. Gambar-gambar ini, yang dikenal dengan istilah deepfake atau revenge porn, seringkali disebarkan tanpa persetujuan korban, menimbulkan kerugian psikologis yang mendalam. Menanggapi masalah ini, Microsoft mengambil langkah besar dengan meluncurkan alat baru yang dirancang khusus untuk melindungi para korban. Alat ini memungkinkan pengguna untuk menghapus gambar-gambar eksplisit dari mesin pencari Bing dengan lebih efektif.
Apa Itu Deepfake dan Revenge Porn?
Sebelum membahas lebih lanjut tentang solusi dari Microsoft,
penting untuk memahami apa itu deepfake dan revenge porn. Deepfake adalah
teknologi yang memanfaatkan kecerdasan buatan untuk menciptakan video atau
gambar palsu yang terlihat sangat nyata. Teknologi ini sering disalahgunakan
untuk membuat konten pornografi tanpa persetujuan orang yang bersangkutan.
Sedangkan revenge porn adalah penyebaran konten pornografi, baik gambar maupun
video, dengan tujuan membalas dendam atau merugikan korban.
Seiring dengan meningkatnya penggunaan alat AI generatif,
masalah konten eksplisit non-konsensual ini menjadi semakin luas. Banyak korban
yang merasa tidak berdaya karena gambar mereka beredar di internet tanpa izin,
dan alat pelaporan yang tersedia sebelumnya tidak cukup efektif untuk
menanganinya.
Baca juga: Skandal Deepfake Pornografi di Korea Selatan: Ribuan Foto Pelajar Disalahgunakan
Langkah Microsoft untuk Mengatasi Deepfake dan Revenge Porn
Pada bulan September 2024, Microsoft mengumumkan
kemitraannya dengan StopNCII (Stop Non-Consensual Intimate Images), sebuah
organisasi yang berfokus pada penghentian penyebaran konten intim tanpa
persetujuan. Organisasi ini memungkinkan para korban untuk membuat sidik jari
digital dari gambar-gambar eksplisit tersebut, yang kemudian dapat digunakan
untuk menghapus gambar dari platform yang bekerja sama.
Sidik jari digital ini, yang disebut sebagai hash, adalah
representasi unik dari setiap gambar yang memungkinkan platform digital untuk
mengidentifikasi dan menghapusnya dari basis data mereka. Bing kini bergabung
dengan platform besar lainnya seperti Facebook, Instagram, Threads, TikTok, Snapchat,
Reddit, Pornhub, dan OnlyFans dalam menggunakan teknologi ini untuk melindungi
pengguna dari konten eksplisit non-konsensual.
Dalam sebuah blog post, Microsoft mengungkapkan bahwa mereka telah berhasil menghapus 268.000 gambar eksplisit dari hasil pencarian Bing selama fase uji coba dengan database StopNCII. Langkah ini menunjukkan komitmen Microsoft untuk meningkatkan perlindungan terhadap korban revenge porn dan deepfake.
Bagaimana Cara Kerja Alat Ini?
Untuk menggunakan alat ini, korban dapat mengakses platform
StopNCII dan mengunggah gambar eksplisit yang ingin mereka hapus dari internet.
Setelah gambar tersebut diunggah, platform akan membuat hash dari gambar
tersebut. Hash ini kemudian dibagikan ke berbagai platform yang bekerja sama,
termasuk Bing, untuk memastikan bahwa gambar tersebut tidak akan muncul lagi
dalam hasil pencarian.
Proses ini dilakukan secara anonim dan tidak memerlukan unggahan gambar asli ke platform Microsoft atau mitra lainnya, sehingga privasi korban tetap terjaga.
Mengapa Alat Ini Penting?
Alat ini sangat penting karena memberikan solusi yang lebih
efektif bagi korban revenge porn dan deepfake. Sebelumnya, korban harus
mengandalkan alat pelaporan manual yang memakan waktu dan tidak selalu
berhasil. Dengan adanya sistem hash ini, korban dapat menghapus gambar
eksplisit dengan lebih cepat dan aman.
Selain itu, alat ini juga menanggapi kritik yang sering
dilontarkan kepada mesin pencari populer lainnya seperti Google, yang meskipun
memiliki alat pelaporan, belum bermitra dengan StopNCII seperti Microsoft. Ini
memberikan Bing keunggulan dalam hal perlindungan privasi dan keamanan
pengguna.
Baca juga: Korea Selatan Darurat Pornografi Deepfake Melalui Aplikasi Telegram
Tantangan dan Langkah Selanjutnya
Meskipun alat ini merupakan langkah besar ke arah yang
benar, tantangan masih ada, terutama di Amerika Serikat yang belum memiliki
undang-undang khusus yang mengatur deepfake porn. Saat ini, hukum yang mengatur
masalah ini masih terfragmentasi di tingkat negara bagian dan lokal, yang
membuat penegakan hukum menjadi sulit.
Namun, dengan langkah proaktif dari perusahaan teknologi
seperti Microsoft, diharapkan kesadaran akan pentingnya melindungi privasi dan
keamanan digital akan semakin meningkat. Ke depan, diharapkan lebih banyak
platform dan pemerintah akan mengambil tindakan untuk melindungi para korban
dari ancaman deepfake dan revenge porn.
Langkah Microsoft dalam meluncurkan alat baru untuk menghapus deepfake dan revenge porn dari pencarian Bing adalah langkah besar dalam melindungi korban dari penyalahgunaan teknologi AI. Dengan kemitraan bersama StopNCII, Microsoft memberikan solusi yang lebih efektif dan aman bagi korban untuk menghapus konten eksplisit dari internet. Meskipun tantangan masih ada, terutama dalam hal regulasi, upaya ini diharapkan dapat meningkatkan kesadaran dan perlindungan terhadap privasi digital di masa depan.
Baca Berita dan Artikel lain di Google News.
Tinggalkan Komentar