Darurat Deepfake Porn: Microsoft Luncurkan Alat untuk Hapus Gambar

Elysa Magrisia Herdiani . September 10, 2024
sumber: Collage by 731, Getty(2) 



Teknologi.id - Kemajuan teknologi kecerdasan buatan (AI) kini tidak hanya memberikan kemudahan, tetapi juga menimbulkan tantangan baru di dunia digital, termasuk penyebaran gambar telanjang sintetis yang menyerupai orang asli. Gambar-gambar ini, yang dikenal dengan istilah deepfake atau revenge porn, seringkali disebarkan tanpa persetujuan korban, menimbulkan kerugian psikologis yang mendalam. Menanggapi masalah ini, Microsoft mengambil langkah besar dengan meluncurkan alat baru yang dirancang khusus untuk melindungi para korban. Alat ini memungkinkan pengguna untuk menghapus gambar-gambar eksplisit dari mesin pencari Bing dengan lebih efektif.

Apa Itu Deepfake dan Revenge Porn?

Sebelum membahas lebih lanjut tentang solusi dari Microsoft, penting untuk memahami apa itu deepfake dan revenge porn. Deepfake adalah teknologi yang memanfaatkan kecerdasan buatan untuk menciptakan video atau gambar palsu yang terlihat sangat nyata. Teknologi ini sering disalahgunakan untuk membuat konten pornografi tanpa persetujuan orang yang bersangkutan. Sedangkan revenge porn adalah penyebaran konten pornografi, baik gambar maupun video, dengan tujuan membalas dendam atau merugikan korban.

Seiring dengan meningkatnya penggunaan alat AI generatif, masalah konten eksplisit non-konsensual ini menjadi semakin luas. Banyak korban yang merasa tidak berdaya karena gambar mereka beredar di internet tanpa izin, dan alat pelaporan yang tersedia sebelumnya tidak cukup efektif untuk menanganinya.

Baca juga: Skandal Deepfake Pornografi di Korea Selatan: Ribuan Foto Pelajar Disalahgunakan

Langkah Microsoft untuk Mengatasi Deepfake dan Revenge Porn


sumber: (getty images)

Pada bulan September 2024, Microsoft mengumumkan kemitraannya dengan StopNCII (Stop Non-Consensual Intimate Images), sebuah organisasi yang berfokus pada penghentian penyebaran konten intim tanpa persetujuan. Organisasi ini memungkinkan para korban untuk membuat sidik jari digital dari gambar-gambar eksplisit tersebut, yang kemudian dapat digunakan untuk menghapus gambar dari platform yang bekerja sama.

Sidik jari digital ini, yang disebut sebagai hash, adalah representasi unik dari setiap gambar yang memungkinkan platform digital untuk mengidentifikasi dan menghapusnya dari basis data mereka. Bing kini bergabung dengan platform besar lainnya seperti Facebook, Instagram, Threads, TikTok, Snapchat, Reddit, Pornhub, dan OnlyFans dalam menggunakan teknologi ini untuk melindungi pengguna dari konten eksplisit non-konsensual.

Dalam sebuah blog post, Microsoft mengungkapkan bahwa mereka telah berhasil menghapus 268.000 gambar eksplisit dari hasil pencarian Bing selama fase uji coba dengan database StopNCII. Langkah ini menunjukkan komitmen Microsoft untuk meningkatkan perlindungan terhadap korban revenge porn dan deepfake.


Bagaimana Cara Kerja Alat Ini?

Untuk menggunakan alat ini, korban dapat mengakses platform StopNCII dan mengunggah gambar eksplisit yang ingin mereka hapus dari internet. Setelah gambar tersebut diunggah, platform akan membuat hash dari gambar tersebut. Hash ini kemudian dibagikan ke berbagai platform yang bekerja sama, termasuk Bing, untuk memastikan bahwa gambar tersebut tidak akan muncul lagi dalam hasil pencarian.

Proses ini dilakukan secara anonim dan tidak memerlukan unggahan gambar asli ke platform Microsoft atau mitra lainnya, sehingga privasi korban tetap terjaga.

Mengapa Alat Ini Penting?

Alat ini sangat penting karena memberikan solusi yang lebih efektif bagi korban revenge porn dan deepfake. Sebelumnya, korban harus mengandalkan alat pelaporan manual yang memakan waktu dan tidak selalu berhasil. Dengan adanya sistem hash ini, korban dapat menghapus gambar eksplisit dengan lebih cepat dan aman.

Selain itu, alat ini juga menanggapi kritik yang sering dilontarkan kepada mesin pencari populer lainnya seperti Google, yang meskipun memiliki alat pelaporan, belum bermitra dengan StopNCII seperti Microsoft. Ini memberikan Bing keunggulan dalam hal perlindungan privasi dan keamanan pengguna.

Baca juga: Korea Selatan Darurat Pornografi Deepfake Melalui Aplikasi Telegram

Tantangan dan Langkah Selanjutnya

Meskipun alat ini merupakan langkah besar ke arah yang benar, tantangan masih ada, terutama di Amerika Serikat yang belum memiliki undang-undang khusus yang mengatur deepfake porn. Saat ini, hukum yang mengatur masalah ini masih terfragmentasi di tingkat negara bagian dan lokal, yang membuat penegakan hukum menjadi sulit.

Namun, dengan langkah proaktif dari perusahaan teknologi seperti Microsoft, diharapkan kesadaran akan pentingnya melindungi privasi dan keamanan digital akan semakin meningkat. Ke depan, diharapkan lebih banyak platform dan pemerintah akan mengambil tindakan untuk melindungi para korban dari ancaman deepfake dan revenge porn.

Langkah Microsoft dalam meluncurkan alat baru untuk menghapus deepfake dan revenge porn dari pencarian Bing adalah langkah besar dalam melindungi korban dari penyalahgunaan teknologi AI. Dengan kemitraan bersama StopNCII, Microsoft memberikan solusi yang lebih efektif dan aman bagi korban untuk menghapus konten eksplisit dari internet. Meskipun tantangan masih ada, terutama dalam hal regulasi, upaya ini diharapkan dapat meningkatkan kesadaran dan perlindungan terhadap privasi digital di masa depan.

Baca Berita dan Artikel lain di Google News

(emh)


Share :