Meta Kembangkan Fitur Baru "Protect Teens" di Instagram

Sumber poto : Unsplash

Teknologi.id - Instagram mengatakan bahwa mereka sedang mengembangkan fitur baru untuk melindungi anak muda dan memerangi pemerasan seksual, termasuk sebuah fitur yang secara otomatis akan memburamkan "ketelanjangan"  dalam pesan langsung. 

Permerasan seksual, atau sextortion merupakan modus kejahatan dimana seseorang dibujuk untuk mengirimkan foto-foto eksplisit secara online dan kemudian mengancam untuk mempublikasikan gambar-gambar tersebut kecuali korban bersedia membayar uang atau "melakukan hubungan seksual" 

Fitur ini nantinya akan memberikan perlindungan untuk pesan langsung Instagram akan menggunkan pembelajaran mesn di perangkat untuk menganalisis apakah sebuah gambar yang diikirim melalui layanan tersebut mengandung "ketelanjangan"

Fitur ini akan diaktifkan secara default untuk pengguna berusia di bawah 18 tahun dan Meta juga akan memebri tahu orang dewasa untuk mendorong mereka mengaktifkannya.

Baca juga: Instagram Luncurkan Fitur Musik di Bio? Coba Sekarang!

• Layar "Ketelanjangan"

Perlindungan ketelanjangan di DM bertujuan untuk melindungi pengguna remaja Instagram dari cyberflashing dengan menempatkan gambar telanjang di balik layar pengman. Pengguna akan dapat memeilih untuk melihat gambar tersebut atau tidak.

"Kami uga akan menampilkan pesan yang mendorong mereka untuk tidak merasa tertekan untuk merespons, dengan opsi untuk memblokir pengirim dan melaporkan tersebut,"penjelasan dari Meta".

Layar keamanan ketelanjangan akan diaktifkan secara default untuk pengguna berusia di bawah 18 tahun di seluruh dunia. Pengguna yang lebih tua akan melihat notifikasi yang mendorong merekaa untuk mengaktifkan tersebut. Ketika perlindungan "ketelanjangan" diaktifkan, orang yang mengirim gambar yang mengandung "ketelanjangan" akan melihat pesan yang mengingatkan mereka untuk berhati-hati ketika mengirim foto sensitif, dan mereka dapat membatalkan pengirimkan foto tersebut jika mereka berubah pikiran,"penjelasan dari Meta.

Siapa pun yang mencoba meneruskan gambar telanjang akan melihat peringatan yang sama yang mendorong mereka untuk mempertimbangkan kembali. Fitur ini didukung oleh pembelajaran mesin di perangkat, jadi Meta mengatakan bahwa fitur ini akan bekerj dalam obrolan terenkripsi ujung ke ujung karena analisis gambar dilakukan pada perangkat pengguna sendiri.

• Tips Keamanan

Langkah pengamanan lainnya, pengguna Instagram yang mengirim atau menerima foto telanjang akan diarahkan ke tips keamanan. Informasi tentang potensi risiko yang ada, yang menurut Meta, telah dikembangkan dengan pandungan dari ahli. Tips ini termasuk pengingat bahwa orang dapat mengambil screenshot atau meneruskan gambar. Mreta juga ini sedang menguji coba menampilkan pesan pop-up kepada orang-orang yang mungkin pernah berinteraksi dengan akun yang telah dihapus karena sextortion. Munculan ini juga akan mengarahkan pengguna sumber daya yang relevan.

Meta menambahkan saluran bantuan keselamatan anak baru dari seluruh dunia ke dalam alur pelaopran dalam aplikasinya. Ketika remaja melaporkan masalah yang relevan seperti "ketelanjang", ancaman untuk membagikan gambar pribad atau eksploitasi atau ajakan seksual. Instagram akan mengarahkan mereka ke saluran bantuan keselamatan anak setempat jika tersedia.

• Menargetkan pelaku sextortion

Meskipun meta mengatakan bahwa mereka mengahapus akun-akun pelaku pemerasan seksual ketika mereka mengetahuinya harus terlebih dahulu menemukan pelaku kejahatan untuk menutup akun-akun tersebut. Meta akan mencoba melangkah lebih jauh dengan "mengembangkan teknologi untuk membantu mengidentifikasi  di mana akun-akun yang berpotensi terlibat dalam penipuan sextortion, berdasarkan berbagai sinyal yang dapat mengindikasikan pelaku sextortion. 

Meskipun sinyal-sinyal ini belum tentu menjadi bukti bahwa sebuah akun telah melanggar aturan kami, kami mengambil langkah pencegahan untuk membantu mencegah akun-akun ini menemukan dan berinteraksi dengan akun-akun remaja. " hal ini mupakan kelanjutan dari upaya yang mencegah akun-akun lain yang berpotensi mencurigakan untuk menemukan dan berinteraksi dengan para remaja. Akun-akun yang ditandai oleh Meta sebagai pelaku sextortionis potensial akan menghadapi pembatasan untuk mengirm pesan atau berinteraksi dengan pengguna lain.

Permintaan pesan yang coba dikirim oleh akun-akun yang berpotensi melakukan pemerasan seksual akan langsung mauk ke folder permintaan tersembunyi milik penerima yang berarti mereka tidak akan diberitahu tentang pesan tersebut dan tidak perlu melihatnya. 

Pengguna yang sudah mengobrol dengan akun-akun yang berpotensi melakukan penipuan atau sextortion tidak akan menutup obrolan mereka, tetapi akan diperlihatkan pemberitahuan keamannan yang mendorong mereka untuk membagikan foto-foto pribadi, dan mengingatkan mereka bahwa mereka dapat "tidak " pada apa pun yang membuat mereka merasa tidak nyaman. Pengguna remaja sudah terlindungi dari mennerima DM dari orang dewsa yang tidak terhubung dengan mereka di Instagram (dan juga dari remaja lain, dalam beberapa kasus) Meta saat ini mengembangkan dan menguji sebuah fitur yang menyembunyikan tombol "pesan" pada profil remaja untuk akun-akun yang berpotensi melakukan sextortion meskipun mereka terhubung.

Baca berita dan artikel lainnya di Google News

(ay)