Twitch Gunakan Machine Learning Untuk Mendeteksi User “Nakal”

Foto: Unsplash

Teknologi.id- Twitch melanjutkan upayanya untuk mengurangi pelecehan dengan alat baru yang menggunakan machine learning untuk mendeteksi orang yang mungkin mencoba menghindari ban. Ini adalah fitur terbaru Twitch untuk memerangi hal-hal seperti hate speech, di mana chatbox streamer dibanjiri dengan troll yang mengirim pesan kebencian.

Alat baru, yang disebut Suspicious User Detector, dapat mengidentifikasi pengguna yang dicurigai dapat berpotensi melakukan tindakan-tindakan yang melanggar ketentuan twitch, dalam hal ini pengguna yang menghindari ban. Model machine learning ini mengidentifikasi calon evader atau ‘si penghindar’ dengan mengevaluasi hal-hal seperti perilaku dan karakteristik mereka tentang akun mereka dan membandingkan informasi tersebut dengan akun yang telah diblokir dari saluran streamer.

Pesan dari pengguna "kemungkinan" tidak akan dikirim ke obrolan, tetapi streamer dan moderator masih dapat melihatnya. Streamer dan moderator dapat memilih untuk memantau pengguna dan dapat menambahkan pengguna tersebut ke daftar pemantauan dan menempatkan pesan di sebelah nama pengguna yang mencatat pemantauan, atau melarang mereka. Pesan si penghindar "Kemungkinan" akan muncul di obrolan, tetapi streamer / moderator dapat memilih untuk memblokir pesan-pesan itu dari obrolan juga.

Twitch mengatakan akan mengaktifkan Suspicious User Detector secara default, tetapi streamer dapat mengubah atau mematikan alat tersebut jika mereka mau. Streamer dan moderator juga dapat memilih secara manual untuk memantau pengguna yang mereka curigai.

Baca Juga: Bisa Lacak Lokasi Pasangan Pakai PeduliLindungi, ini Caranya

Menurut Alison Huffman, direktur produk untuk kesehatan masyarakat Twitch, “Alat ini sebagian besar terinspirasi oleh umpan balik komunitas seputar perlunya cara yang lebih baik untuk mengekang si penghindar ban,” kemudian ia juga mengatakan “Ketika kami berbicara dengan moderator tentang masalah mereka, kami mendengar bahwa sulit untuk membedakan apakah pengguna yang mengobrol tentang sesuatu yang melanggar norma saluran mereka adalah pelaku pelecehan berulang yang berbahaya atau hanya pemirsa baru yang belum mempelajari saluran itu. bea cukai belum. Karena itu, kami merancang alat ini untuk memberi moderator dan streamer lebih banyak informasi tentang si penghindar ban potensial sehingga mereka dapat membuat keputusan yang lebih efisien dan terinformasi dalam saluran mereka.”

Suspicious User Detector sepertinya bisa membuat perbedaan dalam membungkam user yang sering melakukan ujaran kebencian pada chatbox Twitch, terutama jika digunakan bersamaan dengan kontrol yang baru-baru ini diperkenalkan yang memungkinkan streamer memerlukan verifikasi telepon atau email untuk akun yang berpartisipasi dalam obrolan. Tetapi masih harus dilihat seberapa efektif fitur ini dalam praktiknya atau apakah para si penghindar ban tetap dapat menemukan cara untuk menyiasati alat tersebut.

(MSR)