Facebook Buat Simulasi untuk Deteksi Perilaku Buruk Penggunanya dengan AI

Foto: The Verge

Teknologi.id - Engineer Facebook telah mengembangkan sebuah metode baru yang bisa membantu mengidentifikasi dan menghindari kegiatan berbahaya seperti penyebaran spam, penipuan, atau kegiatan jual-beli senjata dan obat-obatan terlarang.

Dengan memanfaatkan AI, kegiatan-kegiatan jahat tersebut bisa disimulasikan dengan menggunakan bot. Para peneliti bisa mempelajari perilaku bot dan mencari cara untuk menghentikannya.

Simulator ini dikenal dengan nama WW (dibaca 'Dub Dub'), dan dibuat berdasarkan kode Facebook yang sesungguhnya. Perusahaan tersebut menerbitkan jurnal tentang penelitian ini pada awal tahun lalu, namun baru memberikan informasi yang lebih banyak sekarang.

Penelitian ini dipimpin oleh engineer Facebook Mark Harman dan departemen AI perusahaan yang berbasis di London.

Baca juga: Facebook Luncurkan Opsi Kunci Messenger dengan Face ID dan Touch ID

Dalam sebuah interview, Harman menyebutkan bahwa WW akan menjadi alat yang fleksibel yang bisa digunakan untuk membatasi kegiatan jahat yang terjadi pada website tersebut. Ia memberikan contoh dengan menggunakan simulasi untuk memperkuat perlindungan dari penipuan.

Dalam kehidupan nyata, para penipu biasanya mulai berkeliaran pada grup-grup untuk mencari mangsa. Untuk memodelkan perilaku ini di WW, engineer menciptakan grup yang berisi bot baik yang beperan sebagai korban dan melatih beberapa bot jahat yang menjelajah jaringan untuk menemukan mereka (korban).

Para engineer kemudian mencoba berbagai cara untuk menghentikan bot jahat, mengenalkan berbagai 'rintangan' seperti membatasi jumlah pesan dan postingan yang bisa dikirim tiap menit.

Baca juga: Cara Mengetik Cepat dengan Fitur Smart Compose di Gmail

"Saat ini, yang menjadi fokus adalah melatih bot untuk menirukan hal-hal yang biasanya terjadi pada platform tersebut. Namun, pada teori dan latihannya, bot bisa melakukan hal-hal yang bahkan belum pernah dilihat sebelumnya," kata Harman.

"Hal menarik lain dari penelitian ini adalah potensi WW membongkar kelemahan pada arsitektur Facebook melalui tindakan yang dilakukan bot. Beberapa diantaranya diminta menjalankan perintah dengan instruksi yang jelas, kadang mereka diminta untuk mengikuti perilaku pada kehidupan nyata, sisanya diminta untuk menyelesaikan perintah tertentu dengan menentukan langkah-langkahnya sendiri," jelas Harman.

Harman menambahkan para peneliti telah menemukan beberapa perilaku yang tidak terduga dari bot, namun ia menolak menjelaskan perilaku apa saja yang ditemukan. "Kami tidak ingin membocorkan caranya untuk para penipu," tutupnya.

(im)