Sistem Pendeteksi Kriminalitas dengan Pengenalan Wajah Diprotes Ahli AI

Ilustrasi. Foto: The Verge

Teknologi.id - Kelompok gabungan peneliti AI, ilmuwan data, dan sosiologis telah meminta pihak akademisi untuk behenti membuat publikasi tentang peneliltian yang memprediksi tingkat kriminalitas seseorang dengan menggunakan data latih berupa rekaman wajah dan statistik kriminal.

Penelitian serupa tidak hanya salah secara sains, namun juga menyebabkan prasangka yang tidak ada habisnya untuk orang-orang kulit hitam dan kulit berwarna.

Sejumlah penelitian menujukan bahwa perangkat lunak yang dilatih dengan data-data ini hanya akan meningkatkan bias sosial dan rasisme karena pada faktanya, orang-orang kulit hitam mendapat perlakuan lebih keras sehingga statistik mereka lebih tinggi dibanding orang-orang kulit putih.

Baca juga: Microsoft Sediakan Pratinjau Aplikasi Antivirus di Android

Koalisi yang disebut dengan Coalition for Critical Technology ini sudah mengirimkan surat terbuka sebagai respon terhadap berita yang terbitkan Springer penelitian serupa yang akan diterbitkan dalam bentuk buku.

Springer merupakan penerbit buku akademi terbesar di dunia.

Surat terbuka tersebut sudah ditandatangani 1.700 orang ahli, meminta Springer untuk membatalkan rencana penerbitan hasil penelitian tersebut, serta meminta penerbit akademik lainnya untuk tidak mencetak buku serupa.

 "Mari kita perjelas: tidak ada sistem yang bisa memprediksi atau mengidentifikasi 'kriminalitas' yang tidak rasis. Kategori 'kriminal' itu sendiri juga sudah rasis," tulis Coalition for Critical Technology.

Baca juga: Seperti Samsung, Apple Juga Luncurkan Fitur Pengingat Cuci Tangan

Penelitian yang menjadi kontroversi ini berjudul "A Deep Neural Network Model to Predict Criminality Using Image Processing", atau Model Jaringan Syaraf Tiruan untuk Memprediksi Kriminalitas Menggunakan Pemrosesan Gambar.

Para peneliti yang tergabung dalam penelitian itu mengaku sistem yang dibuatnya mampu memprediksi apakah seseorang adalah pelaku tindakan kriminal dengan akurasi mencapai 80% tanpa bias rasis.

Salah satu penulis makalah tersebut adalah Jonathan W. Korn yang merupakan mantan perwira polisi NYPD yang sekarang menjadi mahasiswa Doktor Filsafat (PhD).

(im)