AI Bisa Mengetahui Jika Ada yang Salah Pada Sistemnya

Indah Mutia Ayudita . November 25, 2020

Ilustrasi. Foto: Getty Images/akinbostanci

Teknologi.id - Kecerdasan buatan alias AI kini sudah bisa membuat keputusan di bidang yang memengaruhi kehidupan manusia seperti mengemudi mobil sampai diagnosis medis.

Untuk bisa melakukan hal tersebut, AI harus bisa berfungsi seakurat mungkin. Agar bisa mencapai tujuan ini, sebuah sistem jaringan saraf dibuat agar bisa menghasilkan tingkat kepercayaan serta prediksinya yang tinggi.

"Kami membutuhkan kemampuan agar tidak hanya memiliki model yang berkinerja tinggi, tetapi juga untuk memahami ketika pengguna tidak dapat mempercayai model AI tersebut," kata ilmuwan komputer Alexander Amini dari MIT Computer Science and Artificial Intelligence Laboratory (CSAIL).

Teknologi ini diberi nama Deep Evidential Regression, dan ini mendasarkan penilaiannya pada kualitas data yang tersedia yang digunakannya, semakin akurat dan komprehensif data pelatihan, semakin besar kemungkinan prediksi di masa mendatang.akan berhasil.

Baca juga: Hoodie Ninja Punya Tudung yang Kompatibel dengan Headphone

Tim peneliti menggunakannya pada mobil self-driving yang memiliki tingkat pengambilan keputusan berbeda, apakah mobil akan langsung melanjutkan jalan melewati persimpangan atau menunggu untuk berjaga-jaga ketika jaringan saraf kurang yakin dengan prediksinya.

Tingkat kepercayaan mencakup tip untuk mendapatkan peringkat yang lebih tinggi, misalnya dengan mengutak-atik jaringan atau data masukan.

Meskipun pengamanan serupa telah dibangun ke dalam jaringan saraf sebelumnya, yang membedakannya adalah kecepatan kerjanya, tanpa tuntutan komputasi yang berlebihan dan dapat diselesaikan dalam satu kali proses jaringan, dengan tingkat kepercayaan yang langsung dikeluarkan bersamaan dengan keputusan.

"Ide ini penting dan dapat diterapkan secara luas," kata ilmuwan Daniela Rus. "Teknologi ini dapat digunakan untuk menilai produk yang bergantung pada model yang dipelajari. Dengan memperkirakan ketidakpastian model yang dipelajari, kami juga mempelajari seberapa banyak kesalahan yang mungkin terjadi pada model, dan data apa yang dapat meningkatkan model."

Baca juga: Tesla Menarik Lebih 9.500 Kendaraan Model X dan Y, Kenapa ?

Para peneliti menguji sistem baru ini untuk menilai kedalaman berbagai bagian gambar, seperti mobil yang bisa mengemudi sendiri yang dapat menilai jarak.

Jaringan dibandingkan dengan pengaturan yang ada, sambil memperkirakan ketidakpastiannya. Ketidakpastian paling sering terjadi ketika kedalamannya salah.

Jaringan juga bisa digunakan untuk menandai waktu ketika menemukan gambar yang sangat berbeda dengan data yang telah dilatih dalam situasi medis sehingga bisa meminta dokter untuk mengeceknya secara langsung.

Bahkan jika jaringan saraf memiliki akurasi sampai 99 persen, kesalahan 1 persen bisa berakibat serius, tergantung pada skenarionya.

Para peneliti mengatakan mereka yakin bahwa uji kepercayaan yang baru dan efisien dapat membantu meningkatkan keamanan secara real time.

"Kami melihat mulai banyak model jaringan saraf yang diciptakan lab penelitian sudah hadir ke dunia nyata ke dalam situasi yang bisa mengancam nyawa manusia," kata Amini.

Penelitian ini akan dipresentasikan di konferensi NeurIPS pada bulan Desember mendatang, dan makalahnya tersedia secara online yang bisa diakses di sini.

(im).

teknologi id bookmark icon

Tinggalkan Komentar

0 Komentar

Berita Menarik Lainnya

Berita Terpopuler