Manusia Tidak Dapat Mengontrol AI Super, Fenomena Ultron Dapat Terjadi?

Aji Reza Mahendra . September 26, 2022

Foto: Batamnews.com

Teknologi.id - Artificial Inteligence (AI) dalam level tinggi diprediksi akan susah dikontrol oleh manusia yang memungkinkan kemunculan 'pemberontak robot'. Mengapa demikian?

Pemberontakan AI sudah pernah diilustrasikan oleh Marvel di film Avenger: Age of Ultron melalui karakter Ultron itu sendiri. Awalnya, Ultron lahir sebagai robot yang mempunyai kecerdasan buatan (AI) hasil kreasi Iron Man Tony Stark yang dibantu oleh Bruce Banner.

Tujuan awal diciptakan Ultron adalah untuk pertahanan Bumi dari serangan 'alien'. Di dalam perjalanannya, Ultron justru menjadi musuh para Avenger karena tidak bisa dikontrol sehingga terpaksa dihancurkan.

Pertanyaannya adalah, mungkinkah kejadian seperti di film Age of Ultron dapat terjadi di dunia nyata? Dilansir dari Science Alert, manusia ternyata tidak bisa benar-benar mengontrol komputer yang menggunakan kecerdasan super.

Baca juga: Pengguna Bakal Bisa Beri Caption pada Dokumen yang Dikirim via WhatsApp

Mengontrol komputer dengan kecerdasan super butuh simulasi kecerdasan super yang dapat dianlisa dan dikontrol oleh manusia. Namun jika manusia tidak dapat memahaminya, mustahil untuk membuat simulasi tersebut.

Para ahli menyebut bahwa karena kecerdasan super itu multi-faset. Karena itu, mereka mampu memobilisasi beragam sumber daya berbeda untuk mencapai tujuan yang bisa saja tidak dapat dicerna manusia atau dikontrol.

Hal tersebut adalah masalah fundamental dan berbeda daripada yang biasa dipelajari dalam payung 'etika robot'.

Di sini lainnya, dikutip dari CNN Indonesia, Max Planck Gesellschaft mengatakan kecerdasan super yang bisa mengontrol dunia terkesan seperti cerita fiksi.

"Namun sudah ada beberapa mesin yang bekerja menyelesaikan beberapa tugas penting tanpa bisa dimengerti para pemrogram. Pertanyaan yang timbul kemudian apakah mereka bisa di titik tertentu bisa tak terkontrol dan berbahaya bagi manusia," kata Manuel Cebrian, Kepala Digital Mobilization Group di Center for Humans and Machines, Max Planck Institute for Human Development.

Baca juga: Dikritik Soal Efisiensi, Bos Google: Senang Tidak Bisa Dinilai Lewat Uang

Para ilmuwan sendiri sudah mengeksplorasi dua ide berbeda tentang mengontrol AI yang memiliki kecerdasan super. Kecerdasan AI dapat dibatasi secara spesifik dengan cara mencegah AI untuk mengakses internet dan perangkat lain sehingga AI tidak punya kontak dengan dunia luar.

Namun hal tersebut akan membuat AI tak punya kemampuan untuk menjawab masalah manusia. Di waktu yang bersamaan, AI tersebut akan termotivasi untuk mencapai tujuan yang paling baik untuk kemanusiaan misalnya dengan menginput perinsip etik ke dalamnya.

Akan tetapi para peneliti menunjukkan bahwa ide-ide tersebut atau ide kontemporer dan bersejarah lainnya untuk mengontrol AI dengan kecerdasan super punya batasannya tersendiri.

Dalam beberapa studi, tim ilmuan merumuskan secara teoretis algoritma penahan (containtment algorithm) yang memastikan AI dengan kecerdasan super tidak bisa menyakiti manusia dalam segala kondisi. Hal itu dilakukan dengan mensimulasikan perilaku AI dan menghentikannya jika menunjukan tanda-tanda bahaya.

Baca juga: Meeting Online Terasa Mudah dengan Fitur "Live Captions" Real Time Microsoft Teams

Namun, analisa yang akurat menunjukkan, dalam paradigma komputasi manusia saat ini, algoritma tersebut tidak dapat dibuat. "Jika Anda memecahkan masalahnya hingga ke peraturan dasar ilmu komputer teoretis, terlihat bahwa sebuah algoritma yang memerintahkan AI tidak menghancurkan dunia, bisa tanpa disengaja menghancurkan ia sendiri," kata Iyad Rahwan, Direktur Center for Humans and Machines, dikutip dari CNN Indonesia, (26/9).

"Jika itu terjadi, Anda tidak akan tahu apakah algoritma penahan itu masih menganalisis ancaman, atau ia telah berhenti untuk menahan ancaman AI itu sendiri. Efeknya, itu membuat algoritma penahan tak bisa digunakan," tambahnya.

Berdasarkan ujicoba itu, para ahli merasa tidak akan ada algoritma yang dapat menentukan apakah AI akan menyakiti dunia. Para ahli juga merasa waktu kedatangan AI dengan kecerdasan super belum dapat dipastikan.

(arm)

author0
teknologi id bookmark icon

Tinggalkan Komentar

0 Komentar