Download Teknologi App
Teknologi.id - Perkembangan teknologi, terutama dalam beberapa tahun terakhir, telah menimbulkan berbagai pro dan kontra di kalangan masyarakat. Salah satu inovasi yang paling mencolok adalah kemajuan pesat dalam bidang kecerdasan buatan (AI). Meskipun teknologi ini menawarkan banyak manfaat, banyak ahli khawatir akan potensi risiko yang mungkin timbul, terutama terkait dengan munculnya Artificial General Intelligence (AGI), sebuah sistem AI yang dapat beroperasi secara mandiri tanpa campur tangan manusia.
Dilansir dari CNN Indonesia, Michael Wade, Direktur Global Center for Digital Business Transformation di IMD, mengidentifikasi empat fase risiko yang ditimbulkan oleh AGI: risiko rendah, sedang, tinggi, dan kritis. Menurut Wade, saat ini dunia mulai bergerak menuju fase risiko tinggi.
Wade menjelaskan bahwa perkembangan AGI saat ini berada di ambang perubahan dari fase risiko sedang menuju fase risiko tinggi. Jika sistem ini mencapai titik kritis dan tidak bisa dikendalikan, akibatnya bisa sangat berbahaya bagi umat manusia. Meskipun risikonya besar, ia menegaskan masih ada waktu untuk mencegah hal-hal buruk terjadi. Menurutnya, regulasi yang efektif dan terkoordinasi dapat menekan risiko AGI tanpa mengurangi manfaat yang dihasilkan oleh teknologi tersebut.
Baca juga: Viral Tren "How I would look like in the 1930's", Begini Cara Bikinnya Pakai CapCut
Risiko yang Dihadapi Dunia Jika AGI Lepas Kendali
Wade menggarisbawahi bahwa risiko yang dihadapi dunia jika AGI lepas kendali mencakup beberapa skenario mengkhawatirkan. Misalnya, AI yang mengambil alih pengendalian senjata nuklir, biologis, atau kimia dapat menjadi ancaman serius. China saat ini juga tengah mempercepat komersialisasi robot humanoid yang sudah diterapkan pada infrastruktur sensitif, seperti jaringan listrik dan pembangkit listrik tenaga nuklir. Lebih jauh lagi, AI tanpa regulasi berpotensi digunakan untuk mengganggu pasar keuangan, infrastruktur vital seperti transportasi dan energi, serta manipulasi sistem politik dan sosial. Bahkan, AI bisa menjadi ancaman langsung bagi kehidupan manusia.
Urgensi Regulasi Kecerdasan Buatan
Sejumlah tokoh penting dalam pengembangan AI telah mengakui urgensi regulasi untuk teknologi ini. Yoshua Bengio, yang dikenal sebagai 'Godfather' AI, mengutarakan kekhawatirannya bahwa teknologi ini dapat menimbulkan kerusakan besar pada tatanan sosial serta risiko yang belum dapat diantisipasi sepenuhnya. Ia menyebutkan bahwa risiko tersebut bukanlah fiksi ilmiah, melainkan kenyataan yang sudah kita hadapi. Contohnya, AI telah digunakan dalam kampanye politik di Amerika Serikat, dan dampaknya akan semakin memburuk seiring waktu.
Penelitian terbaru menunjukkan bahwa model seperti ChatGPT-4, yang dikembangkan oleh OpenAI, memiliki kemampuan persuasi yang lebih unggul dibandingkan manusia. Bahkan ada indikasi bahwa sistem ini dapat disalahgunakan oleh teroris. Bengio mengkhawatirkan bahwa jika superintelligence, yakni kecerdasan yang melampaui kemampuan manusia, tercapai, ada dua risiko besar yang muncul: hilangnya kendali manusia dan keinginan mesin untuk mempertahankan diri, yang bisa berujung pada kehancuran umat manusia.
Baca juga: Mahasiswa Harvard Ubah Kacamata Meta Jadi Alat Doxing: Inovasi Pengancam Privasi
Bengio juga memperingatkan bahwa AI dapat dimanfaatkan oleh para diktator untuk mengendalikan populasi secara global. Oleh sebab itu, ia menekankan pentingnya adanya regulasi yang jelas dan kuat terkait penggunaan AI. Namun, sejumlah pihak dalam industri teknologi AI menentang gagasan regulasi tersebut, berpendapat bahwa hal itu hanya akan memperlambat inovasi.
Bengio tidak setuju dengan pandangan ini. Menurutnya, regulasi tidak harus menghambat inovasi, melainkan bisa diarahkan untuk menciptakan teknologi yang bermanfaat bagi masyarakat dan ekonomi. Dia menambahkan bahwa hampir setiap aspek kehidupan manusia, mulai dari makanan hingga transportasi, diatur oleh regulasi, dan hal tersebut terbukti mengurangi risiko kecelakaan atau dampak negatif lainnya. Oleh karena itu, regulasi AI sangat diperlukan untuk memastikan teknologi ini berkembang dengan cara yang aman dan bermanfaat bagi semua orang.
Baca Berita dan Artikel yang lain di Google News.
(mha)
Tinggalkan Komentar