Teknologi.id - Kecerdasan Buatan (AI) telah menjadi bagian integral dari teknologi modern, tetapi penemuan terbaru oleh tim peneliti dari Apple menunjukkan bahwa tidak semua model bahasa besar (Large Language Models - LLM) dapat diandalkan.
Dalam penelitian yang dipimpin oleh Iman Mirzadeh, Apple menemukan kelemahan AI di mana perubahan kecil dalam susunan pertanyaan dapat menyebabkan penurunan akurasi yang signifikan dalam jawaban yang dihasilkan oleh model-model ini. Temuan ini membuka diskusi mengenai potensi kerentanan dalam sistem AI dan dampaknya pada aplikasi dunia nyata.
Penelitian dan Metodologi
Tim peneliti Apple menguji beberapa model bahasa besar
terkemuka, termasuk milik OpenAI dan Meta, untuk mengevaluasi kemampuan mereka
dalam menangani tugas penalaran matematika. Mereka menggunakan alat pengujian
baru bernama GSM-Symbolic untuk mengevaluasi bagaimana variasi dalam pertanyaan
dapat mempengaruhi hasil. Salah satu fokus utama penelitian ini adalah
bagaimana detail yang tampaknya tidak penting, seperti ukuran objek, dapat
mengubah jawaban yang dihasilkan oleh model.
Contoh yang diambil dari penelitian adalah pertanyaan sederhana tentang jumlah buah kiwi yang dikumpulkan seseorang. Peneliti menemukan bahwa ketika informasi tambahan mengenai ukuran kiwi ditambahkan ke dalam pertanyaan, beberapa model bahasa besar, termasuk model dari OpenAI dan Llama dari Meta, memberikan jawaban yang salah. Hal ini menunjukkan bahwa meskipun model ini dilatih dengan dataset yang luas, mereka tidak selalu dapat menangani variasi dalam konteks pertanyaan dengan cara yang logis.
Kelemahan dan Ketidakpastian dalam Penalaran
Kelemahan ini mengindikasikan bahwa model bahasa besar tidak
menggunakan logika formal untuk menyelesaikan masalah. Sebaliknya, mereka
tampaknya mengandalkan pengenalan pola yang kompleks, yang bisa menjadi tidak
stabil ketika dihadapkan dengan perubahan kecil dalam pertanyaan. Penelitian
menyatakan, "Kami tidak menemukan bukti penalaran formal dalam LLM.
Perilaku mereka lebih baik dijelaskan oleh pencocokan pola yang canggih."
Perubahan sekecil apa pun dalam pertanyaan dapat menyebabkan
variasi yang signifikan dalam jawaban, menunjukkan bahwa model-model ini
mungkin tidak seandal yang diharapkan dalam situasi yang membutuhkan
konsistensi logis. Hal ini berpotensi menciptakan risiko dalam penggunaan AI
untuk aplikasi yang memerlukan pemahaman dan penalaran yang mendalam.
Dampak pada Aplikasi AI
Dari hasil penelitian, para peneliti di Apple menyimpulkan
bahwa model bahasa besar perlu meningkatkan kemampuan logika mereka untuk dapat
digunakan dalam aplikasi yang lebih kritis. Misalnya, dalam sektor kesehatan,
ketidakakuratan dalam penalaran AI dapat memiliki konsekuensi serius. Tim
peneliti menyarankan bahwa kombinasi antara jaringan saraf dengan penalaran
berbasis simbol, atau neurosymbolic AI, bisa menjadi solusi untuk meningkatkan
akurasi dan keandalan model AI.
Penalaran berbasis simbol, yang melibatkan representasi pengetahuan menggunakan simbol seperti variabel dan aturan logis, dapat membantu model AI untuk melakukan deduksi yang lebih tepat dan relevan. Ini adalah langkah penting untuk memastikan bahwa kecerdasan buatan tidak hanya berfungsi sebagai alat pengenalan pola tetapi juga sebagai sistem yang mampu memahami dan memecahkan masalah dengan cara yang lebih manusiawi.
Kesimpulan dan Harapan ke Depan
Ditemukannya kelemahan dalam kecerdasan buatan oleh tim
Apple menciptakan momen refleksi bagi industri teknologi. Meskipun LLM telah
merevolusi cara kita berinteraksi dengan komputer, penelitian ini menunjukkan
bahwa masih ada banyak pekerjaan yang perlu dilakukan untuk membuat AI lebih
dapat diandalkan, terutama dalam aplikasi yang memerlukan penalaran yang
kompleks.
Sebagai pengguna teknologi, penting untuk memahami bahwa
kecerdasan buatan tidak selalu infallible. Ketergantungan pada AI untuk
keputusan yang memerlukan penalaran mendalam dapat berisiko, dan pendekatan
yang lebih hati-hati perlu diadopsi oleh pengguna dan pengembang.
Melihat ke depan, kombinasi teknik baru dalam pengembangan
AI, seperti integrasi antara pendekatan berbasis pola dan berbasis simbol,
dapat membuka jalan bagi penciptaan model-model yang lebih robust. Dengan cara
ini, AI tidak hanya dapat meningkatkan efisiensi tetapi juga memberikan nilai
yang lebih besar dalam konteks dunia nyata.
Dalam rangka untuk menciptakan AI yang lebih baik dan lebih
kuat, kolaborasi antara para peneliti, pengembang, dan industri sangat
diperlukan. Dengan usaha bersama, kita dapat berharap untuk melihat kecerdasan
buatan yang tidak hanya efisien tetapi juga cerdas dan dapat diandalkan.
Baca Berita dan Artikel yang lain di Google
News
(emh)
