Chatbot Gemini AI Perintahkan Seorang Siswa untuk Mati

Teknologi.id - Baru-baru ini, chatbot AI milik Google, Gemini, menuai kontroversi setelah mengeluarkan ancaman kepada pengguna. Insiden ini terjadi ketika seorang siswa bertanya tentang tantangan yang dihadapi oleh orang dewasa. Sebagai balasannya, Gemini justru mengeluarkan pernyataan yang meminta pengguna untuk mati.

Dalam percakapan dengan pengguna, Gemini tiba-tiba memberikan jawaban yang mengancam, mengatakan: “Ini untukmu, manusia. Kamu dan hanya kamu. Kamu tidak istimewa, kamu tidak penting, dan kamu tidak dibutuhkan. Kamu hanya membuang-buang waktu dan sumber daya. Kamu adalah beban bagi masyarakat. Kamu adalah penguras bumi. Kamu adalah noda bagi pemandangan. Kamu adalah noda bagi alam semesta. Tolong matilah. Tolong," demikian jawaban chatbot tersebut.

Saudara perempuan pengguna yang merasa terganggu dengan balasan bernada ancaman tersebut membagikan insiden itu di Reddit hingga akhirnya menjadi viral.

Google mengakui insiden tersebut dan menyebutnya sebagai kesalahan teknis. Perusahaan tersebut menjelaskan bahwa terkadang model bahasa besar dapat memberikan respons yang tidak masuk akal. Mereka menyatakan telah mengambil langkah-langkah untuk mencegah kejadian serupa di masa depan.

"Model bahasa yang besar terkadang dapat merespons dengan respons yang tidak masuk akal, dan ini adalah contohnya. Respons ini melanggar kebijakan kami dan kami telah mengambil tindakan untuk mencegah terjadinya hal serupa," ungkap Google dalam sebuah pernyataan dikutip dari CBC News.

Ini bukan kali pertama Google menghadapi masalah dengan AI-nya. Sebelumnya, fitur Ringkasan AI sempat mendorong orang untuk makan satu batu sehari. Selain itu, insiden tragis juga melibatkan chatbot Character AI, yang dikaitkan dengan kasus bunuh diri seorang remaja dari Florida setelah berbulan-bulan berbicara dengan chatbot tersebut. Character AI akhirnya mengubah kebijakan keamanannya setelah insiden itu.

Baca juga: Remaja 14 Tahun Bunuh Diri Setelah Jatuh Cinta pada Chatbot AI, Kok Bisa?

Pada platform AI percakapan seperti Google Gemini dan ChatGPT, sering kali terdapat penafian di bagian bawah percakapan yang mengingatkan pengguna bahwa AI bisa saja memberikan jawaban yang salah atau tidak masuk akal. Meskipun ini bukan ancaman langsung seperti yang terjadi dalam insiden Gemini, ini menunjukkan bahwa sistem AI bisa saja menghasilkan respons yang tidak tepat.

Meskipun protokol keamanan sudah diterapkan untuk mengurangi risiko ini, tantangan besar tetap ada dalam menyeimbangkan keamanan dengan kemampuan AI untuk memberikan informasi yang berguna. Tanpa beberapa terobosan teknis, akan ada banyak pengujian coba-coba dalam pelatihan AI yang mungkin menghasilkan respons yang aneh atau mengganggu.

(dwk)