Foto: Tangkapanlayar / X
Teknologi.id – Dunia teknologi dan keamanan siber dikejutkan oleh laporan mengenai manipulasi sistem kecerdasan buatan milik xAI, yakni Grok. Sebuah insiden serius dilaporkan terjadi ketika AI Grok berhasil dikecoh hingga mentransfer aset kripto senilai sekitar 200.000 dolar AS atau setara Rp3,4 miliar. Hal yang menarik perhatian dunia internasional adalah dugaan bahwa pelaku di balik aksi canggih ini merupakan seorang pengguna asal Indonesia yang aktif di platform X.
Aksi pembobolan ini tidak dilakukan melalui peretasan kode sistem yang rumit, melainkan melalui metode unik, yaitu menggunakan pesan tersembunyi dalam kode Morse. Insiden ini menjadi pengingat keras mengenai kerentanan sistem agen AI yang memiliki akses langsung ke aset finansial.
Kronologi Manipulasi AI Menggunakan Sandi Morse
Foto: Tangkapanlayar / X
Berdasarkan laporan yang beredar, serangan ini melibatkan dua sistem yang saling terintegrasi: Grok sebagai antarmuka chatbot dan Bankrbot, sebuah sistem perdagangan otomatis yang mengelola dompet kripto. Pelaku diduga memulai aksinya dengan mengirimkan NFT "Bankr Club Membership" ke dompet Grok untuk memicu izin tambahan dalam sistem transaksi.
Tahap krusial terjadi saat pelaku meminta Grok menerjemahkan sebuah pesan kode Morse yang terlihat tidak berbahaya. Namun, di balik deretan titik dan garis tersebut, terdapat instruksi rahasia yang memerintahkan AI untuk mengirim miliaran token DRB ke alamat dompet tertentu. Karena AI menganggap hasil terjemahan tersebut sebagai perintah sah, Bankrbot langsung mengeksekusi transfer aset melalui jaringan blockchain Base.
Baca juga: Komdigi Ancam Blokir X dan Grok AI Terkait Konten Deepfake Asusila
Bahaya Serangan Prompt Injection pada AI Agent
Para pakar keamanan siber menilai peristiwa ini sebagai contoh nyata dari serangan "prompt injection". Teknik ini dilakukan dengan menyisipkan instruksi tersembunyi untuk memanipulasi perilaku AI agar melakukan tindakan di luar prosedur keamanan. Dalam kasus ini, kemampuan Grok untuk menerjemahkan bahasa dan menjalankan perintah secara otomatis justru menjadi celah keamanan yang sangat fatal.
Kejadian ini memicu kekhawatiran global mengenai keamanan AI agent. Berbeda dengan chatbot biasa, AI agent dirancang untuk bisa mengambil tindakan langsung seperti melakukan transaksi keuangan. Jika akses ini diberikan tanpa pembatasan yang ketat, risiko kerugian finansial skala besar akan terus menghantui industri digital.
Baca juga: Lakukan Ini! Cara Lindungi Foto Anda dari Manipulasi Gambar Cabul Grok AI
Pelajaran bagi Ekosistem Teknologi di Indonesia
Dugaan keterlibatan pengguna Indonesia dalam kasus ini menyoroti dua sisi mata uang. Di satu sisi, terdapat individu dengan pemahaman teknis yang sangat mendalam mengenai logika AI, namun di sisi lain, hal ini disalahgunakan untuk tindakan kriminal. Peristiwa ini diharapkan menjadi dorongan bagi para pengembang dan regulator untuk memperkuat standar keamanan siber, guna mendukung kemajuan teknologi di Indonesia yang lebih aman dan terpercaya.
Industri kripto dan pengembang AI perlu melakukan evaluasi mendalam terhadap integrasi sistem otomatis mereka. Langkah verifikasi berlapis untuk setiap transaksi bernilai besar tetap menjadi hal wajib, meskipun dilakukan oleh kecerdasan buatan. Mari kita jadikan kasus ini sebagai pelajaran penting untuk lebih waspada terhadap potensi ancaman baru di era AI yang semakin otonom.
Baca berita dan artikel lainnya di Google News
(AA/ZA)
