Foto: Illustration via Reuters
Teknologi.id – Ketegangan antara Pemerintah Indonesia dengan raksasa teknologi dunia kembali memuncak di awal tahun 2026. Kementerian Komunikasi dan Digital (Komdigi) secara mengejutkan mengumumkan pemutusan akses sementara terhadap Grok AI, layanan kecerdasan buatan terintegrasi milik Elon Musk yang bernaung di bawah platform X (dahulu Twitter). Langkah drastis ini diambil setelah pemerintah menemukan bukti kuat bahwa teknologi generatif milik Grok dapat disalahgunakan secara masif untuk menciptakan konten pornografi berbasis manipulasi wajah atau deepfake yang menyasar warga negara Indonesia.
Keputusan ini tidak diambil secara mendadak. Berdasarkan pantauan otoritas digital nasional, terjadi lonjakan laporan dari masyarakat mengenai penyebaran foto-foto syur hasil rekayasa AI yang terlihat sangat nyata. Pemerintah memandang bahwa kegagalan Grok AI dalam memberikan batasan teknis yang ketat terhadap pembuatan konten seksual non-konsensual merupakan pelanggaran serius yang mengancam martabat dan keamanan ruang digital nasional.
Alasan Utama: Ancaman Deepfake Seksual Non-Konsensual
Dalam keterangan resminya pada Sabtu (10/1/2026), Komdigi menyatakan bahwa pemutusan akses ini merupakan bentuk perlindungan terhadap hak asasi manusia dan privasi warga negara. Isu utama yang menjadi sorotan adalah kemampuan Grok AI dalam mengolah foto nyata menjadi konten pornografi hanya dengan perintah teks sederhana. Yang lebih mengkhawatirkan, platform ini dinilai belum memiliki algoritma "pagar pembatas" (guardrails) yang cukup cerdas untuk mengenali dan menolak permintaan pembuatan konten asusila yang melibatkan individu tanpa persetujuan mereka.
Baca juga: Grok Imagine Rilis! AI Baru Elon Musk Bikin Gambar & Video 15 Detik, Plus Spicy Mode
Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, mengungkapkan bahwa temuan awal tim siber Komdigi menunjukkan adanya celah keamanan yang sangat lebar pada Grok AI. "Kami menemukan bahwa Grok AI belum memiliki pengaturan spesifik untuk mencegah produksi dan distribusi konten pornografi berbasis foto nyata warga Indonesia secara eksplisit. Hal ini sangat berisiko menciptakan pelanggaran privasi dan merusak citra diri seseorang melalui manipulasi digital yang sulit dibedakan dari aslinya," tegas Alexander. Pemerintah menegaskan bahwa teknologi AI seharusnya menjadi alat kemajuan, bukan senjata untuk pelecehan seksual digital.
Landasan Hukum: Kepatuhan PSE Lingkup Privat
Langkah pemblokiran ini didasarkan pada kewenangan hukum yang kuat, yakni Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat. Pasal 9 dalam peraturan tersebut mewajibkan setiap PSE untuk memastikan bahwa platform mereka tidak memuat atau memfasilitasi penyebaran konten yang melanggar hukum, termasuk pornografi dan pelanggaran kesusilaan.
Komdigi menilai bahwa Elon Musk dan tim pengembang di xAI belum memenuhi kewajiban tersebut bagi pasar Indonesia. Pemutusan akses ini bersifat sementara hingga Grok AI dapat membuktikan adanya perubahan signifikan pada sistem filter konten mereka. Pemerintah menuntut adanya lokalisasi proteksi, di mana AI tersebut harus mampu mengenali konteks sensitivitas budaya dan hukum di Indonesia, terutama yang berkaitan dengan perlindungan martabat perempuan dan anak dari kejahatan deepfake.
Baca juga: Lakukan Ini! Cara Lindungi Foto Anda dari Manipulasi Gambar Cabul Grok AI
Dampak dan Reaksi Global
Pemblokiran Grok AI di Indonesia menambah panjang daftar hambatan hukum yang dihadapi Elon Musk secara global. Sebelumnya, Grok juga sempat mendapatkan sorotan tajam dan ancaman blokir di Inggris serta beberapa negara Uni Eropa dengan alasan serupa: pelanggaran privasi dan kurangnya transparansi data.
Di Indonesia sendiri, keputusan Komdigi menuai reaksi beragam. Sebagian besar aktivis perlindungan perempuan dan pakar keamanan siber memberikan apresiasi tinggi, mengingat dampak psikologis dan sosial dari korban deepfake seringkali bersifat permanen. Namun, di sisi lain, komunitas pengembang AI dan pengguna X di Indonesia merasa dirugikan karena kehilangan akses terhadap salah satu asisten AI yang dianggap paling progresif saat ini. Meski demikian, pemerintah tetap pada pendiriannya bahwa inovasi teknologi tidak boleh mengabaikan standar etika dan hukum yang berlaku di tanah air.
Foto: Associated Press
Menuju Ekosistem AI yang Bertanggung Jawab
Kasus pemblokiran Grok AI menjadi peringatan keras bagi pengembang teknologi kecerdasan buatan lainnya yang beroperasi di Indonesia, seperti OpenAI (ChatGPT) dan Google (Gemini). Pemerintah Indonesia memberikan sinyal bahwa mereka tidak akan segan-segan menghentikan operasional platform manapun, terlepas dari seberapa besar nama pemiliknya, jika platform tersebut membiarkan celah bagi kejahatan digital tumbuh subur.
Komdigi menyatakan bahwa akses terhadap Grok AI dapat segera dibuka kembali jika pihak xAI bersedia melakukan audiensi dan mengimplementasikan filter konten yang memadai sesuai standar hukum Indonesia. Hingga saat itu tiba, para pengguna internet di tanah air diharapkan tetap waspada terhadap bahaya deepfake dan terus mendukung terciptanya ruang digital yang aman, sehat, dan beretika. Tahun 2026 tampaknya akan menjadi tahun penentuan bagi kedaulatan digital Indonesia di tengah gempuran revolusi AI global.
Baca berita dan artikel lainnya di Google News
