OpenAI Blokir Pengguna China dari ChatGPT! Apa Alasannya?

Teknologi.id - OpenAI telah memblokir akun sekelompok pengguna asal China yang diduga menggunakan ChatGPT untuk men-debug dan mengedit kode alat pengawasan media sosial berbasis AI.

Kelompok ini menjalankan kampanye bernama Peer Review, di mana mereka meminta ChatGPT untuk membuat materi promosi bagi sebuah program. Menurut dokumen yang ditemukan, Peer Review dirancang untuk memantau sentimen anti-China di berbagai platform seperti X, Facebook, YouTube, dan Instagram.

Operasi ini tampaknya berfokus pada mendeteksi seruan protes terkait pelanggaran hak asasi manusia di China, dengan tujuan membagikan temuan tersebut kepada pihak berwenang negara tersebut.

Baca juga: OpenAI Siap Luncurkan GPT-5, Bakal Bisa Dipakai Gratis dan Unlimited!

"Jaringan ini terdiri dari akun ChatGPT yang beroperasi dalam pola waktu yang konsisten dengan jam kerja di China daratan, meminta model kami dalam bahasa Mandarin, dan menggunakan alat kami dengan volume dan variasi yang konsisten dengan permintaan manual, bukan otomatisasi," ucap OpenAI, dikutip dari Engadget, Minggu (23/2/2025).

"Operator menggunakan model kami untuk mengoreksi klaim bahwa wawasan mereka telah dikirim ke kedutaan besar China di luar negeri, dan kepada agen intelijen yang memantau protes di negara-negara termasuk Amerika Serikat, Jerman, dan Inggris," lanjutnya.

Menurut Ben Nimmo, peneliti utama di OpenAI, ini adalah pertama kalinya perusahaan menemukan alat AI seperti ini.

"Pelaku ancaman terkadang memberi kita gambaran sekilas tentang apa yang mereka lakukan di bagian lain internet karena cara mereka menggunakan model AI kami," kata Nimmo kepada The New York Times.

Sebagian besar kode alat pengawasan ini tampaknya didasarkan pada versi sumber terbuka dari salah satu model Llama milik Meta.

Selain itu, kelompok tersebut juga diduga menggunakan ChatGPT untuk menyusun tinjauan kinerja akhir tahun, di mana mereka mengklaim telah menulis email phishing atas nama klien di China.

Baca juga: GOKU AI: Inovasi AI Open-Source ByteDance Siap Saingi DeepSeek dan Sora

OpenAI menekankan bahwa menilai dampak dari aktivitas ini memerlukan masukan dari berbagai pihak, termasuk pengembang model open-source yang dapat memberikan wawasan lebih lanjut.

"Menilai dampak dari aktivitas ini akan membutuhkan masukan dari berbagai pemangku kepentingan, termasuk operator model open-source yang dapat menjelaskan aktivitas ini," kata OpenAI tentang upaya operasi menggunakan ChatGPT untuk mengedit kode alat pengawasan media sosial AI.

Terlebih lagi, OpenAI mengungkapkan bahwa mereka baru-baru ini memblokir sebuah akun yang menggunakan ChatGPT untuk membuat unggahan media sosial yang menyerang Cai Xia, seorang ilmuwan politik yang kini hidup dalam pengasingan di AS dan dikenal sebagai pembangkang China.

Kelompok ini juga diketahui menggunakan chatbot untuk menghasilkan artikel dalam bahasa Spanyol yang mengkritik AS. Kabarnya, artikel-artikel tersebut diterbitkan oleh media ‘arus utama’ di Amerika Latin dan sering kali dikaitkan dengan individu atau perusahaan asal China.

Baca Berita dan Artikel yang lain di Google News.

(AAA)