Download Teknologi App
Teknologi.id - Pengguna kecerdasan buatan (AI) harus menggunakan ChatGPT dengan bijak, OpenAI mulai siapkan watermark dan sistem pendeteksi tulisan yang dibuat oleh ChatGPT.
Dalam laporan Wall Street Journal yang ditulis pada Minggu (4/8), perusahaan OpenAI telah mengembangkan sistem yang dapat memberikan watermark pada karya tulisan yang dibuat melalui ChatGPT.
Watermark pada ChatGPT memiliki cara kerja yang serupa dengan watermark yang sering ditemukan dalam gambar atau foto milik seseorang atau perusahaan. Tanda ini menjadi bukti bahwa karya tulisan yang tertera merupakan hasil ChatGPT.
Melalui watermark, OpenAI hanya berfokus dalam mendeteksi tulisan dari ChatGPT. Terdapat perbedaan kecil dari ChatGPT dalam memilih kata untuk menciptakan watermark tidak terlihat yang nantinya bisa dideteksi oleh alat terpisah.
Baca juga: Microsoft Sebut OpenAI sebagai "Pesaing" dalam Laporan SEC Terbaru
Pihak OpenAI sendiri saat ini masih menimbang untuk meluncurkan fitur watermark. Disamping itu, metode ini menuai pro dan kontra dari berbagai pihak.
Mengutip dari TechCrunch, seorang perwakilan OpenAI mengakui adanya risiko penting dari sistem watermark tersebut.
“The text watermarking method we’re developing is technically promising, but has important risks we’re weighing while we research alternatives, including susceptibility to circumvention by bad actors and the potential to disproportionately impact groups like non-English speakers,”
(Pemberian watermark pada teks yang kami kembangkan memang menjanjikan secara teknis, tapi memiliki risiki penting yang sedang kami pertimbangkan sembari mencari alternatif, termasuk kerentanan terhadap penipuan oleh pelaku kejahatan dan dampak yang tidak proporsional terhadap kelompok, seperti penutur bahasa asing)
Namun, sisi positif dari pemberian watermark tidak kalah pentingnya. Melalui unggahan OpenAI di blog pada bulan Mei tentang penelitian terkait pendeteksi konten, watermark terbukti sangat akurat dan efektif melawan pemalsuan, termasuk parafrase. Namun, kegunaannnya tidak terlalu signifikan dalam pemalsuan yang lebih besar tapi, seperti menggunakan sistem terjemahan, mengubah kata dengan model generatif lain, atau meminta model untuk menyisipkan karakter khusus di antara setiap kata dan kemudian menghapus karakter tersebut.
Kesimpulan yang diberikan oleh OpenAI yaitu metode ini mudah dihindari oleh para pelaku kejahatan.
Baca juga: Induk ChatGPT, OpenAI Diprediksi Terancam Bangkrut Tahun Ini
Selain watermark, OpenAI juga telah mengembangkan berbagai penelitian untuk mendeteksi teks AI. Sistem tersebut bekerja secara terpisah, yang dapat mendeteksi tulisan AI dengan watermark.
Penelitian selanjutnya adalah solusi lain untuk mengidentifikasi teks AI melalui pengklasifikasian dan metadata. Sistem ini menggunakan algoritma yang dapat mendeteksi pola dari teks yang dihasilkan AI. Melalui metadata, ChatGPT juga dapat memberikan informasi tentang asal teks dalam file yang diberikan.
Pihak OpenAI memilih untuk berhati-hati dalam membuat keputusan dari peluncuran sistem yang dapat mendeteksi tulisan dari AI dengan kompleksitas yang terlibat serta dampak yang mungkin terjadi pada ekosistem yang lebih luas di luar OpenAI.
Baca Berita dan Artikel yang lain di Google News
Tinggalkan Komentar