Download Teknologi App
Teknologi.id - Dalam langkah yang inovatif, Google DeepMind telah meluncurkan alat watermark terbaru yang diberi nama SynthID. Alat ini awalnya hanya akan tersedia bagi pengguna pembuat gambar AI Imagen milik Google, yang dihosting di platform pembelajaran mesin Google Cloud, Vertex.
Pengguna akan dapat menghasilkan gambar menggunakan Imagen dan memutuskan apakah akan menambahkan watermark atau tidak. Harapannya adalah alat ini dapat membantu orang untuk mengetahui kapan konten yang dihasilkan oleh AI disajikan seolah-olah asli, atau membantu melindungi hak cipta.
Dalam setahun terakhir, popularitas besar dari model AI generatif juga membawa bersamanya penyebaran deepfake yang dihasilkan oleh AI, pornografi tanpa persetujuan, dan pelanggaran hak cipta. Watermarking, sebuah teknik di mana sinyal disembunyikan dalam teks atau gambar untuk mengidentifikasinya sebagai karya AI, telah menjadi salah satu ide paling populer yang diusulkan untuk mengendalikan dampak buruk tersebut.
Pada bulan Juli, Gedung Putih mengumumkan bahwa mereka telah mendapatkan komitmen sukarela dari perusahaan-perusahaan AI terkemuka seperti OpenAI, Google, dan Meta untuk mengembangkan alat watermark sebagai upaya untuk memerangi penyebaran informasi palsu dan penyalahgunaan konten yang dihasilkan oleh AI.
Pada konferensi tahunan Google I/O di bulan Mei, CEO Sundar Pichai mengungkapkan bahwa perusahaan ini sedang membangun model-modelnya untuk mencakup watermarking dan teknik lainnya sejak awal. Google DeepMind kini menjadi perusahaan Big Tech pertama yang secara publik meluncurkan alat semacam ini.
Foto by: MIT Technology Review
Secara tradisional, gambar-gambar diberi watermark dengan menambahkan tampilan tambahan yang terlihat pada gambar tersebut, atau dengan menambahkan informasi ke dalam metadata gambar. Namun metode ini dianggap "rapuh" karena watermark dapat hilang saat gambar dipotong, diubah ukurannya, atau diedit, demikian menurut Pushmeet Kohli, Wakil Presiden Riset di Google DeepMind.
SynthID diciptakan menggunakan dua jaringan saraf. Satu jaringan mengambil gambar asli dan menghasilkan gambar lain yang terlihat hampir identik, tetapi dengan beberapa piksel yang halus diubah. Hal ini menciptakan pola yang tertanam dan tidak terlihat oleh mata manusia. Jaringan saraf kedua dapat mendeteksi pola tersebut dan akan memberi tahu pengguna apakah ia mendeteksi watermark, mencurigai gambar memiliki watermark, atau menemukan bahwa gambar tersebut tidak memiliki watermark. Kohli menjelaskan bahwa SynthID dirancang sedemikian rupa sehingga watermark masih dapat terdeteksi bahkan jika gambar difoto layar atau diedit, misalnya dengan memutar atau mengubah ukuran gambar.
Baca Juga: Microsoft Hadirkan Alat Desain AI Gratis ke Sidebar Edge
Namun, Google DeepMind bukan satu-satunya yang bekerja pada metode watermark semacam ini. Ben Zhao, seorang profesor di Universitas Chicago yang telah bekerja pada sistem untuk mencegah gambar para seniman diambil oleh sistem AI, menyatakan bahwa metode serupa sudah ada dan digunakan dalam pembuat gambar AI sumber terbuka, Stable Diffusion. Meta juga telah melakukan penelitian tentang watermark, meskipun belum meluncurkan alat watermark publik apapun.
Kohli mengklaim bahwa watermark dari Google DeepMind lebih tahan terhadap manipulasi dibandingkan upaya-upaya sebelumnya dalam menciptakan watermark untuk gambar, meskipun belum sepenuhnya imun.
Namun, Zhao skeptis. "Hampir tidak ada watermark yang terbukti kuat dalam jangka waktu yang lama," katanya. Penelitian awal tentang watermark untuk teks telah menemukan bahwa watermark tersebut mudah dipecahkan, biasanya dalam beberapa bulan.
Para pelaku jahat memiliki kepentingan dalam merusak watermark, tambahnya, misalnya untuk mengklaim bahwa konten deepfake adalah bukti fotografi nyata dari suatu kejadian atau kejadian yang tidak ada.
Namun demikian, peluncuran Google DeepMind adalah langkah awal yang baik dan bisa memimpin kepada berbagi informasi yang lebih baik dalam bidang ini tentang teknik mana yang berhasil dan mana yang tidak, menurut Claire Leibowicz, Kepala Program Kecerdasan Buatan dan Integritas Media di Partnership on AI.
"Kenyataan bahwa ini sangat rumit seharusnya tidak membuat kita berhenti untuk tidak melakukan apa-apa," katanya.
Kohli mengatakan kepada MIT Technology Review bahwa alat watermark ini "eksperimental" dan mengatakan bahwa perusahaan ingin melihat bagaimana orang menggunakannya dan memahami kelebihan dan kelemahannya sebelum meluncurkannya lebih luas. Ia menolak untuk mengatakan apakah Google DeepMind mungkin akan membuat alat ini lebih luas digunakan untuk gambar-gambar selain yang dihasilkan oleh Imagen. Ia juga tidak mengatakan apakah Google akan menambahkan watermark ke sistem pembuatan gambar AI-nya.
Baca Juga: Google Bikin AI yang Bisa Kasih Nasihat Seperti Teman Curhat
Hal ini membatasi kegunaannya, menurut Sasha Luccioni, seorang peneliti AI di startup Hugging Face. Keputusan Google untuk menjaga alat ini sebagai milik perusahaan berarti hanya Google yang akan dapat menyematkan dan mendeteksi watermark ini.
"Jika anda menambahkan komponen watermark ke sistem pembuatan gambar secara luas, risiko kerusakan seperti konten deepfake pornografi dapat berkurang," kata Luccioni.
Dengan meluncurkan SynthID, Google DeepMind telah memberikan kontribusi berharga dalam upaya untuk mengendalikan dampak buruk yang dihasilkan oleh konten AI generatif. Langkah ini menggarisbawahi pentingnya pengembangan teknik-teknik baru untuk melindungi integritas visual dalam era di mana AI semakin berkembang pesat. Meskipun masih ada tantangan yang perlu diatasi dalam hal keamanan dan ketahanan watermark, langkah ini merupakan langkah awal yang menjanjikan dalam menciptakan ekosistem digital yang lebih aman dan terpercaya.
Baca berita dan artikel lainnya di Google News.
(law)
Tinggalkan Komentar