![Teknologi Baru dari MIT yang Bisa Cegah Foto Kamu Dimanipulasi oleh AI](https://berita.teknologi.id/images/?path=https://wp.technologyreview.com/wp-content/uploads/2023/07/230724_MaliciousAI.jpg?fit=2252,1266&size=720x400)
Foto: MIT
Teknologi.id - Di era digital saat ini, kemajuan pesat di bidang kecerdasan buatan (AI) telah membuka pintu untuk berbagai kemungkinan, termasuk memanipulasi gambar dengan teknologi deepfake yang semakin canggih. Kini mengubah wajah seseorang dalam video, menciptakan foto palsu, dan menyebarkan informasi palsu menjadi lebih mudah berkat algoritma AI yang cerdas.
Namun, hal ini tentu akan membawa dampak negatif yang serius jika digunakan dengan tidak bijak, seperti penyebaran berita palsu, penggunaan gambar manipulatif dalam tujuan buruk, bahkan hingga potensi pencurian identitas. Dalam menghadapi kemajuan teknologi kecerdasan buatan (AI), para pengembang AI harus berupaya untuk melindungi seni digital dari ancaman manipulasi yang mungkin terjadi.
Baca juga: Transformasi Ruang Tamu Impian dengan Decorify dari Wayfair Berbasis AI - Teknologi
PhotoGuard, Alat Teknologi Baru untuk Cegah Foto Dimanipulasi AI Foto
Seni digital telah menjadi bagian integral dari kehidupan kita, banyak seniman, fotografer, dan kreator konten lainnya menggunakan platform online untuk membagikan karya-karya mereka dengan dunia. Namun, memposting gambar secara online dapat menjadi rawan manipulasi, seperti pembuatan deepfake, perubahan foto, penyebaran berita palsu, dan risiko pencurian identitas melalui teknologi kecerdasan buatan (AI).
Untuk menghindari hal ini, banyak orang mempertimbangkan cara seperti memberi watermark pada gambar, berbagi gambar dengan resolusi rendah, berhati-hati dalam berbagi informasi, dan menggunakan sumber yang terpercaya.
Selain itu, meningkatkan kesadaran tentang manipulasi gambar juga sangat penting untuk melawan penyebaran konten yang menipu. Namun, dengan pesatnya perkembangan AI, langkah-langkah tersebut mungkin tidak cukup dalam jangka panjang. Oleh karena itu, MIT CSAIL memiliki gagasan inovatif dengan menciptakan teknik yang dinamakan "PhotoGuard".
Baca juga: Open AI dan Perusahaan Teknologi Lainnya Akan Berikan Watermark pada Konten AI - Teknologi
Dalam menghadapi masalah ini, para peneliti di Laboratorium Sistem dan Kecerdasan Buatan MIT (MIT CSAIL) telah mengembangkan solusi inovatif ini yang bertujuan untuk melindungi gambar dari manipulasi oleh algoritma AI dan mengurangi risiko kejahatan di dunia digital.
Perbedaan dengan Watermark Tradisional
PhotoGuard adalah sebuah teknik yang mencakup sejumlah inovasi untuk mencegah algoritma AI dari melakukan manipulasi gambar. Dibandingkan dengan metode konvensional seperti pemberian watermark atau enkripsi sederhana, PhotoGuard menggunakan pendekatan yang lebih canggih dan kompleks.
Sistem ini bekerja dengan mengubah piksel-piksel tertentu dalam gambar secara cerdas. Meskipun perubahan tersebut cukup kecil sehingga tidak terlihat oleh mata manusia, namun bagi algoritma AI, perubahan tersebut cukup membingungkan dan menghalangi upaya manipulasi. Gizmochina melaporkan bahwa teknik ini merupakan lapisan pertahanan yang efektif untuk melawan serangan "encoder" yang dapat menipu model AI agar melihat gambar sebagai hal yang berbeda, serta serangan "difusi" yang menyamarkan gambar sebagai target yang berbeda untuk menghindari pengeditan AI generatif.
PhotoGuard telah menunjukkan efektivitasnya dalam melindungi gambar dari manipulasi algoritma AI. Namun, meskipun mampu menghadang serangan "encoder" dan "difusi" yang umum digunakan dalam manipulasi gambar, tentu saja tidak ada solusi yang sempurna dan teknologi ini tidak bisa dianggap sebagai solusi yang akhir (untuk saat ini).
Baca juga: Ganti Warna Palet Vektor Instan dengan Fitur AI Generative Recolor di Illustrator - Teknologi
Individu jahat mungkin saja tetap terus mencari celah dengan cara-cara lain untuk merusak integritas gambar yang dilindungi oleh PhotoGuard. Oleh karena itu, keberhasilan PhotoGuard dan teknologi serupa di masa depan sangat tergantung pada kerja tim antara berbagai pihak. Kolaborasi antara peneliti, pengembang model AI, platform media sosial, dan pembuat kebijakan menjadi kunci dalam memperkuat pertahanan terhadap upaya-upaya licik yang bertujuan merusak gambar digital.
Dalam menghadapi kemajuan teknologi AI, investasi dalam pertahanan yang kuat untuk melindungi seni digital menjadi sangat penting. Teknologi PhotoGuard yang dikembangkan oleh MIT CSAIL menawarkan harapan baru dalam melindungi gambar dari manipulasi oleh algoritma AI yang berbahaya.
Meskipun belum sempurna, langkah ini menunjukkan kemajuan dalam menjaga integritas seni digital dan menjaga harmonisasi perkembangan AI. Dengan kerjasama antar semua pihak, kita dapat menciptakan lingkungan digital yang lebih aman dan kreatif, di mana manipulasi gambar oleh algoritma AI dapat diminimalisir secara signifikan.
Cek Berita dan Artikel yang lain di Google News.
(raa)