Foto ; Exabytes
Teknologi.id - Google, perusahaan teknologi terkemuka di dunia, kembali membuat terobosan baru dalam dunia digital dengan mengembangkan fitur canggih yang mampu mendeteksi konten yang dihasilkan oleh kecerdasan buatan (AI).
Langkah ini merupakan bagian dari upaya Google untuk menghadapi tantangan yang muncul dari penggunaan teknologi AI yang semakin luas, terutama terkait dengan keaslian informasi dan potensi penyalahgunaannya.
Dalam beberapa tahun terakhir, perkembangan AI telah menciptakan berbagai kemajuan di banyak sektor. Teknologi ini mampu menghasilkan teks, gambar, audio, dan bahkan video dengan tingkat kecanggihan yang luar biasa.
Namun, seiring dengan peningkatan kemampuan AI, muncul kekhawatiran tentang bagaimana teknologi ini dapat disalahgunakan, terutama dalam konteks penyebaran misinformasi, manipulasi konten, dan penciptaan deepfake yang sulit dibedakan dari konten asli.
Baca Juga : Kenali Deepfake AI serta Potensi, Resiko, dan Cara Menanggulangi
Salah satu tantangan yng muncul dari penggunaan teknologi AI yakni munculnya kasus-kasus yang beredar mengenai konten gambar hasil produksi kecerdasan buatan (AI) semakin banyak beredar di internet dan sosial media yang kian hari semakin meresahkan.
Pasalnya, konten-konten tersebut bisa mengecoh pengguna internet yang tidak mengetahui fakta di baliknya.
Misalanya di Korea Selatan, kasus pornografi yang dihasilkan melalui AI deepfake menjadi masalah serius di dalam beberapa waktu terakhir. Sebab, semakin banyak kasus warga Korsel, termasuk juga anak di bawah umur, menjadi korban kejahatan seks deepfake.
Kasus ini memanas setelah viralnya sejumlah chat rooms atau ruang obrolan di aplikasi Telegram yang diduga membuat dan mendistribusikan materi pornografi deepfake yang memicu ketakutan dan kemarahan di Korea Selatan.
Melansir CNN Indonesia, saat ini Kepolisian Nasional Korea Selatan, telah mencatat 297 kasus kejahatan deepfake pornografi yang dilaporkan dari Januari hingga Juli. Dari 178 terdakwa, 113-nya adalah anak dibawah umur dan remaja. Di Seoul sendiri sudah menangkap 10 remaja 14 tahun atas kejahatan ini.
Google dalam hal ini memahami bahwa dengan semakin meningkatnya kualitas konten yang dihasilkan oleh AI, masyarakat perlu memiliki alat untuk membedakan mana yang merupakan hasil karya manusia dan mana yang dihasilkan oleh mesin.
Baca Juga : Google Photos Kini Bertransformasi Jadi Editor Video Pintar dengan Bantuan AI
Pada awal tahun 2024 ini Google bergabung dengan komite Coalition for Content Provenance and Authenticity (C2PA). Bersama anggota komite pada beberapa bulan ini tengah mengembangkan teknologi untuk mendeteksi dan menandai konten hasil kecerdasan buatan.
Nantinya teknologi ini akan diimplementasikan pada Content Credentials. Content Credentials ini merupakan ekstensi yang membantu melacak asal konten video dan foto.
Fitur baru ini dikembangkan untuk meningkatkan transparansi di dunia maya serta memberikan pengguna kemampuan untuk lebih kritis dalam mengevaluasi sumber informasi.
Fitur deteksi konten AI ini dirancang untuk memindai berbagai jenis konten digital, seperti artikel, gambar, video, dan suara.
Dengan menggunakan algoritma dan model pembelajaran mesin yang kompleks, fitur ini mampu mendeteksi pola tertentu yang hanya ditemukan dalam konten yang dihasilkan oleh AI.
Hal ini memungkinkan Google untuk menandai konten yang dihasilkan secara otomatis dan memberikan peringatan kepada pengguna jika mereka berpotensi berinteraksi dengan konten yang dibuat oleh mesin.
Menurut perwakilan Google, fitur ini akan membantu memerangi penyebaran berita palsu (fake news) dan konten yang menyesatkan di internet.
Baca Juga : Mengenal Fitur AI di Google Meet dan Cara Menggunakannya
"Dalam era di mana teknologi AI semakin canggih, penting bagi kita untuk melindungi integritas informasi yang dikonsumsi publik. Fitur deteksi AI ini akan menjadi alat penting dalam memastikan bahwa masyarakat mendapatkan informasi yang benar dan dapat dipercaya," ujar salah satu eksekutif Google dalam pengumuman resminya.
Dikutip dari CNN Indonesia, dalam beberapa bulan mendatang Google akan memasukkan versi terbaru Content Credentials ke produk-produk utama Google.
Dengan kata lain, nantinya Google akan mempermudah kita mendeteksi konten AI di hasil pencarian Google.
Melansir Engadget, fitur pendeteksi ini akan tersedia juga di Google Images, Lens, dan Circle to Search.
Jika gambar yang muncul memiliki metadata C2PA, kita akan mudah mendeteksi perubahan yang dilakukan oleh AI dalam menu "About this image".
Sistem pendeteksian ini juga memiliki beberapa kelemahan, Sistem ini bergantung pada penggunaan sistem penandaan C2PA oleh perusahaan-perusahaan yang terkait seperti pembuat kamera dan pembuat alat AI.
Artinya jika seseorang menghapus metadata pada suatu foto, maka Google juga akan kesusahan untuk mendeteksi kadar AI pada suatu foto.
Baca Juga : CEO Google: AI Tak Akan Gantikan Programmer
Ke depannya, Google berencana untuk terus memperbarui dan menyempurnakan fitur ini, dengan mengintegrasikan teknologi deteksi AI ke dalam berbagai platform seperti Google Search, YouTube, dan layanan-layanan lainnya.
Langkah ini diharapkan akan memperkuat ekosistem digital yang lebih transparan dan terpercaya.
Dengan fitur baru ini, Google berkomitmen untuk tidak hanya meningkatkan pengalaman pengguna, tetapi juga memastikan bahwa internet tetap menjadi ruang yang aman, jujur, dan informatif di tengah perkembangan teknologi AI yang semakin pesat.
Baca berita dan artikel lainnya di Google News.
(nda)
