Teknologi.id - Seorang pengacara di California, Amir Mostafavi, dijatuhi denda sebesar 10.000 dollar AS atau sekitar Rp166 juta karena menggunakan ChatGPT dalam dokumen hukum. Kasus ini menjadi sorotan karena membuka perdebatan soal etika penggunaan AI di bidang hukum.
21 dari 23 Kutipan Ternyata Palsu
Masalah berawal ketika Mostafavi mengajukan banding pada Juli 2023. Dalam dokumen tersebut, ia menyertakan 23 kutipan kasus hukum. Namun setelah diteliti, 21 di antaranya ternyata hasil "halusinasi" ChatGPT alias kutipan palsu yang tidak pernah ada di dunia nyata.
Mostafavi mengaku hanya menggunakan ChatGPT untuk membantu menyempurnakan tulisannya. Sayangnya, ia tidak melakukan pengecekan ulang sebelum dokumen itu diserahkan ke pengadilan. Akibat kelalaian tersebut, tiga hakim menjatuhkan sanksi berupa denda besar karena dianggap sembrono.
Baca juga: ChatGPT Go Resmi Hadir di Indonesia, Pertama di Asia Tenggara dengan Harga Terjangkau
Denda Tertinggi yang Pernah Dijatuhkan
Kasus ini tercatat sebagai salah satu denda terbesar yang pernah dijatuhkan pengadilan negara bagian California terhadap pengacara. Damien Charlotin, dosen bidang AI di Paris, menyebut hukuman ini menjadi peringatan keras agar publik mewaspadai penyalahgunaan AI di dunia hukum.
Menurut Charlotin, semakin rumit argumen hukum yang diajukan, semakin besar risiko AI menghasilkan informasi palsu. Hal ini terjadi karena model AI berusaha menyenangkan pengguna tanpa memverifikasi kebenaran datanya.
AI "Halu" dan Ancaman Bagi Dunia Hukum
Fenomena AI "halu" (memberikan informasi fiktif) bukan hanya terjadi di Amerika Serikat. Penelitian yang dipimpin Jenny Wondracek menemukan ratusan kasus serupa di berbagai negara, termasuk Australia, Kanada, dan Inggris. Bahkan, ada lebih dari 600 kasus di dunia di mana pengacara mengutip sumber hukum yang tidak pernah ada.
Wondracek memperingatkan bahwa tren ini bisa makin memburuk, terutama karena sebagian besar pengacara belum memahami cara menggunakan AI dengan benar. Ia menyarankan agar regulator mengambil langkah tegas, mulai dari penangguhan sementara penggunaan AI, pelatihan etika bagi pengacara, hingga membekali mahasiswa hukum agar tidak mengulangi kesalahan yang sama.
Pelajaran dari Kasus Mostafavi
Meski terkena denda besar, Mostafavi berharap pengalamannya bisa menjadi peringatan bagi pengacara lain. Menurutnya, AI memang sudah menjadi alat penting dalam praktik hukum modern, namun penggunaannya harus disertai verifikasi dan kehati-hatian.
“Teknologi akan terus berkembang, tapi kita harus belajar dari kesalahan ini. Semoga orang lain tidak terjebak dalam lubang yang sama,” ujarnya.
Baca juga: OpenAI Terapkan Aturan Baru: Pengguna ChatGPT Bisa Diminta Setor KTP
Kesimpulan
Kasus ini menunjukkan bahwa meski AI seperti ChatGPT bisa membantu mempercepat pekerjaan, penggunaannya dalam bidang hukum tidak bisa menggantikan analisis kritis manusia. Justru tanpa kehati-hatian, AI bisa menjadi jebakan yang berujung pada sanksi berat.
Baca Berita dan Artikel yang lain di Google News.
(ipeps)
