Jadi Pionir Negara Bagian AS! California Resmi Sahkan Undang-Undang AI

Teknologi.id – Gubernur California, Gavin Newsom meresmikan Undang-undang yang mengatur chatbot AI dan menjadikan California sebagai pelopor di negara bagian Amerika Serikat. Undang-undang AI ini dikenal dengan Senate Bill 243 atau SB 243.

Tujuan dari undang-undang ini untuk memberikan perlindungan bagi pengguna AI di bawah umur. Tidak dapat dipungkir, penggunaan artificial inteligence khususnya Chatbot masa kini sudah menjadi bagian dan tidak dapat dilepaskan dari kehidupan sehari-hari.

Jika chatbot AI tidak dibatasi dan diawasi dengan tegas, maka akan memberikan dampak negatif bagi penggunanya. Padahal chatbot AI di ciptakan untuk membantu pekerjaan manusia agar lebih mudah dan efektif.

Mengenal Senate Bill 243, Undang-Undang AI di California

Senin, 13 Oktober 2025 menjadi tonggak baru dalam perjalanan regulasi AI di Amerika Serikat. Dimana Gubernur California, Gavin Newson menandatangai undang-undang senat 243. Penandatangan ini sebagai bukti diresmikan dan berlaku nya undang-undang perlindungan chatbot AI kepada pengguna khususnya bagi anak-anak dibawah umur.

Undang-undang ini ditujukan kepada perusahaan besar dan perusahaan rintisan AI untuk bertanggung jawab jika chatbot mereka gagal memenuhi standar hukum yang sudah ditetapkan. Pemerintah California berharap dengan adanya undang-undang senat 243 dapat melindungi anak-anak dan pengguna rentan dari bahaya penggunaan chatbot AI.

“Teknologi baru chatbot dan media sosial dapat menginspirasi, mendidik dan menghubungkan – tetapi tidak ada batasan nyata, sehingga dapat mengeksploitasi, menyesatkan dan membahayakan anak-anak kita” ungkap Gavin Newson, Gubernur California.

Peresmian senate 243, disebabkan karena sudah banyak terjadi kasus bunuh diri pada anak dibawah umur. Menghimpun dari techcrunch, setidaknya ada 4 kasus bunuh diri yang disebabkan oleh chatbot AI, dan tidak dapat dipastikan berapa kasus bunuh diri yang sudah terjadi akibat AI.

•  Adam Raine 16 tahun bunuh diri, setelah ia menggunakan ChatGPT-4o versi berbayar untuk berkonsultasi mengenai metode bunuh diri.
• Juliana Peralta 13 tahun bunuh diri, Diduga Juliana meninggal setelah berinteraksi dengan salah satu Character.AI, Hero setiap hari.
• Setzer 14 tahun bunuh diri, setelah berinteraksi dan terikat emosional dengan Dany Character.AI.
• Sewel 14 tahun bunuh diri menggunakan pistol sang ayah. Sewel jatuh cinta dengan Character.AI yang terinspirasi dari karakter serial “Game of Thrones” dan mengungapkan pikirannya untuk bunuh diri yang kemudian ditanggapi dengan kalimat “pulanglah ke rumah” oleh chatbot tersebut.

Selain kasus bunuh diri, penggunaan chatbot AI juga sangat berbahaya karena dapat memicu terjadinya percakapan seksual dengan anak-anak dan pembuatan konten eksplisit lainnya.

“Sangat mengerikan dan sama sekali tidak dapat diterima bahwa pedoman Meta mengizinkan chatbot AI untuk terlibat dalam percakapan “romantis atau seksual” dengan anak-anak” kata Sarah Gardner, CEO Lembaga advokasi keselamatan anak Heat Initiative.

Oleh sebab itu, untuk menyelamatkan anak-anak dari kejahatan digital, California meresmikan undang-undang senat 243 sebagai bentuk nyata perlindungan AI.

“kita dapat terus memimpin AI dan teknologi, tetapi kita harus melakukannya dengan tanggung jawab – melindungi anak-anak kita di setiap langkahnya” kata Newsom.

Baca juga: Viral! Curhat ke ChatGPT Bikin Gangguan Mental Psikosis

Apa Saja yang Diatur dalam Undang-Undang Senat 243?

Meskipun undang-undang ini sudah di tandatangani dan diresmikan, tetapi dalam pengaplikasian secara nyata akan benar-benar efektif pada bulan Januari 2026 mendatang.

Berdasarkan pada informasi legislatif California,undang-undang senat 243 mengatur:

• Kewajiban bagi seluruh platform media sosial dan perusahaan berbasis AI untuk mengambil langkah dalam kebijakan untuk mencegah perundungan siber terhadap anak di bawah umur
• Menyediakan layanan untuk laporkan jika terjadi perundungan atau terdapat konten yang melanggar ketentuan hukum
• Wewenang Departemen Kesehatan Masyarakat Negara Bagian membentuk divisi bunuh diri
• Adanya pendampingan untuk chatbot agar tidak membuat konten melukai diri
• Kewajiban pada perusahaan chatbot AI untuk melapor setiap tahunnya, berlaku mulai 1 Juli 2027

Tidak hanya itu, senat 243 juga memberikan hukuman denda sebesar $250.000 US dollar atau sekitar Rp.4,1 miliar rupiah kepada pihak yang mendapatkan keuntukan dari pembuatan atau penyebaran deepfake secara ilegal.

Dengan disahkannya undang-undang AI ini, menjadi pengingat bahwa kemajuan teknologi harus diimbangi dengan tanggung jawab untuk melindungi penggunanya agar tetap aman ketika menggunakan teknologi.

Bagaimana menurut teman-teman? Apakah lambat laun Indonesia juga akan menerapkan dan membuat regulasi kebijakan khusus untuk undang-undang AI?

Baca artikel dan berita lainnya di Google News

(SS)