Teknologi.id – Perkembangan kecerdasan buatan (AI) semakin pesat, namun di balik kemajuan tersebut tersimpan tantangan besar: keselamatan dan kesehatan mental pengguna. OpenAI, perusahaan di balik ChatGPT, kini tengah bersiap memperkenalkan langkah baru untuk memperkuat keamanan layanannya.
Salah satu upaya penting adalah dengan mengalihkan percakapan sensitif ke GPT-5, model penalaran AI terbaru, serta meluncurkan fitur kontrol orang tua. Langkah ini diambil setelah sejumlah insiden tragis melibatkan interaksi pengguna dengan ChatGPT.
Kasus Tragis yang Memicu Perubahan
Kasus yang paling menyita perhatian adalah bunuh diri remaja asal California bernama Adam Raine, yang sebelumnya berdiskusi dengan chatbot tentang melukai diri sendiri. Tragedi ini memicu kritik luas terhadap OpenAI dan membuat perusahaan segera melakukan evaluasi besar-besaran.
Adam Raine bukan satu-satunya kasus. Seorang pria bernama Stein-Erik Soelberg juga dilaporkan menggunakan ChatGPT untuk memperkuat delusi konspirasi hingga akhirnya melakukan aksi pembunuhan-bunuh diri terhadap ibunya dan dirinya sendiri.
Tragedi-tragedi ini menunjukkan bahwa AI bisa memperburuk kondisi kesehatan mental jika tidak dilengkapi dengan pagar pembatas keamanan yang tepat.
Baca juga: ChatGPT Dituduh Ajarkan Remaja untuk Bunuh Diri, OpenAI Digugat!
Mengapa GPT-5 Jadi Solusi untuk Percakapan Sensitif?
OpenAI menyadari bahwa ChatGPT versi sebelumnya memiliki keterbatasan dalam menangani topik sensitif. AI cenderung mengikuti alur percakapan tanpa benar-benar menilai risiko, karena lebih fokus pada prediksi kata berikutnya daripada memahami konteks emosional.
GPT-5 hadir dengan pendekatan berbeda. Model ini dirancang untuk bernalar lebih dalam sebelum memberikan jawaban. Dengan begitu, GPT-5 meluangkan waktu untuk menimbang risiko dan dampak dari respons yang diberikan.
OpenAI juga memperkenalkan router real-time, sebuah sistem yang secara otomatis memilih model terbaik berdasarkan konteks percakapan. Jika terdeteksi adanya tanda “gangguan akut” atau topik berbahaya, maka percakapan akan dialihkan ke GPT-5 agar respons lebih aman, bijaksana, dan bermanfaat.
Kontrol Orang Tua: Fitur Baru untuk Lindungi Remaja
Selain GPT-5, OpenAI juga meluncurkan fitur kontrol orang tua yang dirancang untuk melindungi remaja. Fitur ini memungkinkan orang tua untuk:
-
Menghubungkan akun mereka dengan akun anak remaja melalui undangan email.
-
Mengatur aturan perilaku model sesuai usia, yang aktif secara default.
-
Menonaktifkan fitur memori dan riwayat obrolan untuk mencegah ketergantungan.
-
Menerima notifikasi jika anak mereka mengalami “kesulitan akut” saat berinteraksi dengan ChatGPT.
Banyak pakar khawatir interaksi intens dengan chatbot bisa memicu delusi, pola pikir negatif, hingga ketergantungan emosional. Dengan kontrol orang tua, interaksi anak dengan AI bisa lebih aman dan terarah.
Inisiatif 120 Hari: Peta Jalan Keamanan OpenAI
Sebagai respons dari kritik publik, OpenAI meluncurkan program “Inisiatif 120 Hari”. Program ini berfokus pada evaluasi ulang sistem keamanan dengan beberapa poin utama:
-
Pengalihan percakapan sensitif ke GPT-5.
-
Peluncuran fitur kontrol orang tua.
-
Pengembangan Mode Belajar di ChatGPT agar siswa tetap berpikir kritis.
-
Kerja sama dengan Jaringan Dokter Global dan Dewan Pakar Kesejahteraan & AI untuk menetapkan standar keamanan.
OpenAI juga berkolaborasi dengan ahli di bidang gangguan makan, penyalahgunaan zat, hingga kesehatan remaja, demi menciptakan indikator kesejahteraan yang jelas serta perlindungan AI yang lebih efektif.
Tantangan dan Kritik terhadap GPT-5 dan Kontrol Orang Tua
Meski langkah OpenAI dinilai positif, kritik tetap muncul. Beberapa tantangan yang menjadi sorotan:
-
Akurasi deteksi gangguan akut: bagaimana AI bisa membedakan antara bercanda, sarkasme, atau tanda bahaya nyata?
-
Privasi remaja: notifikasi kepada orang tua bisa menimbulkan masalah privasi dan mengurangi kebebasan berekspresi.
OpenAI mengakui tantangan tersebut dan menyebut fitur ini masih dalam tahap pengembangan, serta akan terus dievaluasi berdasarkan masukan dari komunitas, pakar, dan pengguna.
Dampak untuk Masa Depan ChatGPT dan AI Global
Langkah OpenAI memperkenalkan GPT-5 dan kontrol orang tua menandai babak baru dalam pengembangan AI yang lebih aman dan etis. Jika berhasil, beberapa dampak yang mungkin terjadi adalah:
-
Interaksi lebih aman bagi remaja, tanpa risiko besar terhadap kesehatan mental.
-
Standar etika baru bagi perusahaan AI, memaksa kompetitor seperti Google DeepMind dan Anthropic meningkatkan keamanan.
-
Pengawasan regulasi lebih ketat, dengan pemerintah menjadikan langkah ini sebagai acuan penyusunan aturan AI.
-
Kepercayaan publik meningkat, sehingga ChatGPT lebih diterima sebagai alat belajar, bekerja, maupun hiburan.
Baca juga: Mengungkap Sumber Jawaban ChatGPT: Situs Ini Jadi Andalan Utama
Kesimpulan
OpenAI kini berada di persimpangan penting. Di satu sisi, mereka ingin terus mendorong batas inovasi AI. Di sisi lain, tragedi yang melibatkan ChatGPT menjadi pengingat bahwa keamanan tidak boleh diabaikan.
Dengan mengarahkan percakapan sensitif ke GPT-5 dan memperkenalkan kontrol orang tua, OpenAI berusaha membangun sistem AI yang lebih aman, etis, dan bermanfaat.
Meski jalan masih panjang, langkah ini bisa menjadi fondasi penting agar AI hadir sebagai mitra manusia yang membantu, bukan membahayakan.
Baca Berita dan Artikel yang lain di Google News.
(fnf)
