Teknologi.id - Anthropic, perusahaan kecerdasan buatan yang didirikan oleh mantan karyawan OpenAI, telah meluncurkan chatbot AI-nya, bernama Claude. Seperti OpenAI, Anthropic juga memiliki dukungan dari perusahaan teknologi besar, yaitu Google yang telah menginvestasikan $300 juta ke Anthropic pada bulan Februari.
After working for the past few moths with key partners like @NotionHQ, @Quora, and @DuckDuckGo, we’ve been able to carefully test out our systems in the wild. We are now opening up access to Claude, our AI assistant, to power businesses at scale. pic.twitter.com/m0QFE74LJD
Claude, model buatan Anthropic, dibangun untuk menyelesaikan tugas yang serupa dengan ChatGPT dengan menghasilkan teks yang menyerupai manusia dalam menanggapi permintaan, mulai dari mengedit kontrak hukum hingga menulis kode komputer.
Namun, Anthropic, yang didirikan oleh saudara kembar Dario dan Daniela Amodei, keduanya mantan eksekutif OpenAI, lebih berfokus pada menciptakan sistem kecerdasan buatan yang lebih aman dan tidak memproduksi konten berbahaya atau tidak pantas, seperti perintah untuk meretas komputer atau membuat senjata, daripada sistem lainnya.
Baca juga: Tak Hanya ChatGPT! Ini Dia 8 Tools AI Terbaik yang Wajib Kamu Coba
Belakangan ini, kekhawatiran terhadap keselamatan kecerdasan buatan semakin meningkat setelah Microsoft mengumumkan pembatasan permintaan pada mesin pencari Bing yang baru diluncurkan. Hal ini terjadi setelah seorang kolumnis The New York Times menemukan chatbot Bing menampilkan kepribadian alternatif dan memberikan tanggapan yang tidak menyenangkan selama percakapan yang berlangsung lama.
Masalah keamanan telah menjadi masalah yang rumit bagi perusahaan teknologi karena chatbot tidak memahami makna kata-kata yang dihasilkannya.
Untuk menghindari menghasilkan konten yang merugikan, pencipta chatbot sering memprogramnya untuk menghindari beberapa topik sama sekali. Namun, pendekatan ini membuat chatbot rentan terhadap "promp engineering," di mana pengguna berbicara dengan cara tertentu untuk menghindari pembatasan tersebut.
Claude AI Didesain untuk Menjelaskan Keberatannya
Anthropic telah mengadopsi pendekatan yang berbeda dalam menghadapi masalah keamanan chatbot dengan memberikan prinsip-prinsip pada saat Claude dilatih menggunakan data teks yang besar.
Berbeda dengan cara-cara konvensional, Claude didesain untuk menjelaskan keberatannya secara prinsipil daripada mencoba menghindari topik yang berpotensi merugikan.
Hal ini membuat Richard Robinson, CEO Robin AI, merasa nyaman dan memberikan akses awal pada Claude untuk menganalisis kontrak hukum yang diberikan oleh Anthropic.
Robinson menemukan bahwa Claude lebih baik dalam memahami bahasa hukum yang padat dan kurang cenderung menghasilkan tanggapan yang aneh dibandingkan dengan teknologi OpenAI. Namun, Robinson mengatakan bahwa tantangannya adalah membuat Claude lebih luwes dalam penggunaannya yang benar.
(dwk)
