OpenAI Tambahkan Fitur Baru untuk Pelanggan API

Foto : openai.com

Teknologi.id - Open AI sebelumnya telah meluncurkan Application Programming Interface (API) untuk ChatGPT, memudahkan pihak ketiga atau bisnis apa pun membangun teknologi ChatGPT ke dalam aplikasi, situs web, produk, dan juga layanan lainnya.

Baru-baru ini, Open AI mengumumkan adanya perluasan fitur-fitur untuk pelanggan API tingkat perusahaan, yang akan memperkaya Assistant API dan memperkenalkan alat baru yang bertujuan untuk meningkatkan keamanan dan kontrol administratif, serta mengelola biaya secara lebih efektif.

Baca juga: Terkini! Microsoft dan OpenAI Siap Hadirkan Superkomputer AI senilai Rp1.588 Triliun

"Ketika anda berbicara dengan pengembang dan bisnis tentang pekerjaan yang berarti untuk model AI, OpenAI masih memimpin."kata Olivier Godement, Head of Product, API di openAI dalam sebuah wawancara . Fitur seperti apa yang di kembangkan OpenAI??

1. Private Link dan fitur keamanan yang ditingkatkan

Di antara peningkatan keamanan yang signifikan adalah memperkenalkannya Private Link,sebuah metode aman untuk memungkinkan komunikasi langsung antara layanan cloud Microsoft Azure dan OpenAI, yang akan membantu meminimalkan "eksposur ke internet terbuka.

Penambahan ini melengkapi tumpukan keamanan yang sudah ada yang mencakup sertifikasi SOC 2 Tipe II, sistem masuk tunggal (SSO), enkripsi data AES256 saat transit, dan kontrol akses berbasis peran. Selain itu, Open AI telah memperkenalkan Autentikasi Multi-Faktor (MFA) asli untuk meningkatkan kontrol akses sejalan dengan tuntutan kepatuhan yang terus meningkat.

Untuk perusahaan perawatan kesehatan yang membutuhkan kepatuhan terhadap HIPAA, OpenAI terus menawarkan perjanjian rekanan bisnis bersama dengan kebijakan penyimpanan data nol untuk pelanggan API yang memenuhi syarat.

2. API Asisten yang telah ditingkatkan dan menangani 500x lebih banyak file

Salah satu penawaran perusahaan yang kurang dipubliksikan tetapi ppaling penting dari OpenAI adalah API asistennya, yang memungkinkan perusahaan yang menggunakan model khusus yang telah mereka latih dan memanggil dokumen tertentu melalui retrieval augmented geneeration (RAG) untuk menyediakan asisten percakapan dalam aplikasi mereka sendiri

Open AI kini meningkatkan API Assistants untuk meyertakan kemampuan pencairan file yang ditingkatkan dengan fitur "file_search" yang baru dapat menangani hingga 10.000 file asisten.

Hal ini merupakan peningkatan 50oX dari batas sebelumnya yaitu 20 file, dengan fungsionalitas tambahan seperti kueri pararel, peningkat, dan penulisan ulang kueri.

Selain itu, API sekarang mendukung streaming untuk respons percakapan waktu nyata- yang berarti bahwa model AI seperti GPT-4 Turbo atau GPT-3,5 Turbo akan mengembalikan output secepatnya token dapat dihasilkan, alih-alih menunggu respons penuh.

3. Proyek memungkinkan perusahaan mengontrol dan mempartisi akses ke penugasan tertentu

Fitur  baru yang disebut Projects menawarkan pengawasan administratif yang lebih baik dengan memungkinkan organisasi mengelola peran dan kunci API di tingkat proyek. Fitur ini memungkinkan pelanggan perusahaan untuk mengatur izin, mengontrol model yang tersedia, dan menentapkan batas berbasis penggunaan untuk menghindari biaya tak terduga -penigkatan yang menjanjikan untuk menyederhanakan manajemen proyek secara signifikan. Fitur ini akan membantu bagi tim pengembang yang berkonsultasi bahkan menangani banyak klien sekaligus.

4. Batch yang baik 

OpenAI telah memperkenalkan fitur manajemen biaya baru untuk lebih membantu organisasi dalam meningkatkan skala operasi AI secara ekonomis. Hal ini termasuk potongan harga untuk pelanggan yang memperkenalkan tingkat penggunaan token yang konsisten permenit dan pengurangan biaya sebesar 50% untuk beban kerja asinkron melalui Batch  API baru, yang juga memiliki batasa tarif yang lebih tinggi dan menjanjikan hasil dalam waktu 24 jam.

Namun, untuk menggunakannya, pelanggan harus mengirimkan kumpulan token mereka-input mereka ke model AI yang ingin dianalisis, baik itu permintaan atau file- bersama-sama dalam satu permintaan, dan merasa nyaman dengan menunggu hingga 24 jam penuh untuk menerima respons dari model OpenAI. Ini juga dirancang untuk pelanggan dan perusahaan yang tidak membutuhkan respons instan dari model  AI, misalnya, jurnalis investigasi yang meneliti artikel panjang yang ingin mengirimkan banyak dokumen pemerintah agar GPT-4 Turbo OpenAI memilah-milah detail tertentu.K

OpenAI terus meningakatkan penawarannya dengan fokus pada keamanan tingkat perusahaan, kontrol administratif dan manajemen biaya pembaruan menunjukan bahwa perusahaan tertarik untuk manawarkan pengalaman yang lebih "plug dan play".

Baca berita dan artikel lain di Google News

(ay)