Platform
Bawa LLM sendiri untuk pengiriman software AI yang serius
Kunci provider Anda, endpoint yang kompatibel dengan OpenAI, dan routing model privat pada paket enterprise — loop delivery penuh, berjalan pada model yang sudah disetujui organisasi Anda.
Bawa LLM sendiri memungkinkan enterprise menjalankan Ciao dengan syarat model mereka sendiri: kunci provider Anda, endpoint yang kompatibel dengan OpenAI — termasuk model yang di-hosting secara privat — dan routing model privat pada paket enterprise. Berbeda dari platform yang memaksakan satu susunan model yang dibundel, Ciao mempertahankan loop delivery — Builder, QA, Security, Guardrails — sementara inferensi berjalan di bawah perjanjian dan batasan yang sudah disetujui tim keamanan dan legal Anda.
Dipublikasikan 2026-07-03 · Terakhir diperbarui 2026-07-03
Platform AI Anda seharusnya berjalan dengan syarat model Anda
Bagi banyak enterprise, penghalang bagi rekayasa berbantuan AI bukanlah kemampuannya — melainkan governance modelnya. Tim legal sudah menegosiasikan syarat dengan provider tertentu. Keamanan memelihara daftar yang disetujui. Beberapa beban kerja sama sekali tidak boleh melintasi batasan privat. Platform yang membundel susunan modelnya sendiri dan meminta Anda menerimanya memaksa sebuah pilihan antara kebijakan Anda dan kecepatan delivery Anda.
Ciao menghilangkan pilihan itu. Bawa LLM sendiri: gunakan kunci provider Anda sendiri sehingga inferensi berjalan di bawah perjanjian yang Anda negosiasikan, arahkan routing ke endpoint yang kompatibel dengan OpenAI — termasuk model yang Anda hosting secara privat — dan konfigurasikan routing model privat pada paket enterprise. Loop delivery-nya tetap ada; model-modelnya tunduk pada Anda.
Ini bukan kasus tepi. Di sebagian besar organisasi besar, pertanyaan soal model sudah tuntas sebelum pertanyaan soal platform bahkan diajukan — dan platform yang selamat dari tinjauan adalah yang cocok dengan jawaban yang sudah tuntas itu, bukan yang mencoba membukanya kembali.
Bagaimana bawa-LLM-sendiri bekerja
Konfigurasinya bersifat administratif dan diaudit — ditetapkan sekali oleh orang-orang yang bertanggung jawab atasnya, diwarisi oleh semua orang yang membangun.
1. Bawa kunci provider Anda
Inferensi berjalan terhadap akun Anda, di bawah syarat komersial dan data yang sudah dinegosiasikan organisasi Anda dengan provider tersebut.
2. Atau arahkan ke endpoint yang kompatibel dengan OpenAI
Endpoint apa pun yang berbicara dengan API yang kompatibel dengan OpenAI bisa melayani platform ini — termasuk model yang di-hosting di dalam batasan Anda sendiri.
3. Konfigurasikan routing model privat
Tentukan model mana yang menangani pekerjaan mana di seluruh workspace Anda. Paket enterprise menjadikan routing sebagai keputusan administratif, bukan negosiasi per-prompt.
4. Pertahankan disiplin ladder
Fallback dan routing tugas tetap berlaku dalam himpunan yang Anda setujui — ketahanan tanpa melangkah keluar batasan Anda. Kegagalan satu endpoint yang disetujui tidak menghentikan delivery ketika endpoint kedua dikonfigurasi.
5. Atur governance-nya seperti hal lainnya
SSO via SAML dan OIDC, MFA opsional, dan RBAC mengontrol akses; konfigurasi dan aksi admin tercatat dalam jejak audit append-only.
Kenapa ini penting
Dukungan model sendiri mengubah percakapan procurement yang paling sulit menjadi singkat. Data mengalir ke provider yang Anda pilih, di bawah kontrak yang Anda negosiasikan, di dalam batasan yang Anda gambar — sehingga tinjauan platform AI berhenti menjadi negosiasi legal baru dan menjadi perpanjangan dari keputusan yang sudah dibuat.
Ini juga berpadu secara alami dengan sisa postur enterprise lainnya: deployment VPC privat atau on-prem untuk aplikasi, sandbox kustom untuk stack yang sudah ada, dan routing model privat untuk inferensi. Setiap bagian tunduk pada prinsip yang sama — software Anda, infrastruktur Anda, model Anda.
Dan ini menjaga opsionalitas di tempat yang seharusnya. Provider akan terus berubah; ekonomi hosting akan terus bergeser. Ketika routing-nya adalah milik Anda untuk dikonfigurasi, pergeseran itu menjadi pembaruan administratif, bukan migrasi platform.
Siapa yang membawa model mereka sendiri
Routing model sendiri biasanya digerakkan oleh orang-orang yang menandatangani risk register:
- CISO dan arsitek keamanan — Inferensi dibatasi ke provider yang disetujui atau endpoint privat, bisa diverifikasi dalam konfigurasi, bukan sekadar dijanjikan dalam slide.
- Enterprise dengan perjanjian yang dinegosiasikan — Kontrak provider yang sudah ada dan komitmen belanja dimanfaatkan, bukan diduplikasi oleh bundel platform.
- Organisasi teregulasi — Tim jasa keuangan, operasi kesehatan, dan pemerintah yang beban kerjanya harus tetap di dalam batasan privat.
- Tim platform — Satu gateway model yang disahkan melayani setiap inisiatif AI, dengan Ciao merutekan melaluinya seperti hal lainnya.
Catatan keamanan dan governance
Konfigurasi modelnya sendiri diatur governance-nya:
- ✓ Kunci provider sendiri, endpoint yang kompatibel dengan OpenAI, dan routing model privat tersedia pada paket enterprise.
- ✓ Di mana model yang dikelola Ciao digunakan, inferensi berjalan di bawah kontrak model tanpa retensi.
- ✓ Kode pelanggan tidak digunakan untuk melatih model — di bawah konfigurasi apa pun.
- ✓ SSO via SAML dan OIDC, MFA opsional, dan kontrol akses berbasis peran mengatur administrasi.
- ✓ Perubahan konfigurasi model dan aksi admin tercatat dalam jejak audit append-only.
- ✓ Laporan SOC 2 Type II tersedia di bawah NDA.
Opsi model di Ciao
Empat opsi yang saling melengkapi, bukan bersaing:
| Opsi | Apa itu | Kecocokan umum |
|---|---|---|
| Model ladder yang dikelola Ciao | Routing multi-provider dengan fallback, di bawah kontrak tanpa retensi | Tim yang menginginkan hasil tanpa mengelola vendor model |
| Kunci provider Anda | Inferensi melalui akun Anda sendiri dan syarat yang dinegosiasikan | Enterprise dengan perjanjian provider yang sudah ada dan komitmen belanja |
| Endpoint yang kompatibel dengan OpenAI | Endpoint kompatibel apa pun, termasuk model yang di-hosting secara privat | Organisasi yang menstandarkan pada sebuah gateway model atau hosting privat |
| Routing model privat | Kontrol administratif atas model mana yang menangani pekerjaan mana | Tim teregulasi dengan kebijakan model yang disetujui per beban kerja |
Pertanyaan yang sering diajukan
Bisakah kami memakai model yang kami hosting sendiri?
Ya. Routing bisa diarahkan ke endpoint yang kompatibel dengan OpenAI, yang mencakup model yang di-hosting di dalam lingkungan Anda sendiri. Dipadukan dengan deployment VPC privat atau on-prem untuk aplikasinya, seluruh loop-nya bisa berjalan dalam batasan yang Anda kendalikan.
Apakah ada kode kami yang pergi ke provider yang belum kami setujui?
Konfigurasi model sendiri ada justru untuk mencegah itu: routing dibatasi ke kunci dan endpoint Anda, dan perubahan konfigurasi dicatat dalam jejak audit append-only. Di mana model yang dikelola Ciao digunakan sebagai gantinya, inferensi berjalan di bawah kontrak tanpa retensi dan kode pelanggan tidak digunakan untuk melatih model.
Paket mana yang menyertakan bawa-LLM-sendiri?
Kunci provider sendiri, endpoint yang kompatibel dengan OpenAI, dan routing model privat adalah kemampuan paket enterprise. Program produksi serius mulai dari 10.000 USD per tahun — hubungi tim penjualan tentang konfigurasi yang dibutuhkan tim keamanan Anda.
Apakah kami kehilangan model ladder jika membawa model sendiri?
Tidak. Disiplin routing tugas dan fallback berlaku dalam himpunan model yang Anda setujui, sehingga Anda tetap mendapat ketahanan sebuah ladder tanpa melangkah keluar batasan governance Anda.
Bagaimana ini cocok dengan sandbox kustom dan deployment on-prem?
Semuanya saling melengkapi. Sandbox kustom membawa loop delivery ke stack Rails, Java, Go, Python, Node, atau multi-proses Anda yang sudah ada; deployment VPC privat dan on-prem (di bawah syarat terpisah) menjaga aplikasi tetap di dalam batasan Anda; routing model sendiri melakukan hal yang sama untuk inferensi.