प्लेटफ़ॉर्म
गंभीर AI सॉफ़्टवेयर डिलीवरी के लिए अपना LLM लाना
एंटरप्राइज़ प्लान पर आपकी प्रोवाइडर कीज़, OpenAI-कंपैटिबल एंडपॉइंट्स और निजी मॉडल रूटिंग — पूरा डिलीवरी लूप, उन मॉडलों पर चलता हुआ जिन्हें आपके संगठन ने स्वीकृत किया है।
अपना LLM लाना एंटरप्राइज़ को Ciao को अपनी मॉडल शर्तों पर चलाने देता है: आपकी प्रोवाइडर कीज़, OpenAI-कंपैटिबल एंडपॉइंट्स — निजी रूप से होस्ट किए गए मॉडलों सहित — और एंटरप्राइज़ प्लान पर निजी मॉडल रूटिंग। उन प्लेटफ़ॉर्मों के विपरीत जो एक बंडल मॉडल व्यवस्था थोपते हैं, Ciao डिलीवरी लूप — Builder, QA, Security, Guardrails — बनाए रखता है जबकि इंफ़रेंस उन समझौतों और सीमाओं के तहत चलता है जिन्हें आपकी सिक्योरिटी और लीगल टीमें पहले ही स्वीकृत कर चुकी हैं।
प्रकाशित 2026-07-03 · आख़िरी बार अपडेट किया गया 2026-07-03
आपका AI प्लेटफ़ॉर्म आपकी मॉडल शर्तों पर चलना चाहिए
कई एंटरप्राइज़ के लिए, AI-सहायता प्राप्त इंजीनियरिंग की रुकावट क्षमता नहीं है — यह मॉडल गवर्नेंस है। लीगल ने विशिष्ट प्रोवाइडरों के साथ शर्तें तय की हैं। सिक्योरिटी एक स्वीकृत सूची बनाए रखती है। कुछ वर्कलोड को कभी किसी निजी सीमा को पार नहीं करना चाहिए। एक प्लेटफ़ॉर्म जो अपनी मॉडल व्यवस्था बंडल करता है और आपको उसे स्वीकार करने के लिए कहता है, आपकी पॉलिसी और आपकी डिलीवरी स्पीड के बीच एक चुनाव मजबूर करता है।
Ciao वह चुनाव हटा देता है। अपना LLM लाएं: अपनी प्रोवाइडर कीज़ इस्तेमाल करें ताकि इंफ़रेंस उन समझौतों के तहत चले जो आपने बातचीत किए, रूटिंग को OpenAI-कंपैटिबल एंडपॉइंट्स पर इंगित करें — उन मॉडलों सहित जिन्हें आप निजी रूप से होस्ट करते हैं — और एंटरप्राइज़ प्लान पर निजी मॉडल रूटिंग कॉन्फ़िगर करें। डिलीवरी लूप रहता है; मॉडल आपको जवाबदेह हैं।
यह कोई किनारे की स्थिति नहीं है। ज़्यादातर बड़े संगठनों में मॉडल का सवाल प्लेटफ़ॉर्म का सवाल पूछे जाने से पहले ही तय हो जाता है — और जो प्लेटफ़ॉर्म समीक्षा में टिकते हैं वे वही हैं जो उस तय जवाब को फिर से खोलने की कोशिश करने के बजाय उसमें फ़िट होते हैं।
अपना-LLM-लाना कैसे काम करता है
कॉन्फ़िगरेशन प्रशासनिक और ऑडिट किया गया है — इसके लिए जवाबदेह लोगों द्वारा एक बार सेट किया गया, बनाने वाले हर व्यक्ति द्वारा विरासत में लिया गया।
1. अपनी प्रोवाइडर कीज़ लाएं
इंफ़रेंस आपके अकाउंट के खिलाफ़ चलता है, उन वाणिज्यिक और डेटा शर्तों के तहत जो आपके संगठन ने प्रोवाइडर के साथ पहले ही तय की हैं।
2. या OpenAI-कंपैटिबल एंडपॉइंट्स पर इंगित करें
OpenAI-कंपैटिबल API बोलने वाला कोई भी एंडपॉइंट प्लेटफ़ॉर्म की सेवा कर सकता है — आपकी अपनी सीमा के भीतर होस्ट किए गए मॉडलों सहित।
3. निजी मॉडल रूटिंग कॉन्फ़िगर करें
तय करें कि आपके वर्कस्पेस में कौन से मॉडल कौन सा काम संभालते हैं। एंटरप्राइज़ प्लान रूटिंग को एक प्रशासनिक फ़ैसला बनाते हैं, प्रति-प्रॉम्प्ट बातचीत नहीं।
4. लैडर अनुशासन बनाए रखें
फ़ॉलबैक और टास्क रूटिंग आपकी स्वीकृत सेट के भीतर लागू होते रहते हैं — आपकी सीमाओं से बाहर निकले बिना लचीलापन। एक स्वीकृत एंडपॉइंट की विफलता तब डिलीवरी को नहीं रोकती जब दूसरा कॉन्फ़िगर हो।
5. इसे बाकी सब की तरह गवर्न करें
SAML और OIDC के ज़रिए SSO, वैकल्पिक MFA और RBAC एक्सेस नियंत्रित करते हैं; कॉन्फ़िगरेशन और एडमिन कार्रवाइयां अपेंड-ओनली ऑडिट ट्रेल में दर्ज होती हैं।
यह क्यों मायने रखता है
अपना-मॉडल सपोर्ट सबसे कठिन प्रोक्योरमेंट बातचीत को छोटी बना देता है। डेटा उन प्रोवाइडरों तक बहता है जिन्हें आपने चुना, उन कॉन्ट्रैक्ट के तहत जिनकी आपने बातचीत की, उन सीमाओं के भीतर जिन्हें आपने तय किया — इसलिए AI प्लेटफ़ॉर्म समीक्षा एक नई लीगल बातचीत बनना बंद कर देती है और पहले से लिए गए फ़ैसलों का विस्तार बन जाती है।
यह एंटरप्राइज़ पोज़िशन के बाकी हिस्सों के साथ भी स्वाभाविक रूप से जुड़ता है: एप्लिकेशनों के लिए निजी VPC या ऑन-प्रेम डिप्लॉयमेंट, मौजूदा स्टैक के लिए कस्टम सैंडबॉक्स, और इंफ़रेंस के लिए निजी मॉडल रूटिंग। हर टुकड़ा एक ही सिद्धांत को जवाब देता है — आपका सॉफ़्टवेयर, आपका इंफ्रास्ट्रक्चर, आपके मॉडल।
और यह विकल्प को वहीं रखता है जहां वह होना चाहिए। प्रोवाइडर बदलते रहेंगे; होस्टिंग अर्थशास्त्र बदलता रहेगा। जब रूटिंग आपको कॉन्फ़िगर करने के लिए मिलती है, तो वे बदलाव प्लेटफ़ॉर्म माइग्रेशन के बजाय प्रशासनिक अपडेट बन जाते हैं।
अपने मॉडल कौन लाता है
अपना-मॉडल रूटिंग आमतौर पर उन लोगों द्वारा चलाई जाती है जो रिस्क रजिस्टर पर हस्ताक्षर करते हैं:
- CISO और सिक्योरिटी आर्किटेक्ट — इंफ़रेंस स्वीकृत प्रोवाइडरों या निजी एंडपॉइंट्स तक सीमित, स्लाइड में वादा किए जाने के बजाय कॉन्फ़िगरेशन में सत्यापन योग्य।
- बातचीत किए गए समझौतों वाले एंटरप्राइज़ — मौजूदा प्रोवाइडर कॉन्ट्रैक्ट और प्रतिबद्ध खर्च, प्लेटफ़ॉर्म बंडल द्वारा दोहराए जाने के बजाय काम में लगाए गए।
- रेगुलेटेड संगठन — फाइनेंशियल सर्विसेज़, हेल्थकेयर ऑपरेशन्स और सरकारी टीमें जिनके वर्कलोड को निजी सीमा के भीतर रहना चाहिए।
- प्लेटफ़ॉर्म टीमें — हर AI पहल की सेवा करने वाला एक स्वीकृत मॉडल गेटवे, Ciao उसके ज़रिए बाकी सब की तरह रूट करता है।
सिक्योरिटी और गवर्नेंस नोट्स
मॉडल कॉन्फ़िगरेशन खुद गवर्न किया गया है:
- ✓ अपनी प्रोवाइडर कीज़, OpenAI-कंपैटिबल एंडपॉइंट्स और निजी मॉडल रूटिंग एंटरप्राइज़ प्लान पर उपलब्ध हैं।
- ✓ जहां Ciao-प्रबंधित मॉडल इस्तेमाल होते हैं, इंफ़रेंस ज़ीरो-रिटेंशन मॉडल कॉन्ट्रैक्ट्स के तहत चलता है।
- ✓ ग्राहक का कोड मॉडल ट्रेनिंग के लिए इस्तेमाल नहीं होता — किसी भी कॉन्फ़िगरेशन के तहत।
- ✓ SAML और OIDC के ज़रिए SSO, वैकल्पिक MFA और रोल-आधारित एक्सेस कंट्रोल प्रशासन को नियंत्रित करते हैं।
- ✓ मॉडल कॉन्फ़िगरेशन बदलाव और एडमिन कार्रवाइयां अपेंड-ओनली ऑडिट ट्रेल में दर्ज होती हैं।
- ✓ NDA के तहत SOC 2 Type II रिपोर्ट उपलब्ध हैं।
Ciao पर मॉडल विकल्प
चार विकल्प जो प्रतिस्पर्धा के बजाय एक साथ काम करते हैं:
| विकल्प | यह क्या है | सामान्य फ़िट |
|---|---|---|
| Ciao-प्रबंधित मॉडल लैडर | ज़ीरो-रिटेंशन कॉन्ट्रैक्ट के तहत मल्टी-प्रोवाइडर रूटिंग फ़ॉलबैक के साथ | मॉडल वेंडरों को प्रबंधित किए बिना नतीजे चाहने वाली टीमें |
| आपकी प्रोवाइडर कीज़ | आपके अपने अकाउंट और बातचीत की गई शर्तों के ज़रिए इंफ़रेंस | मौजूदा प्रोवाइडर समझौतों और प्रतिबद्ध खर्च वाले एंटरप्राइज़ |
| OpenAI-कंपैटिबल एंडपॉइंट | कोई भी कंपैटिबल एंडपॉइंट, निजी रूप से होस्ट किए गए मॉडलों सहित | एक मॉडल गेटवे या निजी होस्टिंग पर मानकीकरण करने वाले संगठन |
| निजी मॉडल रूटिंग | यह प्रशासनिक नियंत्रण कि कौन से मॉडल कौन सा काम संभालते हैं | प्रति-वर्कलोड स्वीकृत-मॉडल पॉलिसी वाली रेगुलेटेड टीमें |
अक्सर पूछे जाने वाले सवाल
क्या हम खुद होस्ट किए गए मॉडलों का इस्तेमाल कर सकते हैं?
हां। रूटिंग OpenAI-कंपैटिबल एंडपॉइंट्स पर इंगित कर सकती है, जिसमें आपके अपने एनवायरनमेंट में होस्ट किए गए मॉडल शामिल हैं। एप्लिकेशनों के लिए निजी VPC या ऑन-प्रेम डिप्लॉयमेंट के साथ मिलकर, पूरा लूप उन सीमाओं के भीतर चल सकता है जिन्हें आप नियंत्रित करते हैं।
क्या हमारा कोई भी कोड उन प्रोवाइडरों के पास जाता है जिन्हें हमने स्वीकृत नहीं किया?
अपना-मॉडल कॉन्फ़िगरेशन ठीक इसी को रोकने के लिए मौजूद हैं: रूटिंग आपकी कीज़ और एंडपॉइंट्स तक सीमित है, और कॉन्फ़िगरेशन बदलाव अपेंड-ओनली ऑडिट ट्रेल में दर्ज होते हैं। जहां इसके बजाय Ciao-प्रबंधित मॉडल इस्तेमाल होते हैं, इंफ़रेंस ज़ीरो-रिटेंशन कॉन्ट्रैक्ट्स के तहत चलता है और ग्राहक का कोड मॉडल ट्रेनिंग के लिए इस्तेमाल नहीं होता।
कौन से प्लान अपना-LLM-लाना शामिल करते हैं?
अपनी प्रोवाइडर कीज़, OpenAI-कंपैटिबल एंडपॉइंट्स और निजी मॉडल रूटिंग एंटरप्राइज़-प्लान क्षमताएं हैं। गंभीर प्रोडक्शन प्रोग्राम USD 10,000 प्रति वर्ष से शुरू होते हैं — अपनी सिक्योरिटी टीम को जिस कॉन्फ़िगरेशन की ज़रूरत है उसके बारे में सेल्स से बात करें।
अगर हम अपने मॉडल लाएं तो क्या हम मॉडल लैडर खो देते हैं?
नहीं। टास्क रूटिंग और फ़ॉलबैक अनुशासन आपकी स्वीकृत मॉडल सेट के भीतर लागू होते हैं, इसलिए आप अपनी गवर्नेंस सीमाओं से बाहर निकले बिना एक लैडर का लचीलापन बनाए रखते हैं।
यह कस्टम सैंडबॉक्स और ऑन-प्रेम डिप्लॉयमेंट के साथ कैसे फ़िट होता है?
वे एक साथ काम करते हैं। कस्टम सैंडबॉक्स डिलीवरी लूप को आपके मौजूदा Rails, Java, Go, Python, Node या मल्टी-प्रोसेस स्टैक में लाते हैं; निजी VPC और ऑन-प्रेम डिप्लॉयमेंट (अलग शर्तों के तहत) एप्लिकेशनों को आपकी सीमा के भीतर रखते हैं; अपना-मॉडल रूटिंग इंफ़रेंस के लिए वही करता है।