Plateforme

Apportez votre propre LLM pour une livraison logicielle IA sérieuse

Vos clés de fournisseur, des endpoints compatibles OpenAI et un routage de modèle privé sur les plans enterprise — tout le cycle de livraison, tournant sur des modèles que votre organisation a approuvés.

Apporter votre propre LLM permet aux entreprises de faire tourner Ciao selon leurs propres conditions de modèle : vos clés de fournisseur, des endpoints compatibles OpenAI — y compris des modèles hébergés en privé — et un routage de modèle privé sur les plans enterprise. Contrairement aux plateformes qui imposent un arrangement de modèle unique, Ciao garde le cycle de livraison — Builder, QA, Security, Guardrails — pendant que l'inférence s'exécute sous des accords et des frontières que vos équipes sécurité et juridique ont déjà approuvés.

Idéal pourPolicies de fournisseurs approuvésAccords de modèle négociésFrontières de données privées

Publié 2026-07-03 · Dernière mise à jour 2026-07-03

Votre plateforme IA devrait tourner selon vos conditions de modèle

Pour beaucoup d'entreprises, le blocage à l'ingénierie assistée par IA n'est pas la capacité — c'est la gouvernance des modèles. Le juridique a négocié des conditions avec des fournisseurs spécifiques. La sécurité maintient une liste approuvée. Certaines charges de travail ne doivent jamais traverser une frontière privée. Une plateforme qui regroupe son propre arrangement de modèle et vous demande de l'accepter force un choix entre vos policies et votre vitesse de livraison.

Ciao supprime ce choix. Apportez votre propre LLM : utilisez vos propres clés de fournisseur pour que l'inférence tourne sous des accords que vous avez négociés, pointez le routage vers des endpoints compatibles OpenAI — y compris des modèles que vous hébergez en privé — et configurez le routage de modèle privé sur les plans enterprise. Le cycle de livraison reste ; les modèles vous répondent.

Ce n'est pas un cas limite. Dans la plupart des grandes organisations, la question du modèle est réglée avant même que la question de la plateforme ne soit posée — et les plateformes qui survivent à la revue sont celles qui s'adaptent à la réponse réglée plutôt que d'essayer de la rouvrir.

Comment fonctionne apporter-votre-propre-LLM

La configuration est administrative et auditée — définie une fois par les personnes responsables, héritée par tous ceux qui construisent.

  1. 1. Apportez vos clés de fournisseur

    L'inférence tourne contre vos comptes, sous les conditions commerciales et de données que votre organisation a déjà négociées avec le fournisseur.

  2. 2. Ou pointez vers des endpoints compatibles OpenAI

    Tout endpoint parlant l'API compatible OpenAI peut servir la plateforme — y compris des modèles hébergés à l'intérieur de votre propre périmètre.

  3. 3. Configurez le routage de modèle privé

    Décidez quels modèles gèrent quel travail à travers vos workspaces. Les plans enterprise font du routage une décision administrative, pas une négociation par prompt.

  4. 4. Gardez la discipline d'échelle

    Le repli et le routage par tâche s'appliquent toujours au sein de l'ensemble que vous approuvez — de la résilience sans sortir de vos frontières. La panne d'un endpoint approuvé ne bloque pas la livraison quand un second est configuré.

  5. 5. Gouvernez-le comme tout le reste

    SSO via SAML et OIDC, MFA optionnelle et RBAC contrôlent l'accès ; les changements de configuration et actions admin atterrissent dans l'audit trail append-only.

Pourquoi c'est important

Le support des modèles propres transforme les conversations de procurement les plus difficiles en conversations courtes. Les données circulent vers les fournisseurs que vous avez choisis, sous des contrats que vous avez négociés, à l'intérieur de frontières que vous avez tracées — si bien que la revue de plateforme IA cesse d'être une nouvelle négociation juridique et devient une extension de décisions déjà prises.

Cela s'associe aussi naturellement au reste d'une posture enterprise : déploiement VPC privé ou on-prem pour les applications, sandboxes personnalisées pour les stacks existants, et routage de modèle privé pour l'inférence. Chaque pièce répond au même principe — votre logiciel, votre infrastructure, vos modèles.

Et cela garde l'optionalité là où elle appartient. Les fournisseurs continueront de changer ; l'économie de l'hébergement continuera d'évoluer. Quand le routage est à vous de configurer, ces évolutions deviennent des mises à jour administratives plutôt que des migrations de plateforme.

Qui apporte ses propres modèles

Le routage de modèle propre est typiquement piloté par les personnes qui signent le registre des risques :

  • RSSI et architectes sécurité — Inférence contrainte aux fournisseurs approuvés ou endpoints privés, vérifiable dans la configuration plutôt que promise dans des slides.
  • Entreprises avec des accords négociés — Des contrats de fournisseur existants et des dépenses engagées mis au travail au lieu d'être dupliqués par un bundle de plateforme.
  • Organisations réglementées — Équipes des services financiers, des opérations de santé et du secteur public dont les charges de travail doivent rester à l'intérieur d'une frontière privée.
  • Équipes plateforme — Une passerelle de modèle sanctionnée servant chaque initiative IA, avec Ciao qui route à travers elle comme tout le reste.

Notes sur la sécurité et la gouvernance

La configuration du modèle elle-même est gouvernée :

  • ✓ Les propres clés de fournisseur, endpoints compatibles OpenAI et routage de modèle privé sont disponibles sur les plans enterprise.
  • ✓ Là où des modèles gérés par Ciao sont utilisés, l'inférence s'exécute sous des contrats modèle à conservation zéro.
  • ✓ Le code client n'est pas utilisé pour entraîner les modèles — sous aucune configuration.
  • ✓ SSO via SAML et OIDC, MFA optionnelle et contrôle d'accès basé sur les rôles gouvernent l'administration.
  • ✓ Les changements de configuration de modèle et actions admin atterrissent dans l'audit trail append-only.
  • ✓ Les rapports SOC 2 Type II sont disponibles sous NDA.

Options de modèle sur Ciao

Quatre options qui se combinent plutôt qu'elles ne s'opposent :

OptionCe que c'estAdéquation typique
Échelle de modèles gérée par CiaoRoutage multi-fournisseurs avec repli, sous contrats à conservation zéroÉquipes qui veulent des résultats sans gérer des fournisseurs de modèles
Vos clés de fournisseurInférence via vos propres comptes et conditions négociéesEntreprises avec des accords de fournisseur existants et des dépenses engagées
Endpoint compatible OpenAITout endpoint compatible, y compris des modèles hébergés en privéOrganisations qui standardisent sur une passerelle de modèle ou un hébergement privé
Routage de modèle privéContrôle administratif sur quels modèles gèrent quel travailÉquipes réglementées avec des policies de modèles approuvés par charge de travail

Questions fréquentes

Pouvons-nous utiliser des modèles que nous hébergeons nous-mêmes ?

Oui. Le routage peut pointer vers des endpoints compatibles OpenAI, ce qui inclut des modèles hébergés à l'intérieur de votre propre environnement. Combiné avec un déploiement VPC privé ou on-prem pour les applications, tout le cycle peut tourner à l'intérieur de frontières que vous contrôlez.

Une partie de notre code va-t-elle vers des fournisseurs que nous n'avons pas approuvés ?

Les configurations de modèle propre existent précisément pour empêcher cela : le routage est contraint à vos clés et endpoints, et les changements de configuration sont enregistrés dans l'audit trail append-only. Là où des modèles gérés par Ciao sont utilisés à la place, l'inférence s'exécute sous des contrats à conservation zéro et le code client n'est pas utilisé pour entraîner les modèles.

Quels plans incluent apporter-votre-propre-LLM ?

Les propres clés de fournisseur, endpoints compatibles OpenAI et routage de modèle privé sont des capacités de plan enterprise. Les programmes de production sérieux démarrent à 10 000 USD par an — parlez aux ventes de la configuration dont votre équipe sécurité a besoin.

Perdons-nous l'échelle de modèles si nous apportons nos propres modèles ?

Non. Le routage par tâche et la discipline de repli s'appliquent au sein de l'ensemble de modèles que vous approuvez, si bien que vous gardez la résilience d'une échelle sans sortir de vos frontières de gouvernance.

Comment cela s'articule-t-il avec les sandboxes personnalisées et le déploiement on-prem ?

Ils se combinent. Les sandboxes personnalisées apportent le cycle de livraison à votre stack Rails, Java, Go, Python, Node ou multi-processus existant ; le déploiement VPC privé et on-prem (sous conditions séparées) gardent les applications à l'intérieur de votre périmètre ; le routage de modèle propre fait de même pour l'inférence.

Pages associées

Un développement sérieux commence par une responsabilité sérieuse.

Apportez votre propre LLM : clés, routage privé | Ciao