Plataforma
Traga o seu próprio LLM para a entrega séria de software com IA
As suas chaves de fornecedor, endpoints compatíveis com OpenAI e routing de modelos privados nos planos empresariais — o ciclo de entrega completo, a correr sobre modelos que a sua organização aprovou.
Trazer o seu próprio LLM permite às empresas correr o Ciao nos seus próprios termos de modelo: as suas chaves de fornecedor, endpoints compatíveis com OpenAI — incluindo modelos hospedados de forma privada — e routing de modelos privados nos planos empresariais. Ao contrário de plataformas que forçam um único acordo de modelo empacotado, o Ciao mantém o ciclo de entrega — Builder, QA, Segurança, Guardrails — enquanto a inferência decorre sob acordos e fronteiras que as suas equipas jurídica e de segurança já aprovaram.
Publicado 2026-07-03 · Última atualização 2026-07-03
A sua plataforma de IA deve correr nos seus termos de modelo
Para muitas empresas, o obstáculo à engenharia assistida por IA não é a capacidade — é a governança de modelos. O jurídico negociou termos com fornecedores específicos. A segurança mantém uma lista aprovada. Algumas cargas de trabalho não podem cruzar uma fronteira privada de forma alguma. Uma plataforma que empacota o seu próprio acordo de modelo e pede que o aceite força uma escolha entre as suas políticas e a sua velocidade de entrega.
O Ciao remove essa escolha. Traga o seu próprio LLM: use as suas próprias chaves de fornecedor para que a inferência corra sob acordos que negociou, aponte o routing para endpoints compatíveis com OpenAI — incluindo modelos que hospeda de forma privada — e configure routing de modelos privados nos planos empresariais. O ciclo de entrega mantém-se; os modelos respondem-lhe a si.
Isto não é um caso raro. Na maioria das grandes organizações a questão do modelo está resolvida antes mesmo de a questão da plataforma ser colocada — e as plataformas que sobrevivem à revisão são as que se ajustam à resposta já assente em vez de tentarem reabri-la.
Como funciona trazer o seu próprio LLM
A configuração é administrativa e auditada — definida uma vez pelas pessoas responsáveis por ela, herdada por todos os que constroem.
1. Traga as suas chaves de fornecedor
A inferência corre contra as suas contas, sob os termos comerciais e de dados que a sua organização já negociou com o fornecedor.
2. Ou aponte para endpoints compatíveis com OpenAI
Qualquer endpoint que fale a API compatível com OpenAI pode servir a plataforma — incluindo modelos hospedados dentro da sua própria fronteira.
3. Configure routing de modelos privados
Decida que modelos tratam que trabalho entre os seus workspaces. Os planos empresariais tornam o routing uma decisão administrativa, não uma negociação por pedido.
4. Mantenha a disciplina do sistema
O fallback e o routing por tarefa ainda se aplicam dentro do conjunto que aprova — resiliência sem sair das suas fronteiras. A falha de um endpoint aprovado não bloqueia a entrega quando um segundo está configurado.
5. Governe-o como tudo o resto
SSO via SAML e OIDC, MFA opcional e RBAC controlam o acesso; a configuração e ações de administração chegam ao registo de auditoria apenas de acréscimo.
Porque é que isto importa
O suporte a modelos próprios transforma as conversas de aquisições mais difíceis em conversas curtas. Os dados fluem para fornecedores que escolheu, sob contratos que negociou, dentro de fronteiras que desenhou — para que a revisão da plataforma de IA deixe de ser uma nova negociação jurídica e passe a ser uma extensão de decisões já tomadas.
Também combina naturalmente com o resto de uma postura empresarial: implementação em VPC privada ou on-premise para as aplicações, sandboxes personalizadas para stacks existentes, e routing de modelos privados para a inferência. Cada peça responde ao mesmo princípio — o seu software, a sua infraestrutura, os seus modelos.
E mantém a opcionalidade onde pertence. Os fornecedores vão continuar a mudar; a economia de hospedagem vai continuar a mudar. Quando o routing é seu para configurar, essas mudanças tornam-se atualizações administrativas em vez de migrações de plataforma.
Quem traz os seus próprios modelos
O routing de modelos próprios é tipicamente conduzido pelas pessoas que assinam o registo de risco:
- CISOs e arquitetos de segurança — Inferência restringida a fornecedores aprovados ou endpoints privados, verificável em configuração em vez de prometida em slides.
- Empresas com acordos negociados — Contratos de fornecedor existentes e despesa comprometida postos a trabalhar em vez de duplicados por um pacote de plataforma.
- Organizações reguladas — Serviços financeiros, operações de saúde e equipas governamentais cujas cargas de trabalho têm de permanecer dentro de uma fronteira privada.
- Equipas de plataforma — Um gateway de modelos sancionado a servir cada iniciativa de IA, com o Ciao a encaminhar através dele como tudo o resto.
Notas de segurança e governança
A própria configuração de modelos é governada:
- ✓ Chaves de fornecedor próprias, endpoints compatíveis com OpenAI e routing de modelos privados estão disponíveis nos planos empresariais.
- ✓ Onde são usados modelos geridos pelo Ciao, a inferência decorre sob contratos de modelo com retenção zero.
- ✓ O código do cliente não é usado para treinar modelos — sob qualquer configuração.
- ✓ SSO via SAML e OIDC, MFA opcional e controlo de acesso baseado em funções regem a administração.
- ✓ As alterações de configuração de modelos e ações de administração chegam ao registo de auditoria apenas de acréscimo.
- ✓ Os relatórios SOC 2 Type II estão disponíveis sob NDA.
Opções de modelo no Ciao
Quatro opções que se compõem em vez de competir:
| Opção | O que é | Adequação típica |
|---|---|---|
| Sistema de modelos gerido pelo Ciao | Routing multi-fornecedor com fallback, sob contratos de retenção zero | Equipas que querem resultados sem gerir fornecedores de modelos |
| As suas chaves de fornecedor | Inferência através das suas próprias contas e termos negociados | Empresas com acordos de fornecedor existentes e despesa comprometida |
| Endpoint compatível com OpenAI | Qualquer endpoint compatível, incluindo modelos hospedados de forma privada | Organizações a padronizar num gateway de modelos ou hospedagem privada |
| Routing de modelos privados | Controlo administrativo sobre que modelos tratam que trabalho | Equipas reguladas com políticas de modelos aprovados por carga de trabalho |
Perguntas frequentes
Podemos usar modelos que hospedamos nós próprios?
Sim. O routing pode apontar para endpoints compatíveis com OpenAI, o que inclui modelos hospedados dentro do seu próprio ambiente. Combinado com a implementação em VPC privada ou on-premise para as aplicações, todo o ciclo pode correr dentro de fronteiras que controla.
Algum do nosso código vai para fornecedores que não aprovámos?
As configurações de modelo próprio existem precisamente para evitar isso: o routing é restringido às suas chaves e endpoints, e as alterações de configuração são registadas no registo de auditoria apenas de acréscimo. Onde são usados modelos geridos pelo Ciao em vez disso, a inferência decorre sob contratos de retenção zero e o código do cliente não é usado para treinar modelos.
Que planos incluem trazer o seu próprio LLM?
Chaves de fornecedor próprias, endpoints compatíveis com OpenAI e routing de modelos privados são capacidades de plano empresarial. Os programas de produção sérios começam em 10.000 USD por ano — fale com as vendas sobre a configuração de que a sua equipa de segurança precisa.
Perdemos o sistema de modelos se trouxermos os nossos próprios modelos?
Não. A disciplina de routing por tarefa e fallback aplica-se dentro do conjunto de modelos que aprova, para que mantenha a resiliência de um sistema sem sair das suas fronteiras de governança.
Como é que isto encaixa com sandboxes personalizadas e implementação on-premise?
Compõem-se. As sandboxes personalizadas trazem o ciclo de entrega à sua stack Rails, Java, Go, Python, Node ou multi-processo existente; a VPC privada e a implementação on-premise (sob termos separados) mantêm as aplicações dentro da sua fronteira; o routing de modelos próprios faz o mesmo para a inferência.