Plattform
Bring dein eigenes LLM für ernsthafte KI-Softwarelieferung
Deine Provider-Keys, OpenAI-kompatible Endpunkte und privates Modell-Routing bei Enterprise-Plänen — der vollständige Delivery-Loop, laufend auf Modellen, die deine Organisation genehmigt hat.
Bring dein eigenes LLM lässt Unternehmen Ciao zu ihren eigenen Modellbedingungen betreiben: deine Provider-Keys, OpenAI-kompatible Endpunkte — einschließlich privat gehosteter Modelle — und privates Modell-Routing bei Enterprise-Plänen. Anders als Plattformen, die eine gebündelte Modellvereinbarung erzwingen, behält Ciao den Delivery-Loop — Builder, QA, Security, Guardrails —, während Inferenz unter Vereinbarungen und Grenzen läuft, die deine Sicherheits- und Rechtsteams bereits genehmigt haben.
Veröffentlicht 2026-07-03 · Zuletzt aktualisiert 2026-07-03
Deine KI-Plattform sollte zu deinen Modellbedingungen laufen
Für viele Unternehmen ist die Blockade für KI-gestütztes Engineering nicht Fähigkeit — es ist Modell-Governance. Recht hat Bedingungen mit bestimmten Anbietern ausgehandelt. Sicherheit pflegt eine genehmigte Liste. Manche Workloads dürfen eine private Grenze überhaupt nicht überschreiten. Eine Plattform, die ihre eigene Modellvereinbarung bündelt und dich bittet, sie zu akzeptieren, erzwingt eine Wahl zwischen deinen Richtlinien und deiner Liefergeschwindigkeit.
Ciao entfernt diese Wahl. Bring dein eigenes LLM: Nutze deine eigenen Provider-Keys, sodass Inferenz unter Vereinbarungen läuft, die du ausgehandelt hast, zeige das Routing auf OpenAI-kompatible Endpunkte — einschließlich Modelle, die du privat hostest — und konfiguriere privates Modell-Routing bei Enterprise-Plänen. Der Delivery-Loop bleibt; die Modelle antworten dir.
Das ist kein Randfall. In den meisten großen Organisationen ist die Modellfrage geklärt, bevor die Plattformfrage überhaupt gestellt wird — und die Plattformen, die die Prüfung überleben, sind die, die zur geklärten Antwort passen, statt zu versuchen, sie neu zu öffnen.
Wie Bring-your-own-LLM funktioniert
Konfiguration ist administrativ und auditiert — einmal von den dafür Verantwortlichen festgelegt, geerbt von jedem, der baut.
1. Bring deine Provider-Keys mit
Inferenz läuft gegen deine Konten, unter den kommerziellen und Datenbedingungen, die deine Organisation bereits mit dem Anbieter ausgehandelt hat.
2. Oder zeige auf OpenAI-kompatible Endpunkte
Jeder Endpunkt, der die OpenAI-kompatible API spricht, kann die Plattform bedienen — einschließlich Modelle, die innerhalb deiner eigenen Grenze gehostet werden.
3. Privates Modell-Routing konfigurieren
Entscheide, welche Modelle welche Arbeit über deine Workspaces hinweg übernehmen. Enterprise-Pläne machen Routing zu einer administrativen Entscheidung, nicht zu einer Verhandlung pro Prompt.
4. Leiter-Disziplin beibehalten
Fallback und Aufgaben-Routing gelten weiterhin innerhalb der von dir genehmigten Menge — Widerstandsfähigkeit, ohne deine Grenzen zu verlassen. Der Ausfall eines genehmigten Endpunkts stoppt die Lieferung nicht, wenn ein zweiter konfiguriert ist.
5. Wie alles andere kontrollieren
SSO via SAML und OIDC, optionale MFA und RBAC kontrollieren den Zugriff; Konfiguration und administrative Aktionen landen im unveränderlichen Audit-Protokoll.
Warum es wichtig ist
Unterstützung eigener Modelle verwandelt die schwierigsten Beschaffungsgespräche in kurze. Daten fließen zu Anbietern, die du gewählt hast, unter Verträgen, die du ausgehandelt hast, innerhalb von Grenzen, die du gezogen hast — sodass die Prüfung der KI-Plattform aufhört, eine neue Rechtsverhandlung zu sein, und zu einer Erweiterung bereits getroffener Entscheidungen wird.
Es passt auch natürlich zum Rest einer Enterprise-Haltung: private VPC- oder On-Prem-Deployment für die Anwendungen, individuelle Sandboxes für bestehende Stacks, und privates Modell-Routing für Inferenz. Jedes Teil antwortet auf dasselbe Prinzip — deine Software, deine Infrastruktur, deine Modelle.
Und es bewahrt Optionalität, wo sie hingehört. Anbieter werden sich weiter ändern; Hosting-Ökonomie wird sich weiter verschieben. Wenn Routing deins ist, um es zu konfigurieren, werden diese Verschiebungen zu administrativen Updates statt zu Plattform-Migrationen.
Wer eigene Modelle mitbringt
Eigenes-Modell-Routing wird typischerweise von denen vorangetrieben, die das Risikoregister unterschreiben:
- CISOs und Sicherheitsarchitekten — Inferenz beschränkt auf genehmigte Anbieter oder private Endpunkte, verifizierbar in der Konfiguration statt in Folien versprochen.
- Unternehmen mit ausgehandelten Vereinbarungen — Bestehende Anbieterverträge und zugesagte Ausgaben werden genutzt, statt von einem Plattform-Bundle dupliziert zu werden.
- Regulierte Organisationen — Finanzdienstleistungen, Gesundheitswesen-Betrieb und Regierungsteams, deren Workloads innerhalb einer privaten Grenze bleiben müssen.
- Plattformteams — Ein sanktioniertes Modell-Gateway, das jede KI-Initiative bedient, mit Ciao-Routing dadurch wie alles andere.
Hinweise zu Sicherheit und Governance
Die Modellkonfiguration selbst ist kontrolliert:
- ✓ Eigene Provider-Keys, OpenAI-kompatible Endpunkte und privates Modell-Routing sind bei Enterprise-Plänen verfügbar.
- ✓ Wo Ciao-verwaltete Modelle genutzt werden, läuft Inferenz unter Zero-Retention-Modellverträgen.
- ✓ Kundencode wird nicht zum Training von Modellen verwendet — unter jeder Konfiguration.
- ✓ SSO via SAML und OIDC, optionale MFA und rollenbasierte Zugriffskontrolle kontrollieren die Verwaltung.
- ✓ Modellkonfigurationsänderungen und administrative Aktionen landen im unveränderlichen Audit-Protokoll.
- ✓ SOC 2 Type II Berichte sind unter NDA verfügbar.
Modelloptionen auf Ciao
Vier Optionen, die sich zusammensetzen statt zu konkurrieren:
| Option | Was sie ist | Typische Passung |
|---|---|---|
| Ciao-verwaltete Modellleiter | Multi-Provider-Routing mit Fallback, unter Zero-Retention-Verträgen | Teams, die Ergebnisse wollen, ohne Modellanbieter zu verwalten |
| Deine Provider-Keys | Inferenz über deine eigenen Konten und ausgehandelten Bedingungen | Unternehmen mit bestehenden Anbieterverträgen und zugesagten Ausgaben |
| OpenAI-kompatibler Endpunkt | Jeder kompatible Endpunkt, einschließlich privat gehosteter Modelle | Organisationen, die auf ein Modell-Gateway oder privates Hosting standardisieren |
| Privates Modell-Routing | Administrative Kontrolle darüber, welche Modelle welche Arbeit übernehmen | Regulierte Teams mit genehmigten Modellrichtlinien pro Workload |
Häufig gestellte Fragen
Können wir Modelle nutzen, die wir selbst hosten?
Ja. Routing kann auf OpenAI-kompatible Endpunkte zeigen, was Modelle einschließt, die innerhalb deiner eigenen Umgebung gehostet werden. Kombiniert mit privater VPC oder On-Prem-Deployment für die Anwendungen kann der gesamte Kreislauf innerhalb von Grenzen laufen, die du kontrollierst.
Geht irgendetwas von unserem Code an Anbieter, die wir nicht genehmigt haben?
Eigene-Modell-Konfigurationen existieren genau, um das zu verhindern: Routing ist auf deine Keys und Endpunkte beschränkt, und Konfigurationsänderungen werden im unveränderlichen Audit-Protokoll erfasst. Wo stattdessen Ciao-verwaltete Modelle genutzt werden, läuft Inferenz unter Zero-Retention-Verträgen, und Kundencode wird nicht zum Training von Modellen verwendet.
Welche Pläne beinhalten Bring-your-own-LLM?
Eigene Provider-Keys, OpenAI-kompatible Endpunkte und privates Modell-Routing sind Enterprise-Plan-Fähigkeiten. Ernsthafte Produktionsprogramme beginnen bei 10.000 USD pro Jahr — sprich mit dem Vertrieb über die Konfiguration, die dein Sicherheitsteam braucht.
Verlieren wir die Modellleiter, wenn wir unsere eigenen Modelle mitbringen?
Nein. Aufgaben-Routing und Fallback-Disziplin gelten innerhalb der Menge der Modelle, die du genehmigst, sodass du die Widerstandsfähigkeit einer Leiter behältst, ohne deine Governance-Grenzen zu verlassen.
Wie passt das zu individuellen Sandboxes und On-Prem-Deployment?
Sie setzen sich zusammen. Individuelle Sandboxes bringen den Delivery-Loop zu deinem bestehenden Rails-, Java-, Go-, Python-, Node- oder Multi-Prozess-Stack; private VPC- und On-Prem-Deployment (unter separaten Bedingungen) halten die Anwendungen innerhalb deiner Grenze; eigenes-Modell-Routing tut dasselbe für Inferenz.