Kurz gesagt
Eine KI-Plattform on-premise läuft auf eurer eigenen Infrastruktur statt in der Cloud des Anbieters. Von neun geprüften Plattformen lassen sich drei selbst betreiben: Pharen Hub mit einer Self-Hosted-Lizenz ab 20 €, Mistral Vibe im Enterprise-Tarif und Langdock ab 5.000 Nutzern. DeutschlandGPT schließt On-Premise ausdrücklich aus. Microsoft 365 Copilot, Google Workspace, Notion AI und ChatGPT bieten es nicht an.
Pharen Hub ist ein Open Fair-Code AI Workspace aus Deutschland mit Team-Chat, Projekten, Dokumenten, Workflows und KI-Agenten. Er läuft auf Hetzner, Azure, AWS, Google Cloud oder einem eigenen Server und arbeitet mit kundeneigenen, self-hosted oder OpenAI-kompatiblen Modellen. Stand aller Angaben: 19. September 2026.
5.000 Nutzer. Ab dieser Größe nennt Langdock auf der eigenen Sicherheitsseite den Betrieb on-premise. DeutschlandGPT schreibt auf seiner Sicherheitsseite: „Wer On-Premises braucht, braucht ein anderes Modell.” Ein Betrieb mit 80 Leuten, der seine KI-Plattform on-premise betreiben will, findet bei den bekanntesten deutschen Anbietern also nichts.
Dieser Guide zeigt, welche Plattformen sich tatsächlich selbst hosten lassen, was das kostet und wann der Eigenbau mit Open-Source-Werkzeugen reicht. Wir sind selbst Anbieter, deshalb stammen die Angaben zu den anderen von deren eigenen Seiten, geprüft am 19. September 2026.
Welche KI-Plattform lässt sich on-premise betreiben?
| Anbieter | Sitz | On-Premise oder Self-Hosting | Bedingung | Modelle |
|---|---|---|---|---|
| Pharen Hub | Deutschland | Ja | Self-Hosted-Lizenz ab 20 €, keine Mindestnutzerzahl | Ausgewählte, kundeneigene, self-hosted oder OpenAI-kompatible Modelle |
| Mistral Vibe | Frankreich | Ja | Nur im Enterprise-Tarif | Mistral-Modelle, eigene Feinabstimmung im Enterprise-Tarif |
| Langdock | Deutschland | Ja | Single-Tenant ab 2.000, On-Premise ab 5.000 Nutzern | Über 40 Modelle, eigene API-Keys möglich |
| innoGPT | Deutschland (Vechta) | Im eigenen Blog genannt, auf der Sicherheitsseite nicht belegt | Beim Anbieter erfragen | Über 50 Modelle |
| DeutschlandGPT | Deutschland | Nein | Hosting in der Open Telekom Cloud, Magdeburg und Biere | GPT, Claude, Gemini, Llama, Mistral |
| Microsoft 365 Copilot | USA | Nein | EU Data Boundary, Anthropic-Modelle ausgenommen | Von Microsoft bereitgestellt |
| Google Workspace mit Gemini | USA | Nein | Datenregion EU ab Business Standard wählbar | Google-Modelle |
| Notion AI | USA | Nein | EU-Datenresidenz nur im Enterprise-Tarif | Drittanbieter als Unterauftragsverarbeiter |
| ChatGPT Business und Enterprise | USA | Nein | Europäische Datenresidenz laut OpenAI für neue Enterprise-Workspaces | OpenAI-Modelle |
Quellen: Langdock Security, DeutschlandGPT Sicherheit, innoGPT Datenschutz und Sicherheit, Mistral Vibe, Microsoft Learn zu Copilot und Datenschutz, Google Workspace Datenregionen, Notion Data Residency, OpenAI zur Datenresidenz in Europa.
Die vollständigen Tabellen zu Funktionsumfang, Preisen und Zertifikaten stehen im KI-Anbieter Vergleich 2026.
Was heißt on-premise bei einer KI-Plattform genau?
On-Premise heißt, dass die Plattform in einer Umgebung läuft, die ihr kontrolliert. Das kann ein Server im eigenen Haus sein oder eine eigene Instanz bei einem Hoster eurer Wahl. Pharen Hub läuft auf Hetzner, Azure, AWS, Google Cloud oder einem eigenen Server.
Zwei Ebenen müsst ihr trennen. Die erste ist die Plattform mit euren Aufgaben, Dokumenten, Kundendaten und Workflows. Die zweite ist das Sprachmodell, das die Anfragen verarbeitet. Ein selbst gehosteter Pharen Hub mit einem US-Modell dahinter schickt Anfragen an dieses Modell. Wer das ausschließen will, bindet ein eigenes oder ein self-hosted Modell an. Erst dann bleibt die gesamte Verarbeitung in eurer Umgebung.
Reicht ein Eigenbau mit Ollama, vLLM und Open WebUI?
Ein eigener Stack aus Ollama oder vLLM als Modell-Server und Open WebUI als Chat-Oberfläche ist an einem Nachmittag aufgesetzt. Für ein einzelnes Team, das Modelle ausprobieren will, ist das oft der richtige Weg: keine Lizenz, volle Kontrolle über die Modelle, alles bleibt auf dem eigenen Server.
So ein Stack deckt Modell-Serving, eine Chat-Oberfläche und meist eine einfache Dokumentensuche ab. Im Betrieb fehlen dann Rollen und Freigaben für Agenten, ein Protokoll darüber, wer wann welche Daten genutzt hat, die Anbindung an Mails, Kalender, Listen und Vorgänge sowie wiederholbare Workflow-Läufe mit Prüfschritten. Dazu braucht es jemanden, der Updates einspielt.
Der Eigenbau passt, wenn ein Team experimentiert und keine Compliance-Anforderung im Spiel ist. Ein gepflegtes Produkt wird günstiger, sobald mehrere Teams denselben Kontext teilen, Agenten Aufgaben mit Freigaben ausführen sollen oder eure IT Nachweise für den Datenschutz liefern muss.
Was kostet eine KI-Plattform on-premise?
Bei Pharen Hub beginnt die Self-Hosted-Lizenz bei 20 €. Dazu kommen eure eigenen Kosten für Server, Betrieb und die genutzten Modelle. Für Langdock und Mistral haben wir auf den Herstellerseiten keine öffentlichen Preise für den Betrieb on-premise gefunden.
Wer nicht selbst betreiben will, startet in der Managed Cloud: Free, Starter für 25 €, Team für 79 € und Pro für 199 € pro Workspace und Monat. Die Details stehen auf der Preisseite.
Quellen: Langdock Pricing, Mistral Pricing.
Wann lohnt sich on-premise, und wann nicht?
On-Premise ergibt Sinn, wenn Kundendaten bestimmte Umgebungen nicht verlassen dürfen, wenn eure IT Infrastruktur, Logs und Zugriffskonzepte selbst kontrollieren will oder wenn KI-Agenten mit sensiblen Dokumenten arbeiten sollen.
Die Managed Cloud passt besser, wenn ihr schnell starten wollt, kein eigenes Infrastrukturteam habt oder der erste Workflow nicht hochsensibel ist. Beim Self-Hosting tragt ihr die Verantwortung für Infrastruktur, Backups und Updates.
Eine Grenze nennen wir offen: Pharen Hub weist aktuell keine ISO-27001-Zertifizierung aus. Ist ein Zertifikat des Anbieters Einkaufsbedingung, betreibt ihr Pharen Hub in eurer eigenen, bereits zertifizierten Umgebung oder wählt einen Anbieter mit Zertifikat. Den Hintergrund zum Betrieb beschreibt der Guide zum Self-Hosted AI Workspace.
Häufige Fragen
Welche KI-Plattform kann ich auf eigenen Servern betreiben?
Von den neun geprüften Plattformen lassen sich drei selbst betreiben. Pharen Hub mit einer Self-Hosted-Lizenz ab 20 €, Mistral Vibe im Enterprise-Tarif und Langdock ab 5.000 Nutzern. DeutschlandGPT schließt On-Premise ausdrücklich aus, Microsoft, Google, Notion und OpenAI bieten es nicht an.
Ist eine KI-Plattform on-premise automatisch DSGVO-konform?
Nein. Beim Self-Hosting bleiben die Workspace-Daten auf eurer Infrastruktur, und ihr entscheidet über Speicherort, Zugriff und Löschung. Ob weitere Anbieter Daten verarbeiten, hängt von euren Modellen und Integrationen ab. Wie ihr das prüft, steht unter DSGVO-konforme KI.
Kann ich on-premise auch lokale Sprachmodelle nutzen?
Ja. Pharen Hub arbeitet je nach Setup mit kundeneigenen, self-hosted oder OpenAI-kompatiblen Modellen. Welche Modelle ihr anbindet, entscheidet ihr in der Konfiguration.
Können wir in der Cloud starten und später on-premise wechseln?
Viele Teams starten in der Managed Cloud, weil der Einstieg schneller ist, und prüfen Self-Hosting später. Wenn ihr diesen Weg plant, sprecht früh mit uns über euer Setup.
Was bedeutet Open Fair-Code bei Pharen Hub?
Der Code kann eingesehen und angepasst werden, die kommerzielle Nutzung ist lizenziert. Open Fair-Code ist nicht dasselbe wie Open Source. Die Einordnung steht unter Open Fair-Code AI Workspace.
Der Betrieb mit 80 Leuten vom Anfang muss also nicht auf 5.000 Nutzer wachsen. On-Premise gibt es für ihn, nur nicht bei den Anbietern, die in den meisten Listen oben stehen. Wenn ihr das mit einem eigenen Ablauf testen wollt, sprecht mit uns.
