Modellzugang, Hosting und Unternehmensbereitstellung
On-Premises
Heißt auch On-Prem oder On-Premises Deployment.
Betrieb auf kundenseitig kontrollierter Hardware innerhalb der eigenen Infrastruktur.
On-Premises bezeichnet den Betrieb auf Hardware, die dem Betreiber gehört und in seinen Räumen oder seinem Rechenzentrum steht. Der Begriff stammt aus der Zeit vor der Cloud und beschreibt dort den Gegensatz zu gemieteter Software, die beim Anbieter läuft. On-premises software
Der Grund ist fast immer regulatorisch
Für Sprachmodelle ist der eigene Betrieb aufwendig: Grafikkarten beschaffen, Strom und Kühlung planen, Personal dafür abstellen. Wer das auf sich nimmt, tut es selten aus Kostengründen, sondern weil Vorgaben es verlangen. Typisch sind Berufsgeheimnisse, Patientendaten, Verschlusssachen oder Verträge, die eine Verarbeitung außerhalb des Hauses ausschließen.
Technisch unterscheidet sich der Betrieb kaum von dem auf gemieteten Maschinen. Dieselben Serverkomponenten laufen im eigenen Rechenzentrum wie in der Cloud, meist als Container. vLLM Der Unterschied liegt in Beschaffung, Wartung und Haftung.
So kannst du dir das vorstellen
Ein eigener Aktenkeller statt eines Schließfachs bei der Bank. Beides kann sicher sein. Beim eigenen Keller trägst du Schloss, Brandschutz und Schlüsselverwaltung selbst. Das Bild erklärt die Verlagerung der Verantwortung, es sagt nicht, welche Variante sicherer ist.
Was es in der Praxis konkret bedeutet
Wenn On-Premises im Raum steht, kläre zuerst, welche Anforderung dahintersteht. Häufig verlangt die Vorgabe nicht die eigene Hardware, sondern Verarbeitung in einem bestimmten Land, keine Nutzung der Daten zum Training oder Löschung nach kurzer Frist. Diese drei Punkte lassen sich auch vertraglich mit einem Anbieter regeln, zu deutlich geringeren Kosten. Steht die eigene Hardware wirklich fest, plane Ersatzteile und eine zweite Maschine ein, denn ein Ausfall trifft dann dich.
Wo es verwechselt wird
On-Premises und Private Cloud werden vermischt. Eine private Cloud kann beim Anbieter stehen, On-Premises steht bei dir. Und der eigene Betrieb löst das Datenschutzproblem nur zusammen mit Rechteverwaltung und Protokollierung, sonst liegen die Daten nur woanders offen.
Verwandte Begriffe
Self-Hosting, Private Deployment, Air-Gapped Deployment, Data Residency, Local LLM, Sovereign AI, EU AI Act.