---
term: "On-Premises"
slug: "on-premises"
glossar_id: "G496"
variants: ["On-Prem", "On-Premises Deployment"]
category: "modellzugang-hosting-und-unternehmensbereitstellung"
marker: ""
short: "Betrieb auf kundenseitig kontrollierter Hardware innerhalb der eigenen Infrastruktur."
sources:
  - label: "On-premises software"
    url: "https://en.wikipedia.org/wiki/On-premises_software"
  - label: "vLLM: Deployment mit Docker"
    url: "https://docs.vllm.ai/en/latest/deployment/docker.html"
status: "entwurf"
updated: "2026-09-21"
---

On-Premises bezeichnet den Betrieb auf Hardware, die dem Betreiber gehört und in seinen Räumen oder seinem Rechenzentrum steht. Der Begriff stammt aus der Zeit vor der Cloud und beschreibt dort den Gegensatz zu gemieteter Software, die beim Anbieter läuft. [On-premises software](https://en.wikipedia.org/wiki/On-premises_software)

## Der Grund ist fast immer regulatorisch

Für Sprachmodelle ist der eigene Betrieb aufwendig: Grafikkarten beschaffen, Strom und Kühlung planen, Personal dafür abstellen. Wer das auf sich nimmt, tut es selten aus Kostengründen, sondern weil Vorgaben es verlangen. Typisch sind Berufsgeheimnisse, Patientendaten, Verschlusssachen oder Verträge, die eine Verarbeitung außerhalb des Hauses ausschließen.

Technisch unterscheidet sich der Betrieb kaum von dem auf gemieteten Maschinen. Dieselben Serverkomponenten laufen im eigenen Rechenzentrum wie in der Cloud, meist als Container. [vLLM](https://docs.vllm.ai/en/latest/deployment/docker.html) Der Unterschied liegt in Beschaffung, Wartung und Haftung.

## So kannst du dir das vorstellen

Ein eigener Aktenkeller statt eines Schließfachs bei der Bank. Beides kann sicher sein. Beim eigenen Keller trägst du Schloss, Brandschutz und Schlüsselverwaltung selbst. Das Bild erklärt die Verlagerung der Verantwortung, es sagt nicht, welche Variante sicherer ist.

## Was es in der Praxis konkret bedeutet

Wenn On-Premises im Raum steht, kläre zuerst, welche Anforderung dahintersteht. Häufig verlangt die Vorgabe nicht die eigene Hardware, sondern Verarbeitung in einem bestimmten Land, keine Nutzung der Daten zum Training oder Löschung nach kurzer Frist. Diese drei Punkte lassen sich auch vertraglich mit einem Anbieter regeln, zu deutlich geringeren Kosten. Steht die eigene Hardware wirklich fest, plane Ersatzteile und eine zweite Maschine ein, denn ein Ausfall trifft dann dich.

## Wo es verwechselt wird

On-Premises und Private Cloud werden vermischt. Eine private Cloud kann beim Anbieter stehen, On-Premises steht bei dir. Und der eigene Betrieb löst das Datenschutzproblem nur zusammen mit Rechteverwaltung und Protokollierung, sonst liegen die Daten nur woanders offen.

## Verwandte Begriffe

**Self-Hosting**, **Private Deployment**, **Air-Gapped Deployment**, **Data Residency**, **Local LLM**, **Sovereign AI**, **EU AI Act**.