---
term: "GGML"
slug: "ggml"
glossar_id: "G580"
variants: []
category: "quantisierung-und-modellformate"
marker: "Technik"
short: "Tensorbibliothek und Name eines älteren Modellformats; Bedeutung auseinanderhalten."
sources:
  - label: "ggml: GGUF-Spezifikation"
    url: "https://github.com/ggml-org/ggml/blob/master/docs/gguf.md"
  - label: "llama.cpp"
    url: "https://github.com/ggml-org/llama.cpp"
status: "entwurf"
updated: "2026-09-21"
---

GGML bezeichnet zwei Dinge, die auseinandergehalten werden müssen. Zum einen eine Tensorbibliothek in C, also die Rechengrundlage, auf der lokale Laufzeitumgebungen aufsetzen. Zum anderen ein älteres Dateiformat, das inzwischen abgelöst ist. [ggml](https://github.com/ggml-org/ggml/blob/master/docs/gguf.md)

## Die Bibliothek lebt, das Format ist Geschichte

Als Bibliothek ist GGML aktiv und trägt die verbreiteten Werkzeuge für lokalen Modellbetrieb. Sie ist darauf ausgelegt, ohne schwergewichtige Abhängigkeiten auszukommen und auf Prozessoren ebenso zu laufen wie auf Grafikkarten. [llama.cpp](https://github.com/ggml-org/llama.cpp)

Als Dateiformat wurde GGML über Zwischenstufen durch GGUF ersetzt. Der Grund war fehlende Erweiterbarkeit: Die alten Formate speicherten Kennwerte als ungetypte Liste, sodass jede Neuerung ältere Dateien unlesbar machte. Modelldateien mit GGML im Namen stammen aus der Zeit davor und laufen mit aktuellen Werkzeugen nicht mehr.

## So kannst du dir das vorstellen

Ein Verlag und eine Buchreihe tragen denselben Namen. Der Verlag arbeitet weiter, die Reihe wurde eingestellt. Wer über „die Reihe" spricht, meint etwas anderes als jemand, der den Verlag meint. Das Bild erklärt die Doppelbedeutung, es beschreibt keine Technik.

## Was es in der Praxis konkret bedeutet

Wenn dir eine Modelldatei mit GGML im Namen begegnet, ist sie veraltet. Suche nach einer Fassung im Nachfolgeformat, statt Zeit in Umwandlung zu stecken. Und wenn in einer Diskussion GGML genannt wird, kläre kurz, ob die Bibliothek oder das alte Format gemeint ist. Die Verwechslung führt regelmäßig zu aneinander vorbeigeredeten Antworten.

## Wo es verwechselt wird

Genau hier: Bibliothek gegen Dateiformat. Und die Bibliothek ist nicht dasselbe wie die darauf aufbauenden Programme, auch wenn die Namen im Alltag durcheinandergehen.

## Verwandte Begriffe

**GGUF**, **llama.cpp**, **K-Quants**, **Quantization**, **Local LLM**, **safetensors**.