---
term: "Low-Rank Adaptation"
slug: "low-rank-adaptation"
glossar_id: "G104"
variants: ["LoRA"]
category: "training-daten-und-modellanpassung"
marker: "Technik"
short: "Anpassung über zusätzliche niedrig-rangige Gewichtsmatrizen."
sources:
  - label: "Hugging Face LoRA"
    url: "https://huggingface.co/docs/peft/en/package_reference/lora"
status: "entwurf"
updated: "2026-09-20"
---

Low-Rank Adaptation, kurz LoRA, passt ein Modell über zusätzliche niedrig-rangige Gewichtsmatrizen an, während die ursprünglichen Gewichte eingefroren bleiben. ([Hugging Face LoRA](https://huggingface.co/docs/peft/en/package_reference/lora)) Zwei kleinere Matrizen bilden gemeinsam die trainierbare Änderung einer vorhandenen Gewichtsmatrix ab. ([Hugging Face LoRA](https://huggingface.co/docs/peft/en/package_reference/lora))

## So kannst du dir das vorstellen

Stell dir eine umfangreiche Grundeinstellung für eine Maschine vor. Statt jede einzelne Einstellung neu zu bearbeiten, ergänzt du ein kompaktes Korrekturmodul, das bestimmte Veränderungen gemeinsam beschreibt.

Die Grundeinstellung bleibt beim Trainieren dieses Moduls stehen. Die spätere Wirkung entsteht aus Basis und Korrektur zusammen. LoRA schrumpft in diesem Bild also nicht die ursprüngliche Maschine, sondern beschränkt die Form ihrer trainierbaren Anpassung.

## Was „Low Rank“ bedeutet

Eine Matrix ist eine rechteckige Anordnung von Zahlen; der Rang begrenzt hier die Ausdrucksmöglichkeiten der zusätzlichen Änderung. ([Hugging Face LoRA](https://huggingface.co/docs/peft/en/package_reference/lora)) Der konfigurierbare Wert `r` bestimmt die innere Dimension der beiden kleinen Matrizen und beeinflusst damit die Zahl der trainierbaren Adapterparameter. ([Hugging Face LoRA](https://huggingface.co/docs/peft/en/package_reference/lora))

Weitere Einstellungen legen fest, welche Modellschichten LoRA erhalten und wie stark die Änderung skaliert wird. ([Hugging Face LoRA](https://huggingface.co/docs/peft/en/package_reference/lora)) Ein Vergleich allein anhand des Rangs wäre deshalb unvollständig.

## Nicht dasselbe wie Modellkompression

LoRA beschreibt eine kompakte Gewichtsanpassung, keine niedrig-rangige Ersetzung sämtlicher ursprünglicher Modellgewichte. ([Hugging Face LoRA](https://huggingface.co/docs/peft/en/package_reference/lora)) Unterstützte LoRA-Adapter lassen sich für den Einsatz in die Basisgewichte einrechnen; alternativ können sie separat geladen bleiben. ([Hugging Face LoRA](https://huggingface.co/docs/peft/en/package_reference/lora))

Für einen Auftrag solltest du deshalb sowohl das verwendete Basismodell als auch die Adapterkonfiguration aufbewahren. Teste die angepasste Lösung gegen die unveränderte Basis und kontrolliere zusätzlich, ob das gewählte Ausgabeformat und wichtige allgemeine Fähigkeiten erhalten bleiben.

## Verwandte Begriffe

Zum Vergleich eignen sich **Parameter-Efficient Fine-Tuning**, **QLoRA**, **DoRA**, **rsLoRA** und **Adapter Merging**.