---
term: "Parameter-Efficient Fine-Tuning"
slug: "parameter-efficient-fine-tuning"
glossar_id: "G103"
variants: ["PEFT"]
category: "training-daten-und-modellanpassung"
marker: "Technik"
short: "Modellanpassung mit vergleichsweise wenigen trainierbaren Parametern."
sources:
  - label: "Hugging Face PEFT"
    url: "https://huggingface.co/docs/peft/en/index"
  - label: "Hugging Face LoRA"
    url: "https://huggingface.co/docs/peft/en/package_reference/lora"
status: "entwurf"
updated: "2026-09-20"
---

Parameter-Efficient Fine-Tuning, kurz PEFT, umfasst Anpassungsverfahren, bei denen vergleichsweise wenige Modellparameter trainiert werden. ([Hugging Face PEFT](https://huggingface.co/docs/peft/en/index)) Gegenüber der Anpassung aller Gewichte kann das den Trainingsaufwand und den Speicherbedarf für aufgabenspezifische Zusatzgewichte verringern. ([Hugging Face PEFT](https://huggingface.co/docs/peft/en/index))

## So kannst du dir das vorstellen

Stell dir eine große Maschine vor, die für verschiedene Produkte jeweils einen kleinen spezialisierten Aufsatz bekommt. Du baust nicht für jede Variante die gesamte Maschine neu.

Übertragen auf ein Modell wäre die Maschine die gemeinsame Basis und der Aufsatz eine angepasste Komponente. Für den Betrieb brauchst du aber weiterhin die Maschine. Ein kleines Zusatzpaket ist deshalb kein vollständiger Ersatz für das große Basismodell.

## Eine Methodenfamilie, kein einzelner Algorithmus

LoRA ist ein konkretes PEFT-Verfahren: Es ergänzt niedrig-rangige Gewichtsanpassungen und hält die ursprünglichen Gewichte während dieser Anpassung eingefroren. ([Hugging Face LoRA](https://huggingface.co/docs/peft/en/package_reference/lora)) Die gleichnamige Hugging-Face-Bibliothek PEFT stellt Werkzeuge für parameter-effiziente Anpassungen bereit; Bibliothek und Methodenbegriff sollten auseinandergehalten werden. ([Hugging Face PEFT](https://huggingface.co/docs/peft/en/index))

„Parameter-effizient“ beschreibt zunächst, wie viele Werte trainierbar sind. Es legt weder automatisch das Trainingsziel noch die Qualität des Datenbestands fest.

## Was die Einsparung nicht aussagt

Die PEFT-Dokumentation berichtet, dass solche Verfahren in vielen Fällen mit vollständigem Fine-Tuning vergleichbare Ergebnisse erreichen können; das ist keine Garantie für jede Aufgabe. ([Hugging Face PEFT](https://huggingface.co/docs/peft/en/index)) Bei LoRA müssen Basis und Adapter für die Anwendung zusammenpassen oder ihre Gewichte zu einer geeigneten gemeinsamen Modellversion zusammengeführt werden. ([Hugging Face LoRA](https://huggingface.co/docs/peft/en/package_reference/lora))

Vergleiche deshalb getrennt den Trainingsspeicher, die Größe der gespeicherten Anpassung und den späteren Betriebsbedarf. Für eine Entscheidung würde ich außerdem die Aufgabenqualität messen und dokumentieren, welche Version des Basismodells zur jeweiligen Anpassung gehört.

## Verwandte Begriffe

Die technischen Nachbarn sind **Fine-Tuning**, **Low-Rank Adaptation**, **QLoRA**, **Adapter** und **Adapter Merging**.