Training, Daten und Modellanpassung
QLoRA
Heißt auch Quantized Low-Rank Adaptation.
LoRA-Training auf einem quantisierten Basismodell.
QLoRA verbindet LoRA-Anpassungen mit einem eingefrorenen, auf vier Bit quantisierten Basismodell. (Dettmers et al.) Trainiert werden die LoRA-Adapter, während Gradienten durch die Berechnungen mit der kompakten Basis zurückgeführt werden. (Dettmers et al.)
So kannst du dir das vorstellen
Stell dir ein großes technisches Nachschlagewerk vor, das für die Arbeit platzsparend aufbewahrt wird. Deine aufgabenspezifischen Änderungen schreibst du auf zusätzliche Blätter, statt jede Seite des ursprünglichen Werks neu zu bearbeiten.
Die Analogie trennt zwei Ideen: die kompaktere Darstellung der Grundlage und die gezielt trainierbaren Ergänzungen. Sie soll nicht suggerieren, dass Quantisierung lediglich verlustfreie Dateikompression wäre oder jedes Rechenergebnis unverändert bliebe.
Welche Bausteine zusammenkommen
Die Originalarbeit führt neben dem Vier-Bit-Format NormalFloat weitere Speicherspartechniken ein: Double Quantization quantisiert auch Quantisierungskonstanten, während Paged Optimizers Speicherengpässe durch zeitweise Spitzen adressieren. (Dettmers et al.) LoRA liefert dabei die kleinen trainierbaren Gewichtsanpassungen. (Dettmers et al.)
Die Aussage „vier Bit“ beschreibt somit nicht pauschal sämtliche Werte und Rechenschritte des Trainings. Entscheidend ist die Kombination aus quantisierter, eingefrorener Basis und trainierbaren Adaptern. (Dettmers et al.)
Speicherbedarf nicht aus einem Schlagwort ableiten
Die Autoren zeigen erhebliche Speicherersparnisse in ihren untersuchten Trainingskonfigurationen; diese Ergebnisse sind an die jeweiligen Modelle und Versuchsbedingungen gebunden. (Dettmers et al.) Übertrage daher keine einzelne Hardwareangabe ungeprüft auf dein eigenes Vorhaben.
Für eine belastbare Planung würde ich Modellversion, Sequenzlänge, Batch-Konfiguration und Adaptereinstellungen gemeinsam festhalten. Prüfe außerdem die tatsächlich trainierte Variante mit unabhängigen Aufgaben. „Passt in den Speicher“ ist eine technische Voraussetzung, aber noch kein Nachweis für die gewünschte fachliche Qualität oder für geringe Kosten im späteren Dauerbetrieb.
Verwandte Begriffe
Weitere Einordnung liefern Low-Rank Adaptation, Quantization, Parameter-Efficient Fine-Tuning, Optimizer und Adapter.