Prompting und Gesprächsgestaltung
Soft Prompt
Heißt auch Soft Prompt Tuning.
Anpassung gelernter Promptrepräsentationen statt ausschließlich geschriebener Anweisungen.
Ein Soft Prompt ist eine zusätzliche Folge trainierbarer Zahlenvektoren, die ein Sprachmodell auf eine bestimmte Aufgabe ausrichten soll. Lester et al.: Prompt Tuning Anders als ein gewöhnlicher Textprompt muss diese gelernte Repräsentation keinen lesbaren Wörtern oder gültigen Vokabeln entsprechen. Lester et al.: Prompt Tuning
Zahlenrepräsentation statt ausformulierter Anweisung
Sprachmodelle verarbeiten Textbausteine intern als Zahlenrepräsentationen, sogenannte Embeddings. Lester et al.: Prompt Tuning Ein Soft Prompt setzt an dieser Darstellung an: Zusätzliche Vektoren werden direkt vor die eingebettete eigentliche Eingabe gesetzt. Lester et al.: Prompt Tuning
Beim Soft Prompt Tuning werden diese zusätzlichen Parameter anhand von Trainingsbeispielen angepasst, während die Gewichte des zugrunde liegenden Sprachmodells unverändert bleiben. Lester et al.: Prompt Tuning Die ursprüngliche Arbeit verwendet dafür Backpropagation, also ein Verfahren zur Berechnung der für das Training benötigten Änderungsrichtungen. Lester et al.: Prompt Tuning
„Soft“ beschreibt hier die kontinuierlich veränderbaren Zahlenwerte und bedeutet nicht „freundlich formuliert“ oder „weniger verbindlich“. Lester et al.: Prompt Tuning Ein sehr höflicher Textauftrag ist deshalb weiterhin ein gewöhnlicher Textprompt.
So kannst du dir das vorstellen
Stell dir als vereinfachte Analogie ein Gerät mit einem zusätzlichen, einlernbaren Einstellmodul vor. Das Hauptgerät bleibt unverändert, während das Modul für eine bestimmte Aufgabe passend eingestellt wird.
Für eine hypothetische Zuordnung von Servicemeldungen könnten Trainingsbeispiele die gewünschten Kategorien zeigen. Angepasst würde in diesem Bild das kleine vorgeschaltete Modul, nicht das gesamte Hauptgerät.
Die Analogie hat eine Grenze: Ein Soft Prompt ist kein mechanischer Regler und kein Satz, den du anschließend aus dem Einstellmodul ablesen könntest. Er besteht aus gelernten Zahlenrepräsentationen. Lester et al.: Prompt Tuning
Nicht einfach in das Chatfenster kopieren
Die ursprüngliche Untersuchung beschreibt gelernte Soft Prompts überwiegend als schwer interpretierbar. Lester et al.: Prompt Tuning Ihre Verwendung erfolgt auf der Ebene der Eingaberepräsentationen und nicht dadurch, dass eine optimierte lesbare Formulierung in den Chat geschrieben wird. Lester et al.: Prompt Tuning
Der Soft Prompt bezeichnet somit das gelernte Artefakt; Prompt Tuning beschreibt das dazugehörige Anpassungsverfahren. Lester et al.: Prompt Tuning Beide Begriffe hängen eng zusammen, sind aber nicht mit gewöhnlichem Umschreiben einer Arbeitsanweisung gleichzusetzen.
Verwandte Begriffe
Prompt Tuning, Embedding, PEFT, Prompt Engineering, In-Context Learning.