---
term: "Activation Patching"
slug: "activation-patching"
glossar_id: "G541"
variants: []
category: "interpretierbarkeit-und-fortgeschrittene-alignment-risiken"
marker: "Technik"
short: "Gezieltes Ersetzen interner Aktivierungen zum Testen ihrer kausalen Rolle."
sources:
  - label: "Meng et al.: Locating and Editing Factual Associations"
    url: "https://arxiv.org/abs/2202.05262"
  - label: "Zhang und Nanda: Towards Best Practices of Activation Patching"
    url: "https://arxiv.org/abs/2309.16042"
status: "entwurf"
updated: "2026-09-21"
---

Activation Patching prüft, ob eine interne Komponente ursächlich für ein Verhalten ist. Das Modell läuft zweimal mit leicht verschiedenen Eingaben, und aus dem einen Durchlauf werden Zwischenwerte in den anderen übertragen. Ändert sich das Ergebnis, war die Stelle beteiligt; bleibt es gleich, war sie es nicht. [Meng et al.](https://arxiv.org/abs/2202.05262)

## Ein Eingriff statt einer Korrelation

Der Unterschied zu beobachtenden Verfahren ist entscheidend. Dass eine Komponente bei einer Aufgabe stark aktiv ist, heißt nicht, dass sie die Arbeit macht. Erst der Eingriff zeigt, ob das Verhalten von ihr abhängt. Auf diesem Weg wurde etwa eingegrenzt, in welchem Teil eines Modells faktische Zusammenhänge abgelegt sind.

Die Ergebnisse hängen allerdings stark davon ab, wie gemessen wird und welche Gegenprobe gewählt ist. Eine Zusammenstellung von Vorgehensweisen zeigt, dass unterschiedliche Maße zu unterschiedlichen Schlüssen über dieselbe Komponente führen können. [Zhang und Nanda](https://arxiv.org/abs/2309.16042)

## So kannst du dir das vorstellen

Fehlersuche durch Bauteiltausch: Man setzt das Teil aus dem funktionierenden Gerät in das defekte und sieht, ob der Fehler verschwindet. Das Bild erklärt das Prinzip des Eingriffs, es setzt Modelle nicht mit Geräten gleich.

## Was es in der Praxis konkret bedeutet

Für eigene Anwendungen ist das Verfahren nicht gedacht, es setzt Zugriff auf die Modellinterna voraus. Übertragbar ist die Denkweise: Wenn du wissen willst, ob ein Teil deines Prompts wirkt, entferne oder ersetze genau diesen Teil und vergleiche die Ergebnisse. Das ist derselbe Gedanke, eine Ebene höher.

## Wo es verwechselt wird

Patching verändert nur einen einzelnen Durchlauf, nicht das Modell. Die Gewichte bleiben unangetastet, anders als beim gezielten Bearbeiten von Wissen. Und ein positiver Befund gilt für die getestete Aufgabe, nicht allgemein.

## Verwandte Begriffe

**Attribution Patching**, **Circuit**, **Knowledge Editing**, **Mechanistic Interpretability**, **Activation**, **Linear Probe**.