Sandbox

Eine Sandbox ist eine abgeschottete Umgebung, in der Code oder Aktionen ausgeführt werden, ohne dass sie auf die eigentliche Umgebung durchschlagen. Angeboten wird das etwa für die Codeausführung, die ausdrücklich in einem abgeschotteten Behälter läuft. Anthropic: Code execution tool

Abschottung ersetzt Vertrauen

Der Gedanke dahinter ist einfach: Statt darauf zu vertrauen, dass ein Modell nichts Schädliches erzeugt, begrenzt man, was überhaupt möglich ist. Fehler und Angriffe bleiben dann in der Umgebung, in der sie entstehen.

Für Agenten gilt das als übliche Vorsichtsmaßnahme, zusammen mit ausdrücklichen Schutzmaßnahmen, weil Selbständigkeit Fehler verstärkt. Anthropic: Building effective agents

So kannst du dir das vorstellen

Eine Werkstatt mit eigenem Stromkreis und abgeschlossener Tür. Wer dort etwas kaputt macht, macht es innerhalb der Werkstatt kaputt. Das Bild erklärt die Abschottung, nicht deren technische Grenzen.

Was es in der Praxis bedeutet

Zu einer brauchbaren Abschottung gehören mehrere Dinge: kein direkter Zugriff auf Produktivsysteme, begrenzter oder kein Netzzugang, begrenzte Laufzeit und Ressourcen, und ein definierter Weg, Ergebnisse herauszuholen.

Zu beachten ist die Flüchtigkeit: Was in der Umgebung liegt, ist nach dem Ende weg. Das ist erwünscht, verlangt aber eine bewusste Entscheidung, welche Ergebnisse gesichert werden.

Wo es verwechselt wird

Eine Sandbox schützt die Umgebung, nicht die Daten, die man selbst hineingibt. Und sie ist keine Garantie: Ausbrüche sind möglich, weshalb Abschottung mit begrenzten Rechten kombiniert gehört.

Verwandte Begriffe

Code Execution, Guardrails, Blast Radius, Scoped Credentials, Data Exfiltration.