---
term: "Abuse Monitoring"
slug: "abuse-monitoring"
glossar_id: "G460"
variants: ["Missbrauchsüberwachung"]
category: "sicherheit-missbrauch-und-governance"
marker: ""
short: "Prüfung von Nutzung auf Missbrauch, gegebenenfalls mit entsprechenden Protokolldaten."
sources:
  - label: "Anthropic: API and data retention"
    url: "https://platform.claude.com/docs/en/manage-claude/api-and-data-retention"
  - label: "Ganguli et al.: Red Teaming Language Models to Reduce Harms"
    url: "https://arxiv.org/abs/2209.07858"
status: "entwurf"
updated: "2026-09-21"
---

Abuse Monitoring ist die Prüfung der Nutzung eines Dienstes auf Missbrauch: Versuche, schädliche Inhalte zu erzeugen, automatisierte Massennutzung, Umgehungsversuche. Anbieter betreiben das, um Auflagen zu erfüllen und Schäden zu begrenzen, und beschreiben in ihren Datenangaben, welche Daten dafür herangezogen werden. [Anthropic: API and data retention](https://platform.claude.com/docs/en/manage-claude/api-and-data-retention)

## Sicherheit und Vertraulichkeit stehen in Spannung

Die Prüfung setzt voraus, dass jemand oder etwas die Nutzung sieht. Damit steht sie in Spannung zu Zusagen über Nichtspeicherung und zu den Erwartungen von Kunden mit besonders schützenswerten Inhalten.

Dass Aufmerksamkeit nötig ist, zeigen Arbeiten zum gezielten Angreifen von Modellen: Schädliche Ausgaben entstehen nicht von selbst, sondern werden gesucht, und die Versuche entwickeln sich weiter. [Ganguli et al.](https://arxiv.org/abs/2209.07858)

## So kannst du dir das vorstellen

Die Videoüberwachung in einem Gebäude. Sie schafft Sicherheit und Unbehagen zugleich, und beides hängt daran, wer die Aufnahmen wie lange sieht. Das Bild erklärt den Zielkonflikt.

## Was es in der Praxis bedeutet

Bei der Auswahl eines Dienstes gehört die Frage dazu, welche Daten in die Prüfung eingehen, wie lange sie aufbewahrt werden, wer Einsicht hat und ob es für besonders schützenswerte Fälle abweichende Vereinbarungen gibt.

Im eigenen Haus spiegelt sich dieselbe Abwägung: Wer Prompts vollständig protokolliert, kann Vorfälle aufklären und schafft zugleich einen Datenbestand, der geschützt werden muss. Üblich sind gekürzte Protokolle mit kurzen Fristen und engem Zugriff.

## Wo es verwechselt wird

Missbrauchsprüfung ist keine inhaltliche Qualitätskontrolle deiner Anwendung, sondern eine Maßnahme des Anbieters. Und sie widerspricht nicht automatisch einer Zusage zur Nichtspeicherung, weil dafür eigene Regelungen gelten.

## Verwandte Begriffe

**Modified Abuse Monitoring**, **Data Retention**, **Zero Data Retention**, **Red Teaming**, **AI Governance**.