Responsible AI

Responsible AI ist der Sammelbegriff für den Anspruch, KI so zu entwickeln und einzusetzen, dass die Folgen verantwortbar bleiben. Genannt werden dabei meist Nachvollziehbarkeit, Fairness, Sicherheit, Datenschutz und menschliche Aufsicht. Ein Rahmenwerk zum Risikomanagement bündelt solche Anforderungen. NIST: AI Risk Management Framework

Der Anspruch wird erst mit Messung konkret

Die Schwäche des Begriffs ist seine Weite: Fast jedes Unternehmen kann behaupten, verantwortungsvoll zu handeln. Greifbar wird er, wo Eigenschaften gemessen werden, die über Genauigkeit hinausgehen, etwa Robustheit, Verzerrung und Schädlichkeit, und wo Lücken offen benannt werden. Liang et al.

Im Unterschied zur Governance, die Zuständigkeiten und Regeln beschreibt, benennt dieser Begriff die Ziele.

So kannst du dir das vorstellen

Ein Leitbild im Betrieb. Es beschreibt, wie man arbeiten will, und wirkt nur, wo es in Abläufen auftaucht: in Prüfungen, Freigaben, Schulungen. Das Bild erklärt den Unterschied zwischen Anspruch und Praxis.

Was es in der Praxis bedeutet

Wenn ein Anbieter mit dem Begriff wirbt, lohnt die Rückfrage nach Belegen: Welche Prüfungen laufen, welche Ergebnisse werden veröffentlicht, wie wird mit Beschwerden umgegangen, was passiert bei einem Vorfall.

Im eigenen Haus hilft dieselbe Übersetzung. Aus dem Anspruch werden überprüfbare Punkte: Werden Nutzer darüber informiert, dass sie mit einem System sprechen? Gibt es einen Weg zum Menschen? Wird geprüft, ob Ausgaben Gruppen ungleich behandeln?

Wo es verwechselt wird

Der Begriff ist kein Zertifikat und kein Standard, sondern ein Anspruch. Und er ist nicht dasselbe wie Rechtskonformität: Erlaubt zu sein und verantwortbar zu sein, fällt nicht immer zusammen.

Verwandte Begriffe

AI Governance, EU AI Act, AI Safety, Algorithmic Bias, Evaluation, Human-in-the-Loop.