Sicherheit, Missbrauch und Governance
AI Governance
Verantwortlichkeiten, Regeln und Kontrolle für den KI-Einsatz.
AI Governance regelt, wer im Unternehmen für den Einsatz von KI verantwortlich ist, welche Regeln gelten und wie deren Einhaltung geprüft wird. Ein verbreiteter Bezugsrahmen dafür stammt von der US-Normungsbehörde und beschreibt den Umgang mit Risiken für Einzelne, Organisationen und die Gesellschaft. NIST: AI Risk Management Framework
Regeln, Zuständigkeiten, Nachweise
Praktisch geht es um vier Fragen: Welche Anwendungsfälle sind erlaubt, wer entscheidet darüber, wie werden Risiken bewertet, und wie wird dokumentiert, dass die Regeln eingehalten werden.
In Europa kommt die gesetzliche Ebene dazu. Die KI-Verordnung verlangt für Hochrisikosysteme unter anderem menschliche Aufsicht, die so gestaltet sein muss, dass sie tatsächlich ausgeübt werden kann. EU-Verordnung über künstliche Intelligenz, Artikel 14
So kannst du dir das vorstellen
Die Arbeitsanweisungen und Zuständigkeiten in einem Betrieb mit Gefahrstoffen. Sie verhindern keinen Unfall von selbst, aber sie klären, wer was darf, wer prüft und was im Ernstfall passiert. Das Bild erklärt den organisatorischen Charakter.
Was es in der Praxis bedeutet
Für mittelständische Unternehmen reicht meist Schlichtes: eine Liste freigegebener Werkzeuge, eine Regel für den Umgang mit personenbezogenen und vertraulichen Daten, eine benannte Zuständigkeit und ein Weg, neue Anwendungsfälle prüfen zu lassen.
Wirksam wird das erst mit einem einfachen Freigabeweg. Wo die Genehmigung Wochen dauert, entsteht Nutzung an der Regel vorbei, und genau die lässt sich dann nicht mehr steuern.
Wo es verwechselt wird
Governance ist keine Technik und keine Sicherheitsmaßnahme im engeren Sinn, sondern die Organisation darum herum. Und sie ist nicht dasselbe wie Datenschutz, auch wenn beides zusammengehört.
Verwandte Begriffe
Responsible AI, EU AI Act, Shadow AI, Data Retention, Data Residency, Human-on-the-Loop, AI Safety.